• 企业400电话
  • 网络优化推广
  • AI电话机器人
  • 呼叫中心
  • 全 部 栏 目

    网站建设 商标✡知产 微网小程序 电商运营 彩铃•短信 增值拓展业务
    Python爬虫基础之requestes模块
    POST TIME:2021-10-18 14:09

    一、爬虫的流程

    开始学习爬虫,我们必须了解爬虫的流程框架。在我看来爬虫的流程大概就是三步,即不论我们爬取的是什么数据,总是可以把爬虫的流程归纳总结为这三步:

    1.指定 url,可以简单的理解为指定要爬取的网址

    2.发送请求。requests 模块的请求一般为 get 和 post

    3.将爬取的数据存储

    二、requests模块的导入

    因为 requests 模块属于外部库,所以需要我们自己导入库

    导入的步骤:

    1.右键Windows图标

    2.点击“运行”

    3.输入“cmd”打开命令面板

    4.输入“pip install requests”,等待下载完成

    如图:


    如果还是下载失败,我的建议是百度一下,你就知道(我也是边学边写,是在是水平有限)

    欧克,既然导入成功后我们就简单的来爬取一下搜狗的首页吧!

    三、完整代码

    import requests
    
    if __name__ == "__main__":
        # 指定url
        url = "https://www.sougou.com/"
    
        # 发起请求
        # get方法会返回一个响应数据
        response = requests.get(url)
    
        # 获取响应数据
        page_txt = response.text # text返回一个字符串的响应数据
        # print(page_txt)
    
        # 存储
        with open("./sougou.html", "w", encoding = "utf-8") as fp:
            fp.write(page_txt)
    
        print("爬取数据结束!!!")
    

    我们打开保存的文件,如图

    欧克,这就是最基本的爬取,如果学会了,那就试一试爬取 B站 的首页吧。

    到此这篇关于Python爬虫基础之requestes模块的文章就介绍到这了,更多相关Python requestes模块内容请搜索脚本之家以前的文章或继续浏览下面的相关文章希望大家以后多多支持脚本之家!

    您可能感兴趣的文章:
    • python—sys模块之获取参数的操作
    • Python协程asyncio模块的演变及高级用法
    • python process模块的使用简介
    • 聊一聊python常用的编程模块
    • python文件目录操作之os模块
    • Python collections模块的使用技巧
    • Python使用random模块实现掷骰子游戏的示例代码
    • Python多线程编程之threading模块详解
    • python通配符之glob模块的使用详解
    • Python基础之模块相关知识总结
    上一篇:Django利用Cookie实现反爬虫的例子
    下一篇:python爬虫基础之简易网页搜集器
  • 相关文章
  • 

    关于我们 | 付款方式 | 荣誉资质 | 业务提交 | 代理合作


    © 2016-2020 巨人网络通讯

    时间:9:00-21:00 (节假日不休)

    地址:江苏信息产业基地11号楼四层

    《增值电信业务经营许可证》 苏B2-20120278

    X

    截屏,微信识别二维码

    微信号:veteran88

    (点击微信号复制,添加好友)

     打开微信