• 企业400电话
  • 微网小程序
  • AI电话机器人
  • 电商代运营
  • 全 部 栏 目

    企业400电话 网络优化推广 AI电话机器人 呼叫中心 网站建设 商标✡知产 微网小程序 电商运营 彩铃•短信 增值拓展业务
    python爬取豆瓣电影TOP250数据

    在执行程序前,先在MySQL中创建一个数据库"pachong"。

    import pymysql
    import requests
    import re
    
    
    #获取资源并下载
    def resp(listURL):
        #连接数据库
        conn = pymysql.connect(
            host = '127.0.0.1',
            port = 3306,
            user = 'root',
            password = '******',  #数据库密码请根据自身实际密码输入
            database = 'pachong', 
            charset = 'utf8'
        )
    
        #创建数据库游标
        cursor = conn.cursor()
    
        #创建列表t_movieTOP250(执行sql语句)
        cursor.execute('create table t_movieTOP250(id INT PRIMARY KEY 												auto_increment NOT NULL ,movieName VARCHAR(20) NOT NULL 									,pictrue_address VARCHAR(100))')
    
        try:
            # 爬取数据
            for urlPath in listURL:
                # 获取网页源代码
                response = requests.get(urlPath)
                html = response.text
    
                # 正则表达式
                namePat = r'alt="(.*?)" src='
                imgPat = r'src="(.*?)" class='
    
                # 匹配正则(排名【用数据库中id代替,自动生成及排序】、电影名、电影海报(图片地址))
                res2 = re.compile(namePat)
                res3 = re.compile(imgPat)
                textList2 = res2.findall(html)
                textList3 = res3.findall(html)
    
                # 遍历列表中元素,并将数据存入数据库
                for i in range(len(textList3)):
                    cursor.execute('insert into t_movieTOP250(movieName,pictrue_address) 									VALUES("%s","%s")' % (textList2[i],textList3[i]))
    
            #从游标中获取结果
            cursor.fetchall()
    
            #提交结果
            conn.commit()
            print("结果已提交")
    
        except Exception as e:
            #数据回滚
            conn.rollback()
            print("数据已回滚")
    
        #关闭数据库
        conn.close()
    
    #top250所有网页网址
    def page(url):
        urlList = []
        for i in range(10):
            num = str(25*i)
            pagePat = r'?start=' + num + 'filter='
            urL = url+pagePat
            urlList.append(urL)
        return urlList
    
    
    if __name__ == '__main__':
        url = r"https://movie.douban.com/top250"
        listURL = page(url)
        resp(listURL)

    结果如下图:

    以上就是我的分享,如果有什么不足之处请指出,多交流,谢谢!

    以上就是python爬取豆瓣电影TOP250数据的详细内容,更多关于python爬取豆瓣电影的资料请关注脚本之家其它相关文章!

    您可能感兴趣的文章:
    • Python爬虫之自动爬取某车之家各车销售数据
    • Python数据分析之Python和Selenium爬取BOSS直聘岗位
    • Python爬虫之爬取某文库文档数据
    • Python爬虫之爬取2020女团选秀数据
    • python爬虫之教你如何爬取地理数据
    • python基于scrapy爬取京东笔记本电脑数据并进行简单处理和分析
    • Python爬取腾讯疫情实时数据并存储到mysql数据库的示例代码
    • python利用xpath爬取网上数据并存储到django模型中
    • 单身狗福利?Python爬取某婚恋网征婚数据
    上一篇:基于Python绘制子图及子图刻度的变换等的问题
    下一篇:python办公自动化之excel的操作
  • 相关文章
  • 

    © 2016-2020 巨人网络通讯 版权所有

    《增值电信业务经营许可证》 苏ICP备15040257号-8

    python爬取豆瓣电影TOP250数据 python,爬取,豆瓣,电影,TOP250,