python爬取豆瓣电影TOP250数据的代码怎么写
发表于:2025-01-18 作者:千家信息网编辑
千家信息网最后更新 2025年01月18日,今天小编给大家分享一下python爬取豆瓣电影TOP250数据的代码怎么写的相关知识点,内容详细,逻辑清晰,相信大部分人都还太了解这方面的知识,所以分享这篇文章给大家参考一下,希望大家阅读完这篇文章后
千家信息网最后更新 2025年01月18日python爬取豆瓣电影TOP250数据的代码怎么写
今天小编给大家分享一下python爬取豆瓣电影TOP250数据的代码怎么写的相关知识点,内容详细,逻辑清晰,相信大部分人都还太了解这方面的知识,所以分享这篇文章给大家参考一下,希望大家阅读完这篇文章后有所收获,下面我们一起来了解一下吧。
在执行程序前,先在MySQL中创建一个数据库"pachong"。
import pymysqlimport requestsimport re#获取资源并下载def resp(listURL): #连接数据库 conn = pymysql.connect( host = '127.0.0.1', port = 3306, user = 'root', password = '******', #数据库密码请根据自身实际密码输入 database = 'pachong', charset = 'utf8' ) #创建数据库游标 cursor = conn.cursor() #创建列表t_movieTOP250(执行sql语句) cursor.execute('create table t_movieTOP250(id INT PRIMARY KEY auto_increment NOT NULL ,movieName VARCHAR(20) NOT NULL ,pictrue_address VARCHAR(100))') try: # 爬取数据 for urlPath in listURL: # 获取网页源代码 response = requests.get(urlPath) html = response.text # 正则表达式 namePat = r'alt="(.*?)" src=' imgPat = r'src="https://atts.yisu.com/attachments/(.*?)" class=' # 匹配正则(排名【用数据库中id代替,自动生成及排序】、电影名、电影海报(图片地址)) res2 = re.compile(namePat) res3 = re.compile(imgPat) textList2 = res2.findall(html) textList3 = res3.findall(html) # 遍历列表中元素,并将数据存入数据库 for i in range(len(textList3)): cursor.execute('insert into t_movieTOP250(movieName,pictrue_address) VALUES("%s","%s")' % (textList2[i],textList3[i])) #从游标中获取结果 cursor.fetchall() #提交结果 conn.commit() print("结果已提交") except Exception as e: #数据回滚 conn.rollback() print("数据已回滚") #关闭数据库 conn.close()#top250所有网页网址def page(url): urlList = [] for i in range(10): num = str(25*i) pagePat = r'?start=' + num + '&filter=' urL = url+pagePat urlList.append(urL) return urlListif __name__ == '__main__': url = r"https://movie.douban.com/top250" listURL = page(url) resp(listURL)
以上就是"python爬取豆瓣电影TOP250数据的代码怎么写"这篇文章的所有内容,感谢各位的阅读!相信大家阅读完这篇文章都有很大的收获,小编每天都会为大家更新不同的知识,如果还想学习更多的知识,请关注行业资讯频道。
数据
数据库
电影
知识
篇文章
结果
代码
豆瓣
内容
密码
正则
游标
网页
不同
很大
元素
图片
地址
大部分
实际
数据库的安全要保护哪些东西
数据库安全各自的含义是什么
生产安全数据库录入
数据库的安全性及管理
数据库安全策略包含哪些
海淀数据库安全审计系统
建立农村房屋安全信息数据库
易用的数据库客户端支持安全管理
连接数据库失败ssl安全错误
数据库的锁怎样保障安全
华众网络安全
飞塔网络安全系统费用
给自己的电脑装了一台服务器
软件开发技术协议 框架
南京毕马威软件开发
方舟进化服务器怎么作弊
学信网查重用的什么数据库
虚拟机是虚拟服务器吗
数据库isnull
平城区新时代网络安全
服务器消音
上海富友金融网络技术
sqlite嵌入式数据库
教育软件开发的工作
香橙派搭建服务器
我的世界服务器招募管理员
history数据库
数据库删除字段的语句
94aw服务器在哪
沈阳商贸软件开发
用数据库的公司
查找手机连接不上服务器
市网络安全应急管理中心好吗
网络安全建设存在问题
vs 如何使用数据库
分析网络安全行为
我的世界服务器排名
网络安全高管 偷盗比特币
关系型数据库在第几章
c 数据库线程安全