Python中如何使用正则表达式对文本类的数据进行提取
发表于:2024-11-17 作者:千家信息网编辑
千家信息网最后更新 2024年11月17日,小编给大家分享一下Python中如何使用正则表达式对文本类的数据进行提取,相信大部分人都还不怎么了解,因此分享这篇文章给大家参考一下,希望大家阅读完这篇文章后大有收获,下面让我们一起去了解一下吧!环境
千家信息网最后更新 2024年11月17日Python中如何使用正则表达式对文本类的数据进行提取
小编给大家分享一下Python中如何使用正则表达式对文本类的数据进行提取,相信大部分人都还不怎么了解,因此分享这篇文章给大家参考一下,希望大家阅读完这篇文章后大有收获,下面让我们一起去了解一下吧!
环境介绍:
python 3.6
pycharm
requests
re
json
爬虫的一般思路
1、确定爬取的url路径,headers参数
2、发送请求 -- requests 模拟浏览器发送请求,获取响应数据
3、解析数据 -- re模块:提供全部的正则表达式功能
4、保存数据 -- 保存json格式的数据
完整步骤:
1、安装库和导入模块
如果没有安装库的,可以WIN+R,然后输入cmd,最后输入代码安装
pip install requests
安装完成后可以输入代码查看你安装过所有的库:
pip list
导入模块
import requests import re import json
2、确定爬取的url路径,headers参数
base_url = 'https://www.guokr.com/ask/highlight/'headers = {'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/73.0.3683.86 Safari/537.36'}
3、发送请求 -- requests 模拟浏览器发送请求,获取响应数据
response = requests.get(base_url, headers=headers)data = response.text
4、解析数据 -- re模块:提供全部的正则表达式功能
href="https://www.guokr.com/question/669761/">印度人把男人的生殖器叫林伽,把女人的生殖器叫瑜尼,林伽和瑜尼的交合,便是瑜伽。这是真还是假的
编译正则表达式 预编译的代码对象比直接使用字符串要快,因为解释器在执行字符串形式的代码前都必须把字符串编译成代码对象
pattern = re.compile('
5、保存json格式的文件
with open("guoke01.json", 'w', encoding='utf-8') as f: f.write(json_data_list)
6.构建一个循环爬取
for page in range(1, 101): print("====正在爬取第{}业数据====\n".format(page))
优化代码,把page传递进去
base_url = 'https://www.guokr.com/ask/highlight/?page={}'.format(str(page))
把列表添加到for循环上面去
data_list = []
最后运行代码,效果如下图:
以上是"Python中如何使用正则表达式对文本类的数据进行提取"这篇文章的所有内容,感谢各位的阅读!相信大家都有了一定的了解,希望分享的内容对大家有所帮助,如果还想学习更多知识,欢迎关注行业资讯频道!
数据
代码
正则
表达式
模块
字符
字符串
篇文章
编译
输入
文本
内容
功能
参数
对象
格式
浏览器
生殖器
路径
循环
数据库的安全要保护哪些东西
数据库安全各自的含义是什么
生产安全数据库录入
数据库的安全性及管理
数据库安全策略包含哪些
海淀数据库安全审计系统
建立农村房屋安全信息数据库
易用的数据库客户端支持安全管理
连接数据库失败ssl安全错误
数据库的锁怎样保障安全
工业网络技术哪个适合女生
崇明区推广软件开发近期价格
怎么生成数据库文档
数据库的存储文件类型的概念
新媒体网络安全工作
计算机网络技术基础代谢减肥
深圳中辉互联网科技怎么样
安卓软件开发学校西安
数据库怎么升级
py2neo连接数据库名
大连软件开发商
山西通讯软件开发价格优惠
服务器能做哪些好玩的东西
服务器有必要进入安全模式吗
lol打开服务器是乱码
彭水县网络安全宣传
智慧团建录入数据库连接失败
智博网络安全创新
软件开发工程师app
英雄联盟手游难进服务器吗
计算机网络技术原理与实验
sap应用管理服务器
服务器自动生产线生产厂商
2022魔兽世界怀旧服新服务器
手机怎样连接服务器vivo
阿里软件开发工程师工资
汽车软件开发编程有哪些专业
韩顺平 数据库
上海市毅盟网络技术有限公司
软件开发公司岗位划分