千家信息网

Python中怎么利用Mitmproxy爬取公众号文章

发表于:2024-11-19 作者:千家信息网编辑
千家信息网最后更新 2024年11月19日,Python中怎么利用Mitmproxy爬取公众号文章,针对这个问题,这篇文章详细介绍了相对应的分析和解答,希望可以帮助更多想解决这个问题的小伙伴找到更简单易行的方法。将手机端的代理IP设为pc端的I
千家信息网最后更新 2024年11月19日Python中怎么利用Mitmproxy爬取公众号文章

Python中怎么利用Mitmproxy爬取公众号文章,针对这个问题,这篇文章详细介绍了相对应的分析和解答,希望可以帮助更多想解决这个问题的小伙伴找到更简单易行的方法。

将手机端的代理IP设为pc端的IP地址

当我们安装好证书后,就可以进行如下操作。首先在pc端的开始栏输入cmd,然后输入控制命令ipconfig,查看pc端的IP地址,如下图;

然后在手机端的所连接的wifi选项中打开代理ip手动设置,用户名填入IPv4地址,端口一般设为8080即可。

爬取文章阅读信息

完成上述操作后,我们就进行py代码的如下操作。

代码修改操作

在参考博客中我们只需要修改wxCrawler.py这个py代码即可,其余代码均可不必修改,因为该代码是爬取文章的关键。我们将wxCrawler.py代码的爬取链接改为爬取到的文章的阅读信息即可;wxCrawler.py在for循环处导入参考博客text_01.py代码类传入相应的参数,(参考博客为articles.py代码);只做这一处修改即可完成爬取公众号文章阅读信息。

text_01.py代码

修改后的wxCrawler.py代码

运行结果示例:

以该公众号为例的测试结果图为;

注意事项

事项1:将所有的py代码放入同一个文件夹。

事项2:阅读该博客前,请先阅读参考博客和关于参考博客难点介绍的那篇博客。

事项3:尽量用pycharm打开文件夹运行py代码。

事项4:参考博客中的代码存在代码缩进,符号等问题,在上一篇博客我已经将其修改完毕,只需要将wxCrawler.py代码改为修改后的代码然后加入text_01.py代码即可。

关于Python中怎么利用Mitmproxy爬取公众号文章问题的解答就分享到这里了,希望以上内容可以对大家有一定的帮助,如果你还有很多疑惑没有解开,可以关注行业资讯频道了解更多相关知识。

0