导航：首页 > 互联网科技 >

Python中怎么实现一个爬虫功能

发表于：2025-02-23 作者：千家信息网编辑

千家信息网最后更新 2025年02月23日，今天就跟大家聊聊有关Python中怎么实现一个爬虫功能，可能很多人都不太了解，为了让大家更加了解，小编给大家总结了以下内容，希望大家根据这篇文章可以有所收获。运行结果Python 2.6.6 (r26

千家信息网最后更新 2025年02月23日Python中怎么实现一个爬虫功能

今天就跟大家聊聊有关Python中怎么实现一个爬虫功能，可能很多人都不太了解，为了让大家更加了解，小编给大家总结了以下内容，希望大家根据这篇文章可以有所收获。

运行结果

Python 2.6.6 (r266:84292, Jun 20 2019, 14:14:55) [GCC 4.4.7 20120313 (Red Hat 4.4.7-23)] on linux2Type "help", "copyright", "credits" or "license" for more information.>>> import requestsTraceback (most recent call last):  File "", line 1, in   File "/usr/lib/python2.6/site-packages/requests/__init__.py", line 43, in     import urllib3  File "/usr/lib/python2.6/site-packages/urllib3/__init__.py", line 7, in     from .connectionpool import HTTPConnectionPool, HTTPSConnectionPool, connection_from_url  File "/usr/lib/python2.6/site-packages/urllib3/connectionpool.py", line 100    _blocking_errnos = {errno.EAGAIN, errno.EWOULDBLOCK}                                    ^SyntaxError: invalid syntax

由于Linux服务器上的Python版本为2.6.6，import requests就已经报错了，这个库是没法用了。这个错误我试了几种办法，都宣告失败。之前文章是在windows环境Python2.7下完成的。

你可能会说升级Python版本吧？我有过升级glibc把服务器搞死的惨痛教训，不敢再乱升级了，而且我试验的机器是24小时运行着其它系统的生产服务器，一旦升级出问题，会酿成生产事故的。所以我只能在2.6的Python下开发爬虫。使用urllib2库代替requests库，实现过程基本是一样的简单明了。代码如下

#coding=utf-8import urllib2exact_url='https://news.qq.com/zt2020/page/feiyan.htm'try:    r=urllib2.urlopen(exact_url) #抓取设定url的数据，可以改成你想获取的任意地址except urllib2.URLError,e:    print e.code    exit()    r.encoding='utf8'html=r.read() print html  #打印抓取的结果

所以如果你的服务器Python版本是2.6或者更低，尝试使用urllib2库吧！

低版本的Python还会出现无法安装mongodb的驱动包pymongo的情况，如下

这种情况可以选择MySQL的Python驱动包代替，pip安装MySQL的Python驱动包也不一定成功，我最后用yum安装成功的。

更奇葩的是2.6下，django也无法安装成功，