Python案例：使用正则表达式的爬虫（python正则表达式实验报告）

Python案例：使用正则表达式的爬虫（python正则表达式实验报告）

案例：使用正则表达式的爬虫

现在拥有了正则表达式这把神兵利器，我们就可以进行对爬取到的全部网页源代码进行筛选了。

下面我们一起尝试一下爬取内涵段子网站： ​​//neihan8.com/article/list_5_1 .html第二页url: //neihan8.com/article/list_5_2 .html第三页url: //neihan8.com/article/list_5_3 .html第四页url: //neihan8.com/article/list_5_4 .html

这样我们的url规律找到了，要想爬取所有的段子，只需要修改一个参数即可。 下面我们就开始一步一步将所有的段子爬取下来吧。

第一步：获取数据

1. 按照我们之前的用法，我们需要写一个加载页面的方法。

这里我们统一定义一个类，将url请求作为一个成员方法处理。

我们创建一个文件，叫duanzi_spider.py

然后定义一个Spider类，并且添加一个加载页面的成员方法

import urllib2class Spider: """ 内涵段子爬虫类 """ def loadPage(self, page): """ @brief 定义一个url请求网页的方法 @param page 需要请求的第几页 @returns 返回的页面html """ url = "+ str(page)+ ".html" #User-Agent头 user_agent = 'Mozilla/5.0 (compatible; MSIE 9.0; Windows NT6.1; Trident/5.0' headers = {'User-Agent': user_agent} req = urllib2.Request(url, headers = headers) response = urllib2.urlopen(req) html = response.read() print html #return html

以上的loadPage的实现体想必大家应该很熟悉了，需要注意定义python类的成员方法需要额外添加一个参数​​self​​.

那么loadPage(self, page) 中的page是我们指定去请求第几页。最后通过 print html打印到屏幕上。然后我们写一个main函数见到测试一个loadPage方法

2. 写main函数测试一个loadPage方法

if __name__ == '__main__': """ ====================== 内涵段子小爬虫 ====================== """ print '请按下回车开始' raw_input() #定义一个Spider对象 mySpider = Spider() mySpider.loadpage(1)

程序正常执行的话，我们会在屏幕上打印了内涵段子第一页的全部html代码。 但是我们发现，html中的中文部分显示的可能是乱码 。

那么我们需要简单的将得到的网页源代码处理一下：

def loadPage(self, page): """ @brief 定义一个url请求网页的方法 @param page 需要请求的第几页 @returns 返回的页面html """ url = "+ str(page)+ ".html" #User-Agent头 user_agent = 'Mozilla/5.0 (compatible; MSIE 9.0; Windows NT6.1; Trident/5.0' headers = {'User-Agent': user_agent} req = urllib2.Request(url, headers = headers) response = urllib2.urlopen(req) html = response.read() gbk_html = html.decode('gbk').encode('utf-8') # print gbk_html return gbk_html

注意 ：对于每个网站对中文的编码各自不同，所以html.decode(‘gbk’)的写法并不是通用写法，根据网站的编码而异

这样我们再次执行以下duanzi_spider.py ，会发现之前的中文乱码可以正常显示了。

第二步：筛选数据

接下来我们已经得到了整个页面的数据。 但是，很多内容我们并不关心，所以下一步我们需要进行筛选。 如何筛选，就用到了上一节讲述的正则表达式。

首先

import re

然后, 在我们得到的​​gbk_html​​中进行筛选匹配。

我们需要一个匹配规则:

所以，我们只需要匹配到网页中所有​​

根据正则表达式，我们可以推算出一个公式是:

​​(.*?)