【Python技能树共建】python selectolax 模块

网友投稿 382 2022-09-02


【Python技能树共建】python selectolax 模块

Python selectolax 模块是什么

在 Python 爬虫中 selectolax 模块用于解析网页源码,而且效率非常快。

开源地址为:selectolax

模块安装使用下述命令

pip install selectolax

怎么用

上手案例

from selectolax.parser import HTMLParser html = """ 梦想橡皮擦

Lorem Ipsum is simply dummy text of the printing and typesetting industry.
Lorem ipsum dolor sit amet, consectetur adipiscing elit.
""" tree = HTMLParser(html) ret = tree.css_first('h1#title').text() print(ret)

导入模块 parser 中的 HTMLParser 类,就可以对网页源码进行格式化操作,然后执行 css_first() 方法,提取网页内容。其语法格式类似于 cssselect 模块,即 CSS 选择器。

其中 .text() 方法为获取文本内容,.attributes 可以获取标签属性。

如果想要获取网页中多个元素,可以使用下述代码。

rets = [node.text() for node in tree.css('.post')] print(rets)

更多的方法和属性

一些简单的属性如下所示。

from selectolax.parser import HTMLParser import requests html = requests.get('https://example.com/').text parser = HTMLParser(html) print(parser.head) # 头标签信息 print(parser.root) # 根标签信息

还可以移除指定标签,例如下述代码,用到的方法是 strip_tags()。

from selectolax.parser import HTMLParser tree = HTMLParser('

Hello world!
') tags = ['head', 'style', 'script', 'xmp', 'iframe', 'noembed', 'noframes'] tree.strip_tags(tags) print(tree.html) # '
Hello world!
'

标签对象 Node

在上文中使用 css_first() 方法得到的是 Node 对象,其常用的属性有 attributes,获取标签属性,child 获取标签子节点。

css() 在当前标签继续查找,html 属性用于获取当前标签的 HTML 代码,其余内容,阅读文档即可理解,不在赘述。

扩展场景

Selectolax 支持两个解析引擎:Modern 和 Lexbor。默认情况下使用 Modern,二者大多数功能相同,差异如下所示。

Lexbor 后端处于测试阶段,缺少一些功能。

from selectolax.lexbor import LexborHTMLParser html = """ 梦想橡皮擦

爬虫爱好者
""" parser = LexborHTMLParser(html) ret = parser.root.css_first("#updated").text() print(ret)

参考资料:官方手册


版权声明:本文内容由网络用户投稿,版权归原作者所有,本站不拥有其著作权,亦不承担相应法律责任。如果您发现本站中有涉嫌抄袭或描述失实的内容,请联系我们jiasou666@gmail.com 处理,核实后本网站将在24小时内删除侵权内容。

上一篇:Java实现输出数字三角形实例代码
下一篇:玩转Python日志模块(logging)(python 日志文件)
相关文章

 发表评论

暂时没有评论,来抢沙发吧~