Python之Selenium如何正确运用?案例详解(pythonselenium实战)

网友投稿 356 2022-06-22


Selenium是一个自动化测试工具,利用它可以驱动浏览器执行特定的动作,如点击、下拉等操作,同时还可以获取浏览器当前呈现的页面的源代码,做到可见即可爬。对于一些JavaScript动态渲染的页面来说,此种抓取方式非常有效。本节中,就让我们来感受一下它的强大之处吧。

1. 准备工作

本节以Chrome为例来讲解Selenium的用法。在开始之前,请确保已经正确安装好了Chrome浏览器并配置好了ChromeDriver。另外,还需要正确安装好Python的Selenium库,详细的安装和配置过程可以参考第1章。

2. 基本使用

准备工作做好之后,首先来大体看一下Selenium有一些怎样的功能。示例如下:

1

2

3

4

5

6

7

8

9

10

11

12

13

14

15

16

17

18

from selenium import webdriver

from selenium.webdriver.common.by import By

from selenium.webdriver.common.keys import Keys

from selenium.webdriver.support import expected_conditions as EC

from selenium.webdriver.support.wait import WebDriverWait

browser = webdriver.Chrome()

try:

    browser.get('https://baidu.com')

    input = browser.find_element_by_id('kw')

    input.send_keys('Python')

    input.send_keys(Keys.ENTER)

    wait = WebDriverWait(browser, 10)

    wait.until(EC.presence_of_element_located((By.ID, 'content_left')))

    print(browser.current_url)

    print(browser.get_cookies())

    print(browser.page_source)

finally:

    browser.close()另外注意:光理论是不够的。这里顺便送大家一套2020最新python入门到高级项目实战视频教程,可以去小编的Python交流.裙 :七衣衣九七七巴而五(数字的谐音)转换下可以找到了,还可以跟老司机交流讨教!

运行代码后发现,会自动弹出一个Chrome浏览器。浏览器首先会跳转到百度,然后在搜索框中输入Python,接着跳转到搜索结果页,如图7-1所示。

图7-1 运行结果

搜索结果加载出来后,控制台分别会输出当前的URL、当前的Cookies和网页源代码:

1

2

3

4

5

6

7

8

9

https://baidu.com/s?ie=utf-8&f=8&rsv_bp=0&rsv_idx=1&tn=baidu&wd=Python&rsv_pq=c94d0df9000a72d0&rsv_t= 

07099xvun1ZmC0bf6eQvygJ43IUTTUOl5FCJVPgwG2YREs70GplJjH2F%2BCQ&rqlang=cn&rsv_enter=1&rsv_sug3=6&rsv_sug2=

0&inputT=87&rsv_sug4=87

[{'secure': False, 'value': 'B490B5EBF6F3CD402E515D22BCDA1598', 'domain': '.baidu.com', 'path': '/', 'httpOnly': 

False, 'name': 'BDORZ', 'expiry': 1491688071.707553}, {'secure': False, 'value': '22473_1441_21084_17001', 

'domain': '.baidu.com', 'path': '/', 'httpOnly': False, 'name': 'H_PS_PSSID'}, {'secure': False, 'value': 

'12883875381399993259_00_0_I_R_2_0303_C02F_N_I_I_0', 'domain': '.baidu.com', 'path': '/', 'httpOnly': False, 

'name': '__bsi', 'expiry': 1491601676.69722}]

...


版权声明:本文内容由网络用户投稿,版权归原作者所有,本站不拥有其著作权,亦不承担相应法律责任。如果您发现本站中有涉嫌抄袭或描述失实的内容,请联系我们jiasou666@gmail.com 处理,核实后本网站将在24小时内删除侵权内容。

上一篇:pandas.cut使用总结
下一篇:Python爬虫是如何遍历文档树呢?一招教你
相关文章

 发表评论

暂时没有评论,来抢沙发吧~