1200字范文,内容丰富有趣,写作的好帮手!
1200字范文 > Python爬虫教程-26-Selenium + PhantomJS

Python爬虫教程-26-Selenium + PhantomJS

时间:2023-03-01 04:15:43

相关推荐

Python爬虫教程-26-Selenium + PhantomJS

Python爬虫教程-26-Selenium + PhantomJS

动态前端页面 :

JavaScript:

JavaScript一种直译式脚本语言,是一种动态类型、弱类型、基于原型的语言,内置支持类型。它的解释器被称为JavaScript引擎,为浏览器的一部分,广泛用于客户端的脚本语言,最早是在HTML(标准通用标记语言下的一个应用)网页上使用,用来给HTML网页增加动态功能jQuery:

jQuery是一个快速、简洁的JavaScript框架,是继Prototype之后又一个优秀的JavaScript代码库(或JavaScript框架)。jQuery设计的宗旨是“write Less,Do More”,即倡导写更少的代码,做更多的事情。它封装JavaScript常用的功能代码,提供一种简便的JavaScript设计模式,优化HTML文档操作、事件处理、动画设计和Ajax交互ajax:

Ajax 即“Asynchronous Javascript And XML”(异步 JavaScript 和 XML),是指一种创建交互式网页应用的网页开发技术。

Ajax = 异步 JavaScript 和 XML(标准通用标记语言的子集)。

Ajax 是一种用于创建快速动态网页的技术。

Ajax 是一种在无需重新加载整个网页的情况下,能够更新部分网页的技术。

通过在后台与服务器进行DHTML:

DHTML是Dynamic HTML的简称,就是动态的html(标准通用标记语言下的一个应用),是相对传统的静态的html而言的一种制作网页的概念。所谓动态HTML(Dynamic HTML,简称DHTML),其实并不是一门新的语言,它只是HTML、CSS和客户端脚本的一种集成,即一个页面中包括html+css+javascript(或其它客户端脚本),其中css和客户端脚本是直接在页面上写而不是链接上相关文件。DHTML不是一种技术、标准或规范,只是一种将目前已有的网页技术、语言标准整合运用,制作出能在下载后仍然能实时变换页面元素效果的网页设计概念

Python 采集动态数据

从 JavaScript 代码入手采集Python 第三方库运行 JavaScript,直接采集你在浏览器看到的页面

Selenium + PhantomJS

Selenium:web 自动化测试工具Selenium 官方文档:/docs/Selenium 的功能:

1.自动加载页面2.获取数据3.截屏 PhantomJS:基于 Webkit 的无界面浏览器

由 Selenium 操作 PhantomJS

selenium 的安装

如果使用的是 Anaconda:

进入当前环境:(我的环境名为learn,如果只有一个base环境,忽略此步)

activate learn

安装 selenium

conda install selenium

当然也可以直接在 Pycharm 进行安装

【PyCharm】>【file】>【settings】>【Project Interpreter】>【+】 >【selenium】>【install】具体操作截图:

PhantomJS 的安装

下载地址:/download.html根据自己操作系统版本下载,解压即可用

Selenium 的使用

Selenium 库有一个 WebDriver 的 API WebDriver 可以跟页面上的元素进行各种交互,用它可以来进行爬取注意:使用 PhantomJS 时自动按照环境变量查找相应浏览器,如果没有配置环境变量就将路径作为参数案例代码28dhtml.py文件:https://xpwi.github.io/py/py%E7%88%AC%E8%99%AB/py28dhtml.py

# Selenium 的使用# 通过 WebDriver 操作百度进行查找from selenium import webdriverimport time# 通过 Keys 模拟键盘# 也就是放入需要输入的东西,就不用键盘输入了from mon.keys import Keys# 操作哪个浏览器就对哪个浏览器创建一个实例,这里是 PhantomJS# 自动按照环境变量查找相应浏览器,如果没有配置环境变量就将路径作为参数driver = webdriver.PhantomJS(executable_path=r"D:\app\phantomjs-2.1.1-windows\bin\phantomjs.exe")driver.get("")# 通过函数查找 title 标签print("Title: {0}".format(driver.title))12345678910111213141516171819

运行结果

注意:如果没有配置环境变量就将自己的路径作为参数

红字不是出错,打印 title 成功才算使用成功

更多文章链接:Python 爬虫随笔

- 本笔记不允许任何个人和组织转载

本内容不代表本网观点和政治立场,如有侵犯你的权益请联系我们处理。
网友评论
网友评论仅供其表达个人看法,并不表明网站立场。