python通过selenium可以对网页进行截图,但是我有几个问题:
1.很多网站现在都有弹出广告,运用哪个模块或者哪些应该可以过滤掉广告?
2.如果想根据某些内容来进行截图,比如根据标题,是否可以通过找到标题所在的位置(指的是坐标点)进行截图?
3.如果想要截图的内容过长(长度长过屏幕的长度,需要下拉滚动条),是否可以一次性截下来?
我觉得要实现自动化截屏,以上问题需要解决,有没有高手告诉一下方法啊?
使用selenium,webdriver,实现网页自动化操作,自动搜索,截图
Selenium 是一个可以让浏览器自动化地执行一系列任务的工具,常用于自动化测试。不过,也可以用来给网页截图。目前,它支持 Java、C#、Ruby 以及 Python 四种客户端语言。如果你使用 Python,则只需要在命令行里输入“sudo easy_install selenium”并回车,即可安装 selenium 的 Python 版本的客户端支持。
以 Python 为例,我们可以使用下面的脚本来给指定页面(比如脚本之家首页)截图:
?
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
#
#
from selenium import webdriver
import time
def capture(url, save_fn="capture.png"):
browser = webdriver.Firefox() # Get local session of firefox
browser.set_window_size(1200, 900)
browser.get(url) # Load page
browser.execute_script("""
(function () {
var y = 0;
var step = 100;
window.scroll(0, 0);
function f() {
if (y < document.body.scrollHeight) {
y += step;
window.scroll(0, y);
setTimeout(f, 50);
} else {
window.scroll(0, 0);
document.title += "scroll-done";
}
}
setTimeout(f, 1000);
})();
""")
for i in xrange(30):
if "scroll-done" in browser.title:
break
time.sleep(1)
browser.save_screenshot(save_fn)
browser.close()
if name == "__main__":
capture("http://www.jb51.net")
注意到,上面的代码中,我并没有在打开页面后立即截图,而是先在页面上执行了一段 JavaScript 脚本,先将页面的滚动条拖到最下方,再拖回顶部,然后才截图。这样的好处是如果页面下方有一些延迟加载的内容,在这个操作之后一般也都已加载了。
与 PageSaver 等浏览器插件相比,Selenium 功能更为强大,例如,它可以在页面上注入并执行一段 JS,还可以模拟鼠标点击等行为,而且可以同时运行多个实例(多个线程同时截图)。这样看来,使用 Selenium 来给页面截图似乎是一个不错的选择。
可以使用浏览器的插件功能自动屏蔽广告再进行截屏操作
可以使用selenium.find_element.......定位元素后截图
利用webdirver.PhantomJS()进行整页截图