[Python爬蟲] Selenium自動訪問Firefox和Chrome並實現搜索截圖

        前兩篇文章介紹了安裝，此篇文章算是一個簡單的進階應用吧！它是在Windows下通過Selenium+Python實現自動訪問Firefox和Chrome並實現搜索截圖的功能。
        [Python爬蟲] 在Windows下安裝PhantomJS和CasperJS及入門介紹(上)
        [Python爬蟲] 在Windows下安裝PIP+Phantomjs+Selenium

自動訪問Firefox

        可以參照前文安裝Selenium環境，目前Selenium這個用於Web應用程序測試的工具支持的瀏覽器包括IE、Mozilla Firefox、Mozilla Suite、Chrome等。但是由於Firefox是默認安裝路徑，webdriver可以正常訪問它，而Chrome和IE需要設置driver路徑。

from selenium import webdriver
from selenium.webdriver.common.keys import Keys
import sys 

reload(sys) 
sys.setdefaultencoding('gb18030') 
driver = webdriver.Firefox()
driver.get("http://www.baidu.com")
assert "百度" in driver.title
elem = driver.find_element_by_name("wd")
elem.send_keys("Eastmount")
elem.send_keys(Keys.RETURN)
assert "谷歌" in driver.title
driver.save_screenshot('baidu.png')
driver.close()
driver.quit()

        運行效果如下圖所示，自動調用Firefox瀏覽器搜索，同時輸出斷言錯誤：
        assert "谷歌" in driver.title AssertionError

 

源碼分析

        官方文檔地址： http://selenium-python.readthedocs.org/getting-started.html

from selenium import webdriver
       from selenium.webdriver.common.keys import Keys
       import sys

        首先導入Selenium.webdriver模板，它提供了webdriver的實現方法，目前支持這些方法的有Firefox、Chrome、IE和Remote。同時導入Keys類，它提供了操作鍵盤的快捷鍵，如RETURE、F1、ALT等。最后導入sys主要是設置編碼方式。

reload(sys)
       sys.setdefaultencoding('gb18030') 

        由於漢語中可能會遇到錯誤：
        UnicodeDecodeError: 'ascii' codec can't decode byte 0xc4 in position 33
        UnicodeDecodeError: 'utf8' codec can't decode byte 0xb0 in position 35
        所以此處轉換成gb編碼，該篇不重點介紹了。

driver = webdriver.Firefox()
       driver.get("http://www.baidu.com")

        創建Firefoxwebdriver實例。其中Firefox最簡單，其他Chrome還需要driver和配置路徑。接下來通過driver.get()打開百度URL網頁，webdriver會等待網頁元素加載完成之后才把控制權交回腳本。但是，如果要打開了頁面在加載的過程中包含了很多AJAX，webdriver可能無法准確判斷頁面何時加載完成。

assert "百度" in driver.title
       assert "谷歌" in driver.title

         接下來使用斷言判斷文章的標題Title是否包含“百度”和“谷歌”。對應的標題是“百度一下，你就知道”，所以其中“百度”包括，而“谷歌”會出現斷言報錯。
        同時提交頁面並獲得返回結果，為了判斷結果是否成功返回也可以使用斷言。

elem = driver.find_element_by_name("wd")

        webdriver提供了很多如find_element_by_*的方法來匹配要查找的元素。如利用name屬性查找方法find_element_by_name來定位輸入框，審查元素name=wd。
        元素定位方法可以參考官網： Locating Elements

elem.send_keys("Eastmount")

elem.send_keys(Keys.RETURN)

        send_keys方法可以用來模擬鍵盤操作，相當於是在搜索框中輸入“Eastmount”再按回車鍵搜索。但首先要從selenium.webdriver.common.keys導入Keys類。

driver.save_screenshot('baidu.png')

driver.close()

driver.quit()

        最后是調用save_screenshot進行截圖，但是圖片是過程中的，怎樣獲取最后加載的圖片呢？同時，操作完成並關閉瀏覽器。當然，也可以調用quit（）方法，兩者的區別在於：quit（）方法會退出瀏覽器，而close（）方法只是關閉頁面，但如果只有一個頁面被打開，close（）方法同樣會退出瀏覽器。


自動訪問Chrome

        首先下載 chromedriver並置於Chrome安裝目錄。可能會遇到錯誤：
        WebDriverException: Message: 'chromedriver' executable needs to be in PATH.參考官網解決方法： How to use chromedriver，我采用的是設置driver環境。
        代碼如下：

import os
from selenium import webdriver
from selenium.webdriver.common.keys import Keys

chromedriver = "C:\Program Files (x86)\Google\Chrome\Application\chromedriver.exe"
os.environ["webdriver.chrome.driver"] = chromedriver

driver = webdriver.Chrome(chromedriver)
driver.get("http://www.python.org")
assert "Python" in driver.title
elem = driver.find_element_by_name("q")
elem.send_keys("selenium")
elem.send_keys(Keys.RETURN)
assert "Google" in driver.title
driver.close()
driver.quit()

 

        需要放置chromedriver如下路徑，同時可以通過代碼設置。但是由於我的Chrome可能Bug一直未修復，總是打開錯誤。

driver = webdriver.Chrome(executable_path="G:\chromedriver.exe")

 

參考資料：

         用python玩轉selenium：2-入門實例及分析 - Reiki
         構建Python+Selenium2自動化測試環境<二>：IE、Chrome和Firefox運行
         用selenium實現某微博搜索數據的抓取
         RobotFramework+seleniumlibrary Web自動化測試 (三)

        最后希望該篇基礎性文章對你有所幫助吧！如果有不足之處，還請海涵~
      （By:Eastmount 2015-8-20 下午4點    http://blog.csdn.net/eastmount/）