python+selenium+Chrome options參數
Chrome Options常用的行為一般有以下幾種:
禁止圖片和視頻的加載:提升網頁加載速度。
添加代理:用於FQ訪問某些頁面,或者應對IP訪問頻率限制的反爬技術。
使用移動頭:訪問移動端的站點,一般這種站點的反爬技術比較薄弱。
添加擴展:像正常使用瀏覽器一樣的功能。
設置編碼:應對中文站,防止亂碼。
阻止JavaScript執行
...
Chrome Options是一個配置chrome啟動時屬性的類,通過這個參數我們可以為Chrome添加如下參數:
設置 chrome 二進制文件位置 (binary_location)
添加啟動參數 (add_argument)
添加擴展應用 (add_extension, add_encoded_extension)
添加實驗性質的設置參數 (add_experimental_option)
設置調試器地址 (debugger_address)
針對編碼格式的操作
# 設置默認編碼為 utf-8
from selenium import webdriver
options = webdriver.ChromeOptions()
options.add_argument('lang=zh_CN.UTF-8')
driver = webdriver.Chrome(chrome_options = options)
針對UA請求頭的操作
# 設置請求頭為huaweiMeta10 Pro
from selenium import webdriver
options = webdriver.ChromeOptions()
options.add_argument('User-Agent=Mozilla/5.0 (Linux; U; Android 8.1.0; zh-cn; BLA-AL00 Build/HUAWEIBLA-AL00) AppleWebKit/537.36 (KHTML, like Gecko) Version/4.0 Chrome/57.0.2987.132 MQQBrowser/8.9 Mobile Safari/537.36')
options.add_argument('--headless') # 瀏覽器不提供可視化頁面
driver = webdriver.Chrome(chrome_options = options)
http://www.fynas.com/ua
針對禁止加載圖片的操作
# 設置瀏覽器禁止加載圖片
from selenium import webdriver
options = webdriver.ChromeOptions()
prefs = {"profile.managed_default_content_settings.images": 2}
options.add_experimental_option("prefs", prefs)
driver = webdriver.Chrome(chrome_options = options)
針對IP代理的操作
特別需要注意,在選擇代理時,盡量選擇靜態IP,才能提升爬取的穩定性。如果使用動態匿名IP,每個IP的存活時間是很短的。
# 設置無賬號密碼的代理
chromeOptions = webdriver.ChromeOptions()
chromeOptions.add_argument('--proxy-server=http://ip:port')
driver = webdriver.Chrome(chrome_options=chromeOptions)
# 設置有賬號密碼的代理
proxyauth_plugin_path = create_proxyauth_extension(
proxy_host='host',
proxy_port='port',
proxy_username="username",
proxy_password="password"
)
options.add_extension(proxyauth_plugin_path)
查看IP地址的鏈接:http://httpbin.org/ip
針對添加插件的操作
# 添加xpath helper應用
from selenium import webdriver
chrome_options = webdriver.ChromeOptions()
# 設置好應用擴展
extension_path = 'your file_path'
chrome_options.add_extension(extension_path)
針對登錄時關閉彈出的密碼保存提示框
from selenium import webdriver
from selenium.webdriver.common.by import By
options = webdriver.ChromeOptions()
prefs = {}
# 設置這兩個參數就可以避免密碼提示框的彈出
prefs[“credentials_enable_service”] = False
prefs[“profile.password_manager_enabled”] = False
options.add_experimental_option(“prefs”, prefs)
browser = webdriver.Chrome(chrome_options=options)
browser.get('https://www.baidu.com/')
browser.quit()
options.add_argument('--disable-infobars') # 禁止策略化
options.add_argument('--no-sandbox') # 解決DevToolsActivePort文件不存在的報錯
options.add_argument('window-size=1920x3000') # 指定瀏覽器分辨率
options.add_argument('--disable-gpu') # 谷歌文檔提到需要加上這個屬性來規避bug
options.add_argument('--incognito') # 隱身模式(無痕模式)
options.add_argument('--disable-javascript') # 禁用javascript
options.add_argument('--start-maximized') # 最大化運行(全屏窗口),不設置,取元素會報錯
options.add_argument('--disable-infobars') # 禁用瀏覽器正在被自動化程序控制的提示
options.add_argument('--hide-scrollbars') # 隱藏滾動條, 應對一些特殊頁面
options.add_argument('blink-settings=imagesEnabled=false') # 不加載圖片, 提升速度
options.add_argument('--headless') # 瀏覽器不提供可視化頁面. linux下如果系統不支持可視化不加這條會啟動失敗
options.binary_location = r"C:\Program Files (x86)\Google\Chrome\Application\chrome.exe" # 手動指定使用的瀏覽器位置
更多插件操作請參考:https://blog.csdn.net/liaojianqiu0115/article/details/78353267