python+selenium+Chrome options參數


python+selenium+Chrome options參數

Chrome Options常用的行為一般有以下幾種:

禁止圖片和視頻的加載:提升網頁加載速度。
添加代理:用於FQ訪問某些頁面,或者應對IP訪問頻率限制的反爬技術。
使用移動頭:訪問移動端的站點,一般這種站點的反爬技術比較薄弱。
添加擴展:像正常使用瀏覽器一樣的功能。
設置編碼:應對中文站,防止亂碼。
阻止JavaScript執行
...

Chrome Options是一個配置chrome啟動時屬性的類,通過這個參數我們可以為Chrome添加如下參數:

設置 chrome 二進制文件位置 (binary_location)
添加啟動參數 (add_argument)
添加擴展應用 (add_extension, add_encoded_extension)
添加實驗性質的設置參數 (add_experimental_option)
設置調試器地址 (debugger_address)

針對編碼格式的操作

# 設置默認編碼為 utf-8
from selenium import webdriver
options = webdriver.ChromeOptions()
options.add_argument('lang=zh_CN.UTF-8')
driver = webdriver.Chrome(chrome_options = options)

針對UA請求頭的操作

# 設置請求頭為huaweiMeta10 Pro
from selenium import webdriver
options = webdriver.ChromeOptions()
options.add_argument('User-Agent=Mozilla/5.0 (Linux; U; Android 8.1.0; zh-cn; BLA-AL00 Build/HUAWEIBLA-AL00) AppleWebKit/537.36 (KHTML, like Gecko) Version/4.0 Chrome/57.0.2987.132 MQQBrowser/8.9 Mobile Safari/537.36')
options.add_argument('--headless')  # 瀏覽器不提供可視化頁面
driver = webdriver.Chrome(chrome_options = options)
http://www.fynas.com/ua

針對禁止加載圖片的操作

# 設置瀏覽器禁止加載圖片
from selenium import webdriver
options = webdriver.ChromeOptions()
prefs = {"profile.managed_default_content_settings.images": 2}
options.add_experimental_option("prefs", prefs)
driver = webdriver.Chrome(chrome_options = options)

針對IP代理的操作

特別需要注意,在選擇代理時,盡量選擇靜態IP,才能提升爬取的穩定性。如果使用動態匿名IP,每個IP的存活時間是很短的。
# 設置無賬號密碼的代理
chromeOptions = webdriver.ChromeOptions()
chromeOptions.add_argument('--proxy-server=http://ip:port')  
driver = webdriver.Chrome(chrome_options=chromeOptions)
# 設置有賬號密碼的代理
proxyauth_plugin_path = create_proxyauth_extension(
            proxy_host='host',
            proxy_port='port',
            proxy_username="username",
            proxy_password="password"
        )
options.add_extension(proxyauth_plugin_path)

查看IP地址的鏈接:http://httpbin.org/ip

針對添加插件的操作

# 添加xpath helper應用

from selenium import webdriver
chrome_options = webdriver.ChromeOptions()

# 設置好應用擴展
extension_path = 'your file_path'
chrome_options.add_extension(extension_path)

針對登錄時關閉彈出的密碼保存提示框

from selenium import webdriver 
from selenium.webdriver.common.by import By
options = webdriver.ChromeOptions() 
prefs = {} 
# 設置這兩個參數就可以避免密碼提示框的彈出
prefs[“credentials_enable_service”] = False 
prefs[“profile.password_manager_enabled”] = False 
options.add_experimental_option(“prefs”, prefs) 
browser = webdriver.Chrome(chrome_options=options) 
browser.get('https://www.baidu.com/')
browser.quit()
options.add_argument('--disable-infobars')  # 禁止策略化
options.add_argument('--no-sandbox')  # 解決DevToolsActivePort文件不存在的報錯
options.add_argument('window-size=1920x3000')  # 指定瀏覽器分辨率
options.add_argument('--disable-gpu')  # 谷歌文檔提到需要加上這個屬性來規避bug
options.add_argument('--incognito')  # 隱身模式(無痕模式)
options.add_argument('--disable-javascript')  # 禁用javascript
options.add_argument('--start-maximized')  # 最大化運行(全屏窗口),不設置,取元素會報錯
options.add_argument('--disable-infobars')  # 禁用瀏覽器正在被自動化程序控制的提示
options.add_argument('--hide-scrollbars')  # 隱藏滾動條, 應對一些特殊頁面
options.add_argument('blink-settings=imagesEnabled=false')  # 不加載圖片, 提升速度
options.add_argument('--headless')  # 瀏覽器不提供可視化頁面. linux下如果系統不支持可視化不加這條會啟動失敗
options.binary_location = r"C:\Program Files (x86)\Google\Chrome\Application\chrome.exe"  # 手動指定使用的瀏覽器位置

更多插件操作請參考:https://blog.csdn.net/liaojianqiu0115/article/details/78353267


免責聲明!

本站轉載的文章為個人學習借鑒使用,本站對版權不負任何法律責任。如果侵犯了您的隱私權益,請聯系本站郵箱yoyou2525@163.com刪除。



 
粵ICP備18138465號   © 2018-2025 CODEPRJ.COM