python學習之Selenium如何使用代理ip_風聞
小白学大数据-2022-08-25 17:18
今天給大家分享的是如何在爬取數據的時候防止IP被封,今天給大家分享兩種方法,希望大家可以認真學習,再也不用擔心被封IP啦。time模塊中的sleep,使程序每運行一次後就睡眠1s,這樣的話就可以大大的減少ip被封的幾率ip來解決,ip是億牛雲的動態轉發代理,以下是代理配置過程的示例python學習的分享就到這裏,上邊的那段代碼可以直接使用,但是裏邊的代理應該已經過期,大家在使用的時候可能需要聯繫代理商開通服務,最後呢希望大家能夠收藏起來,要記得做筆記哦。好記性不如爛筆頭。第一種:降低訪問速度,我們可以使用第二種:為了提高效率,我們可以使用代理Seleniumfrom selenium import webdriverimport stringimport zipfile# 代理服務器proxyHost = “t.16yun.cn"proxyPort = “31111”# 代理隧道驗證信息proxyUser = “username"proxyPass = “password"def create_proxy_auth_extension(proxy_host, proxy_port,proxy_username, proxy_password,scheme=‘http’, plugin_path=None):if plugin_path is None:plugin_path = r’C:/{}_{}@t.16yun.zip’.format(proxy_username, proxy_password)manifest_json = "”” { “version”: “1.0.0”, “manifest_version”: 2, “name”: “16YUN Proxy”, “permissions”: [ “proxy”, “tabs”, “unlimitedStorage”, “storage”, “”, “webRequest”, “webRequestBlocking” ], “background”: { “scripts”: [“background.js”] }, “minimum_chrome_version”:“22.0.0” } “““background_js = string.Template(””” var config = { mode: “fixed_servers”, rules: { singleProxy: { scheme: “${scheme}”, host: “${host}”, port: parseInt(${port}) }, bypassList: [“foobar.com”] } };chrome.proxy.settings.set({value: config, scope: “regular”}, function() {});function callbackFn(details) { return { authCredentials: { username: “${username}”, password: “${password}” } }; }chrome.webRequest.onAuthRequired.addListener( callbackFn, {urls: [”"]}, [‘blocking’] ); “”").substitute(host=proxy_host,port=proxy_port,username=proxy_username,password=proxy_password,scheme=scheme,)with zipfile.ZipFile(plugin_path, ‘w’) as zp:zp.writestr(“manifest.json”, manifest_json)zp.writestr(“background.js”, background_js)return plugin_pathproxy_auth_plugin_path = create_proxy_auth_extension(proxy_host=proxyHost,proxy_port=proxyPort,proxy_username=proxyUser,proxy_password=proxyPass)option = webdriver.ChromeOptions()option.add_argument("--start-maximized")# 如報錯 chrome-extensions# option.add_argument("--disable-extensions")option.add_extension(proxy_auth_plugin_path)driver = webdriver.Chrome(chrome_options=option)driver.get(“http://httpbin.org/ip")好了,今天關於python學習的分享就到這裏,上邊的那段代碼可以直接使用,但是裏邊的代理應該已經過期,大家在使用的時候可能需要聯繫代理商開通服務,最後呢希望大家能夠收藏起來,要記得做筆記哦。好記性不如爛筆頭了。