原文:python使用urllib.urlopen超时的问题

在新的公司开始上班,今天工作的主题内容是市场部门需要抓取一些论坛用户的邮箱,以便发送营销邮件。 于是用了一个python脚本来执行,前面抓了几个都没有什么问题,后来碰到一个论坛,在执行urlopen的地方总是提示超时,百度了一下,因为我使用的是urllib不是urllib ,所以无法直接在urlopen里面加timeout参数,只能是设置全局脚本的超时时间 首先 import socket 然后 ...

2012-09-18 15:27 0 4942 推荐指数:

查看详情

python 使用urllib.urlopen超时问题的解决方法

准备写一个python脚本抓取网页数据,前面抓了几个都没有什么问题,但总会抓取不完整,在中间过程中没有反应,发现执行urlopen的地方总是提示超时,百度了一下,因为我使用的是urllib不是urllib2,所以无法直接在urlopen里面加timeout参数,只能是设置全局脚本的超时 ...

Fri Feb 24 19:22:00 CST 2017 0 13955
Python3.7中urllib.urlopen 报错问题

报错: Traceback (most recent call last): File "D:/coding/python/text.py", line 2, in <module> web = urllib.urlopen('https ...

Thu Aug 30 01:28:00 CST 2018 0 5333
Python3爬虫(2)_利用urllib.urlopen发送数据获得反馈信息

一、urlopen的url参数 Agent url不仅可以是一个字符串,例如:https://baike.baidu.com/。url也可以是一个Request对象,这就需要我们先定义一个Request对象,然后将这个Request对象作为urlopen的参数使用, 代码 ...

Thu Apr 26 16:44:00 CST 2018 0 968
python 爬虫 基本库使用urlliburlopen(一)

urllibpython内置的请求库。它主要包含四个模块: request :是最基本的HTTP请求模块,可以用来模拟发送请求。 error:异常处理模块,如果请求出现错误,可以捕获异常,然后进行其他操作,保证程序不会意外终止。 parse:工具模块,提供了很多URL ...

Wed Jan 08 08:55:00 CST 2020 0 2047
python urllib模块的urlopen()的使用方法及实例

Python urllib 库提供了一个从指定的 URL 地址获取网页数据,然后对其进行分析处理,获取想要的数据。 一、urllib模块urlopen()函数: urlopen(url, data=None, proxies=None) 创建一个表示远程url的类文件对象,然后像本地文件一样 ...

Sat Nov 14 02:42:00 CST 2015 0 35731
Python urllib模块urlopen()与urlretrieve()详解

1.urlopen()方法urllib.urlopen(url[, data[, proxies]]) :创建一个表示远程url的类文件对象,然后像本地文件一样操作这个类文件对象来获取远程数据。参数url表示远程数据的路径,一般是网址;参数data表示以post方式提交到url的数据(玩过web ...

Fri Aug 19 05:02:00 CST 2016 1 16252
python3中urllib.request.urlopen.read读取的网页格式问题

初学python,所用python3.5,根据教程写代码,所抓取的网页为新浪博客中的一篇文章,在使用urllib.request.urlopen(url).read()的返回值时,发现content的类型为bytes,如果不进行类型转换的话,在python打印时是乱码 ...

Thu May 05 05:58:00 CST 2016 1 14198
 
粤ICP备18138465号  © 2018-2025 CODEPRJ.COM