为了账号安全,请及时绑定邮箱和手机立即绑定

Python开发简单爬虫

蚂蚁帅帅 全栈工程师
难度初级
时长 1小时14分
学习人数
综合评分9.67
646人评价 查看评价
9.9 内容实用
9.6 简洁易懂
9.5 逻辑清晰
2.0x 的速度了,怎么还是那么慢。。。
craw()方法是类spiderMain()里 的方法吗?为什么老师ctrl+1的时候craw()方法在类里面,我的就是在外面?
随机抛出异常跑不到1000条的,可以改下craw结构,把try和except放到循环里:
while self.urls.has_new_url():
try:
XXXX
......

except:
print('craw failed')
self.outputer.output_html()

已采纳回答 / zhegao
约定. 就像你现在写的中文我能看懂一样. 这个模块的开发者让自己的程序这样去解读, 不过是中间转换一层罢了.
老师讲的非常详细
http://hubojing.github.io/2018/03/11/Python%E5%BC%80%E5%8F%91%E7%AE%80%E5%8D%95%E7%88%AC%E8%99%AB/#
笔记
Python3.7代码下载地址
https://github.com/hubojing/PythonSpider

最新回答 / 欧阳思月
import urllib.request导入urllib中的request模块, 才能调里面的方法url = ('https://www.baidu.com')surl = urllib.request.urlopen(url) print(surl.read())
管理待抓取URL集合和已抓取URL集合 ///防止重复抓取
我昨天在某网站上手动找小电影觉得太累了,所以今天才过来学学爬虫。每个人都可以发表自己的观点,有什么好吵的,带语言攻击的就更不应该了。

最新回答 / 幕布斯9454072
试一下这个看   :使用pip升级   在管理员权限下使用命令行输入命令“pip install --upgrade beautifulsoup4”
python2和python3还是有区别的啊
课程须知
本课程是Python语言开发的高级课程 1、Python编程语法; 2、HTML语言基础知识; 3、正则表达式基础知识;
老师告诉你能学到什么?
1、爬虫技术的含义和存在价值 2、爬虫技术架构 3、组成爬虫的关键模块:URL管理器、HTML下载器和HTML解析器 4、实战抓取百度百科1000个词条页面数据的抓取策略设定、实战代码编写、爬虫实例运行 5、一套极简的可扩展爬虫代码,修改本代码,你就能抓取任何互联网网页!

微信扫码,参与3人拼团

意见反馈 帮助中心 APP下载
官方微信
友情提示:

您好,此课程属于迁移课程,您已购买该课程,无需重复购买,感谢您对慕课网的支持!

本次提问将花费2个积分

你的积分不足,无法发表

为什么扣积分?

本次提问将花费2个积分

继续发表请点击 "确定"

为什么扣积分?

举报

0/150
提交
取消