为了账号安全,请及时绑定邮箱和手机立即绑定

Python开发简单爬虫

蚂蚁帅帅 全栈工程师
难度初级
时长 1小时14分
学习人数
综合评分9.67
646人评价 查看评价
9.9 内容实用
9.6 简洁易懂
9.5 逻辑清晰

最新回答 / 一颗恒心闯天下
s = reponse3.read()print len(s)print s写成这样就行了,原因可能就是reponse3.read()单纯的一个函数,执行的结果放在内存中,第一个用了之后内容就消失了,因此打印不出数据
@时间旅行

我的第二条爬到史记上去了,然后就failed了,然后就没有然后了

这是因为_get_new_urls 方法的 return 写在for 里面了,我就是犯了这个低级的错误。
@慕粉1357041190
我的第二条爬到史记上去了,然后就failed了,然后就没有然后了
这是因为_get_new_urls 方法的 return 写在for 里面了,我就是犯了这个低级的错误。
File "C:\Users\Administrator\eclipse-workspace\imooc\src\test\test_urllib2.py", line 2
SyntaxError: Non-ASCII character '\xc4' in file C:\Users\Administrator\eclipse-workspace\imooc\src\test\test_urllib2.py on line 3, but no encoding declared; see http://python.org/dev/peps/pep-0263/ for details
求解惑
URL管理器
实现方式
内存
URL管理器:管理待抓取URL集合和已抓取URL集合
-防止重复抓取、防止循环抓取
调度器 URL管理器 下载器 解析器 应用
讲的挺好!

已采纳回答 / 辜东明
断点跑一下看看是哪一步出现了问题。
哇vscode没有快捷键难受
pycharm的快速创建方法是Alt+Enter和老师编辑器的tab+1是一样的效果

最赞回答 / 仓颉小米
找到了解决办法,链接:http://bookshadow.com/weblog/2015/04/22/sae-python-weibo-sdk-certificate-verify-failed/Python 升级到 2.7.9 之后引入了一个新特性,当使用urllib.urlopen打开一个 https 链接时,会验证一次 SSL 证书。而当目标网站使用的是自签名的证书时就会抛出本人遇到的错误。已验证链接中第一种方案有效:<...code...>

最新回答 / kunkakola
soup的参数html.cont就是下载器下载到的当前page_url的内容,所以查找当前页的内容时就不再需要page_url了,只用来组成新的url
老师教的是python3的,python2的直接import cookielib就好
课程须知
本课程是Python语言开发的高级课程 1、Python编程语法; 2、HTML语言基础知识; 3、正则表达式基础知识;
老师告诉你能学到什么?
1、爬虫技术的含义和存在价值 2、爬虫技术架构 3、组成爬虫的关键模块:URL管理器、HTML下载器和HTML解析器 4、实战抓取百度百科1000个词条页面数据的抓取策略设定、实战代码编写、爬虫实例运行 5、一套极简的可扩展爬虫代码,修改本代码,你就能抓取任何互联网网页!

微信扫码,参与3人拼团

意见反馈 帮助中心 APP下载
官方微信
友情提示:

您好,此课程属于迁移课程,您已购买该课程,无需重复购买,感谢您对慕课网的支持!

本次提问将花费2个积分

你的积分不足,无法发表

为什么扣积分?

本次提问将花费2个积分

继续发表请点击 "确定"

为什么扣积分?

举报

0/150
提交
取消