为了账号安全,请及时绑定邮箱和手机立即绑定

Python开发简单爬虫

蚂蚁帅帅 全栈工程师
难度初级
时长 1小时14分
学习人数
综合评分9.67
646人评价 查看评价
9.9 内容实用
9.6 简洁易懂
9.5 逻辑清晰

最新回答 / 慕粉091431384
找到原因了!在html_parser中加上new_urls.add(new_full_url)这一句话<...图片...>

已采纳回答 / abc通配符123_
正则表达式修改成links=soup.find_all('a',href=re.compile(r"/item/"))

最新回答 / 慕移动9181930
应该是有。等我问一下慕课的工作人员。这句话的重点是“我在美国”麽。。。。

最新回答 / 侏儒冰法
因为第二种方法伪装了header的agent,header也是作为网页内容返回的,所以长度不一样。

最赞回答 / LoNice
fout = open('output.html', 'w', encoding='utf-8')fout.write("<td>%s</td>" % data['title'])fout.write("<td>%s</td>" % data['summary'])在页面开始解析的时候,使用utf-8解析,后面输出的时候就不需要的
说话清楚不含糊
入口页还是http://baike.baidu.com/view/21087.htm,好几个网址都可以进入
思路清晰,没有废话,语调铿锵,很不错的课程

最新回答 / toneewang
http://www.360doc.com/content/16/1114/13/3852985_606449918.shtml 供参考python默认是ascii,由于中文的问题,我们需要把python的默认编码修改一下

最新回答 / 雨淋淋大王
正如老师所说  python的网址已经变了,不再是http://baike.baidu.com/view/21087需要更改入口网址 还有修改下相关页面的遍历策略

最新回答 / 慕粉1837489978
你的urlmanage中add_new_urls方法参数没写urls,少写一个

最新回答 / 看雪_0001
你没有把pip添加到path里面吧,看一下你的环境变量
这个程序无线执行下去是不是会爬取完所有百科
pycahrm那个解决方法有用的

最赞回答 / 古柳古柳
浏览器里打开时右键“编码”,选择Unicode(UTF-8)试试
课程须知
本课程是Python语言开发的高级课程 1、Python编程语法; 2、HTML语言基础知识; 3、正则表达式基础知识;
老师告诉你能学到什么?
1、爬虫技术的含义和存在价值 2、爬虫技术架构 3、组成爬虫的关键模块:URL管理器、HTML下载器和HTML解析器 4、实战抓取百度百科1000个词条页面数据的抓取策略设定、实战代码编写、爬虫实例运行 5、一套极简的可扩展爬虫代码,修改本代码,你就能抓取任何互联网网页!

微信扫码,参与3人拼团

意见反馈 帮助中心 APP下载
官方微信
友情提示:

您好,此课程属于迁移课程,您已购买该课程,无需重复购买,感谢您对慕课网的支持!

本次提问将花费2个积分

你的积分不足,无法发表

为什么扣积分?

本次提问将花费2个积分

继续发表请点击 "确定"

为什么扣积分?

举报

0/150
提交
取消