为了账号安全,请及时绑定邮箱和手机立即绑定

Python开发简单爬虫

蚂蚁帅帅 全栈工程师
难度初级
时长 1小时14分
学习人数
综合评分9.67
646人评价 查看评价
9.9 内容实用
9.6 简洁易懂
9.5 逻辑清晰

已采纳回答 / 大象的回忆
url_manager是python程序建立的模块,是个.py文件,而UrlManager是一个类,self.urls=url_manager.UrlManager()是指在url_manager模块中创建对象(类)UrlManager

已采纳回答 / Haitao_biology
不是把"data-cid"当成其中一个属性来看就行了么,课程中不是有根据"href"属性来提取<a>标签的例子么,把"href"换成"data-cid"试试.如果目标页面的<li data-cid="x">有不定个,就外面套个while循环,循环到该第i个元素找不到为止

最赞回答 / 慕粉4359630
我是自己把爬虫脚本的名字命名成bs4.py了,奇葩啊import bs4print bs4.__file__ 

已采纳回答 / Lulu prince
try未执行,而是把异常的提示显示在控制台,说明程序代码应该有写错的地方,可以找一下这位的代码https://github.com/fifths/python_baike_spider/blob/master/baike_spider/html_outputer.py 然后进行对比

已采纳回答 / chunllc
repones1.read()被占用了,赋值给对象a就可以(具体也搞不懂为什么)……<...code...>

已采纳回答 / 啊B
UrlManager这个文件没有old_urls属性   自己检查一下

已采纳回答 / heguan58
这个需要自己摸索对应的标签规则,才能做出相应的抓取策略

已采纳回答 / Fencingworld
class 在pytho 中也是关键字,bs4为了区分,改为class_

最赞回答 / 田心枫
<...code...>看文档解决,不要那个class_

已采纳回答 / Nelsonberry
检查代码import urlparse 是否正确,然后检查urlparse.urljoin(url,new_url),仔细核对代码。

已采纳回答 / us4ever
我一开始的时候也是这样,后来发现漏掉了一个return语句,建议把代码从头到尾对照一遍,查查有没有漏写或写错(很容易把url和urls搞错,之类的)
课程须知
本课程是Python语言开发的高级课程 1、Python编程语法; 2、HTML语言基础知识; 3、正则表达式基础知识;
老师告诉你能学到什么?
1、爬虫技术的含义和存在价值 2、爬虫技术架构 3、组成爬虫的关键模块:URL管理器、HTML下载器和HTML解析器 4、实战抓取百度百科1000个词条页面数据的抓取策略设定、实战代码编写、爬虫实例运行 5、一套极简的可扩展爬虫代码,修改本代码,你就能抓取任何互联网网页!

微信扫码,参与3人拼团

意见反馈 帮助中心 APP下载
官方微信
友情提示:

您好,此课程属于迁移课程,您已购买该课程,无需重复购买,感谢您对慕课网的支持!

本次提问将花费2个积分

你的积分不足,无法发表

为什么扣积分?

本次提问将花费2个积分

继续发表请点击 "确定"

为什么扣积分?

举报

0/150
提交
取消