为了账号安全,请及时绑定邮箱和手机立即绑定

Python开发简单爬虫

蚂蚁帅帅 全栈工程师
难度初级
时长 1小时14分
学习人数
综合评分9.67
646人评价 查看评价
9.9 内容实用
9.6 简洁易懂
9.5 逻辑清晰
File "E:\python\projectexam\baike\spider_main.py", line 32, in <module>
obj_spider.craw(root_url)
File "E:\python\projectexam\baike\spider_main.py", line 13, in craw
while self.urls.has_new_url():
AttributeError: 'SpiderMain' object has no attribute 'urls'
最后一句话,哭了。。。。
import urllib.request

url = 'http://www.baidu.com'

print('第一种方法')

response1 = urllib.request.urlopen(url)
print(response1,getcode())
print(len(response1))
请问为什么 title_node =soup.find('dd' ,class_="lemmaWgt-lemmaTitle-title").find('h1') 为什么返回值是空啊?求帮助
防止重复抓取..
URL管理器:待抓取的URL 集合和已抓取的URL集合
爬虫

url管理器

网页下载器

网页解析器(解析:url、有用数据)
真是太感谢了,现在刚刚学爬虫,能有一个这样系统讲解的视频教程帮助真的是很大,对爬虫有了一个初步的了解,框架清楚了

最赞回答 / Spider_Maker4260916
你的spider_main里的if __name__ == __main__错了

最新回答 / 慕粉4149136
python版本不对或者elipse没有装好
不能像老师一样直接ctrl+1导入re和urlparse啊,我crtl+1之后没有那个选项,其他的都有,有没有大神能解释下
@xiaoqiang_123 head meta charset="utf-8" 这个改一下就可以了
在from bs4 import beautifulsoup中 unresolved import:beautifulsoup解决方法:


右击项目,属性;选择"PyDev-Interpreter/Grammar";
点击链接"Click here to configure an interpreter not listed." ;
在"Libraries"内,点击"new egg/zip(s)",导入egg文件;
比如我的路径:C:\Python27\Lib\site-packages\beautifulsoup4-4.5.1-py2.7.egg
完成后重启
厉害了我的哥,我等我学会后要爬到所有形容厉害的词来描述你
课程须知
本课程是Python语言开发的高级课程 1、Python编程语法; 2、HTML语言基础知识; 3、正则表达式基础知识;
老师告诉你能学到什么?
1、爬虫技术的含义和存在价值 2、爬虫技术架构 3、组成爬虫的关键模块:URL管理器、HTML下载器和HTML解析器 4、实战抓取百度百科1000个词条页面数据的抓取策略设定、实战代码编写、爬虫实例运行 5、一套极简的可扩展爬虫代码,修改本代码,你就能抓取任何互联网网页!

微信扫码,参与3人拼团

意见反馈 帮助中心 APP下载
官方微信
友情提示:

您好,此课程属于迁移课程,您已购买该课程,无需重复购买,感谢您对慕课网的支持!

本次提问将花费2个积分

你的积分不足,无法发表

为什么扣积分?

本次提问将花费2个积分

继续发表请点击 "确定"

为什么扣积分?

举报

0/150
提交
取消