为了账号安全,请及时绑定邮箱和手机立即绑定

Python开发简单爬虫

蚂蚁帅帅 全栈工程师
难度初级
时长 1小时14分
学习人数
综合评分9.67
646人评价 查看评价
9.9 内容实用
9.6 简洁易懂
9.5 逻辑清晰
File "E:/download/untitled/baike/spider_main.py", line 33, in <module>
obj_spider.craw(root_url)
File "E:/download/untitled/baike/spider_main.py", line 20, in craw
new_urls,new_data=self.parser.parse(new_url,html_cont)
TypeError: 'NoneType' object is not iterable

已采纳回答 / 蚂蚁帅帅
像百度、谷歌这样的搜索引擎,只需要爬去整个网页就可以了。如课程前面提到的,本节课的爬虫是垂直类爬虫,只会爬去特定的网站。所以,没错,是需要每个网站都要分析对应的格式的。
妥妥的干货!详细而且思路非常清晰,老师表达得很好。
使用python的同学注意了!
如果出现乱码的话,将fout.write('<td>%s<td>' % data['title'] ) 改为
fout.write("<td>")
fout.write(data['title'])
fout.write("</td>")
并且在文件打开语句改为:fout = open('output.html', 'w', encoding='utf-8')
这样就不会出现乱码了
打印异常信息说没有get_text的方法('NoneType' object has no attribute 'get_text')

最赞回答 / IT男的成长记录
soup = BeautifulSoup(html_doc, 'html.parser', from_encoding='utf-8')  改成小写试试
求问老师用的是啥字体啊!!eclipse上面的字体都好难看。老师这个有点像sublime的

已采纳回答 / 黑历史不删除后果很严重
建议你一步一步,逐个函数调试,光看源代码比较难找出错误所在,可以在每个方法打印是否成功运行,找到出错的方法后再找出错的变量。这样一定可以调试出来的,加油!

最新回答 / 红烧牛奶
open文件的时候选择wb,即 open(flieName, 'wb')

最赞回答 / 慕标6571706
已经解决win7 python3.6 遇到乱码的情况同明磊只需要在fout = open('output.html', 'w', encoding = 'utf-8') fout.write("<td>%s</td>" % data['title']) fout.write("<td>%s</td>" % data['summary'])这里面不能加.encode('utf-8'),加了会乱码fout.write("<head><meta ...
老师,好厉害,虽然不懂python,但老师编程的方法,思路让人醍醐灌顶。
谢谢老师辛苦付出~
课程须知
本课程是Python语言开发的高级课程 1、Python编程语法; 2、HTML语言基础知识; 3、正则表达式基础知识;
老师告诉你能学到什么?
1、爬虫技术的含义和存在价值 2、爬虫技术架构 3、组成爬虫的关键模块:URL管理器、HTML下载器和HTML解析器 4、实战抓取百度百科1000个词条页面数据的抓取策略设定、实战代码编写、爬虫实例运行 5、一套极简的可扩展爬虫代码,修改本代码,你就能抓取任何互联网网页!

微信扫码,参与3人拼团

意见反馈 帮助中心 APP下载
官方微信
友情提示:

您好,此课程属于迁移课程,您已购买该课程,无需重复购买,感谢您对慕课网的支持!

本次提问将花费2个积分

你的积分不足,无法发表

为什么扣积分?

本次提问将花费2个积分

继续发表请点击 "确定"

为什么扣积分?

举报

0/150
提交
取消