为了账号安全,请及时绑定邮箱和手机立即绑定

Python开发简单爬虫

蚂蚁帅帅 全栈工程师
难度初级
时长 1小时14分
学习人数
综合评分9.67
646人评价 查看评价
9.9 内容实用
9.6 简洁易懂
9.5 逻辑清晰
fout.write("<td>%s</td>" % data['title'].encode('utf-8'))
fout.write("<td>%s</td>" % data['summary'].encode('utf-8'))
这两句不需要encode('utf-8'),加了这个title和summary就变成十六进制显示的字符了。需要在这一句fout = open('output.html', 'w', encoding='utf-8')加上encoding='utf-8'
为什么到35s就进行不下去了……
对于新手来说,可以把spider_main.py代码中的try和except去掉,运行报错就会在控制台出现,根据错误去调试自己的程序,导入包的问题,代码书写错误的问题等等,改了半天终于可以正常爬取了
写的很好 666
这1-2分钟的视频,比10多分钟的视频的效率高太多,这就是干货吧!
纠正一下,有可能你从https://www.crummy.com/software/BeautifulSoup/bs4/doc/复制下来的文档里面Lacie是lacie,老师那里的原文是Lacie,所以老师没报错
AttributeError: 'NoneType' object has no attribute 'name' 的错误应该是link_node = soup.find("a", href="http://example.com/Lacie"),把里面的Lacie改成lacie . 因为测试文档href里面的L是小写的,但是不知道老师的为什么能成功。
基于本视频编写的代码:https://github.com/Reoger/py
python3.6调试运行成功:
https://github.com/yangly116/crawler.git
如果只打印了一行craw1:https://。。。。
请把try except去掉,检查错误
一般都是拼写错误
打卡学习!
教程不错,就是这声音让人。。。
【2017/10/12】【Python3.6.2】【PyCharm 2017.2】【Chrome】
对于中文问题,实际上只需
fout = open('output.html','w', encoding='utf-8')
以及
urllib.parse.unquote(data['url'],encoding='utf-8')
即可。
1.抓取的第一个网页:root_url = "https://baike.baidu.com/item/%E5%91%A8%E6%9D%B0%E4%BC%A6"
2.正则表达式匹配URL编码:links = soup.find_all('a', href=re.compile(r'/item/[\\%\\w]+'))
File "E:/Helloworld/baike_spider/spider_main.py", line 19, in craw
new_urls, new_data = self.parser.parse(new_url, html_cont)
TypeError: 'NoneType' object is not iterable

Process finished with exit code 1
课程须知
本课程是Python语言开发的高级课程 1、Python编程语法; 2、HTML语言基础知识; 3、正则表达式基础知识;
老师告诉你能学到什么?
1、爬虫技术的含义和存在价值 2、爬虫技术架构 3、组成爬虫的关键模块:URL管理器、HTML下载器和HTML解析器 4、实战抓取百度百科1000个词条页面数据的抓取策略设定、实战代码编写、爬虫实例运行 5、一套极简的可扩展爬虫代码,修改本代码,你就能抓取任何互联网网页!

微信扫码,参与3人拼团

意见反馈 帮助中心 APP下载
官方微信
友情提示:

您好,此课程属于迁移课程,您已购买该课程,无需重复购买,感谢您对慕课网的支持!

本次提问将花费2个积分

你的积分不足,无法发表

为什么扣积分?

本次提问将花费2个积分

继续发表请点击 "确定"

为什么扣积分?

举报

0/150
提交
取消