为了账号安全,请及时绑定邮箱和手机立即绑定

Python开发简单爬虫

蚂蚁帅帅 全栈工程师
难度初级
时长 1小时14分
学习人数
综合评分9.67
646人评价 查看评价
9.9 内容实用
9.6 简洁易懂
9.5 逻辑清晰
Python3
html页面出现乱码,解决方法:
1)打开文件时加上编码:
fout = open('output.html', 'w', encoding='utf-8')
2)视频中在写入标题和内容时加入了编码转换,去掉,不要加,直接这样写:
fout.write("<td>%s</td>" % data['title'])

最新回答 / 慕数据6271798
print(len(response1.read())) 这个改成print(response1.read()) 就不为空了。需注意:如果先打印了print(len(response1.read())), 再打印print(response1.read()) 则打印就为空了。

最赞回答 / 慕斯卡0853084
原来不用分情况,我想复杂了,直接将links = soup.find_all('a', href=re.compile(r"/item/.*")就可以,尴尬
python让人看着流口水

最新回答 / 你好丶我姓宋
fout = open('output.html', 'w', encoding='utf-8')
然后把write时候的encode删掉
可以的哈,入门爬虫神坑了!最后一句老师调皮了哈
想贴代码的尝试用pastebin
第二条就没有了的朋友,是因为百度改规则了,你们老是去爬。
html_parser 找到这里,改成: links = soup.find_all('a', href=re.compile(r"/item/.*"))
就可以了。
讲的特别棒。赞赞赞

已采纳回答 / 三马同槽
有的,你没导入包的情况下模块下面会显示红色波浪线,最左边有个红色灯泡,点击下就有import xxx选项了,或者alt+enter也行

最新回答 / 三马同槽
把view和后面的全都改成item就行了,因为百度把url改了

最赞回答 / 慕容4121562
你的python版本是2.X 还是3.X python3.X 取消了urllib2 全部整合在urllib 里
File "E:/python_work/Spider/baike_spider/spider_main.py", line 35, in <module>
obj_spider.craw(root_url)
File "E:/python_work/Spider/baike_spider/spider_main.py", line 13, in craw
self.urls.add_new_url(root_url)
AttributeError: 'SpiderMain' object has no attribute 'urls'
我的环境:
Mac OS X ,pyCharm, Chrom,Python 3.6.5
我的链接:
https://github.com/TheoKm/Baike_Spider#baike_spider
首先肯定明磊大佬的说法。
即使去掉encoding:'uft-8'依然报错,参见:https://bytes.com/topic/python/answers/556312-lookuperror-unknown-encoding-utf-8-a。
f.write('<td>{0}</td>' .format(data['url']))
f.write('<td>{0}</td>' .format(data['title']))
f.write('<td>{0}</td>' .format(data['summary']))
课程须知
本课程是Python语言开发的高级课程 1、Python编程语法; 2、HTML语言基础知识; 3、正则表达式基础知识;
老师告诉你能学到什么?
1、爬虫技术的含义和存在价值 2、爬虫技术架构 3、组成爬虫的关键模块:URL管理器、HTML下载器和HTML解析器 4、实战抓取百度百科1000个词条页面数据的抓取策略设定、实战代码编写、爬虫实例运行 5、一套极简的可扩展爬虫代码,修改本代码,你就能抓取任何互联网网页!

微信扫码,参与3人拼团

意见反馈 帮助中心 APP下载
官方微信
友情提示:

您好,此课程属于迁移课程,您已购买该课程,无需重复购买,感谢您对慕课网的支持!

本次提问将花费2个积分

你的积分不足,无法发表

为什么扣积分?

本次提问将花费2个积分

继续发表请点击 "确定"

为什么扣积分?

举报

0/150
提交
取消