为了账号安全,请及时绑定邮箱和手机立即绑定

Python开发简单爬虫

蚂蚁帅帅 全栈工程师
难度初级
时长 1小时14分
学习人数
综合评分9.67
646人评价 查看评价
9.9 内容实用
9.6 简洁易懂
9.5 逻辑清晰

已采纳回答 / arkria3684535
首先要确保eclipse编辑器环境的编码为utf8,这个是大前提;其次如果py文件中含有中文字符的话,需要在py文件中对编码进行声明。修改eclipse编辑器编码:A) 设置工作空间编码:Window->preferences->General->Workspace->UTF-8B) 设置编辑器编码:Window->preferences->General ->Editors->Text Editors->Spelling->UTF-8C) 设置...
赞一个,第一次运行在beautifulsoup里面吧html.parser写错了,第二次正常运行
PNA
1.25X 速度听起来带劲
有点广度优先搜索算法的意思,不过处理比较粗糙,已爬取过的url没有标记,会导致重复爬取

最赞回答 / 帽子大大大3830867
然而我找到答案了,原因大概是网络问题,导致 response = urllib2.urlopen(url)没有反应,然后卡死解决方案就是加个timeout: response = urllib2.urlopen(url,timeout=5)这样就能继续往下爬了~
用 python 3.x 写的例子,能正常运行:

https://github.com/zaxlct/baike_spider

加了不少注释,帮助理解,稍微优化了一点:如果页面 404 ,那么就跳过这次抓取,这样就不报错,提示 failed 了。

欢迎 star,有问题可以发 Issues 我会回答 ;)
完结撒花哟
我们都会很好

最新回答 / 2014清风朗月2014
可以写出啊,我的也是2.7版本,在exclips里面写的,你仔细看看是不是代码哪里写错了
不明白「类」的概念的同学不要把责任推给老师,自己去慕课找相关入门教程。
没有直接上去码代码,而是一条条分析清楚后最好才进行代码编写,真棒!
Python 3 以后print已经是函数而非关键字。请使用正确语法:
print("Hello world")
先用图表帮我们理清思路,再进行代码编程,这个教学思路太棒了!!!!
课程须知
本课程是Python语言开发的高级课程 1、Python编程语法; 2、HTML语言基础知识; 3、正则表达式基础知识;
老师告诉你能学到什么?
1、爬虫技术的含义和存在价值 2、爬虫技术架构 3、组成爬虫的关键模块:URL管理器、HTML下载器和HTML解析器 4、实战抓取百度百科1000个词条页面数据的抓取策略设定、实战代码编写、爬虫实例运行 5、一套极简的可扩展爬虫代码,修改本代码,你就能抓取任何互联网网页!

微信扫码,参与3人拼团

意见反馈 帮助中心 APP下载
官方微信
友情提示:

您好,此课程属于迁移课程,您已购买该课程,无需重复购买,感谢您对慕课网的支持!

本次提问将花费2个积分

你的积分不足,无法发表

为什么扣积分?

本次提问将花费2个积分

继续发表请点击 "确定"

为什么扣积分?

举报

0/150
提交
取消