为了账号安全,请及时绑定邮箱和手机立即绑定

Python开发简单爬虫

蚂蚁帅帅 全栈工程师
难度初级
时长 1小时14分
学习人数
综合评分9.67
646人评价 查看评价
9.9 内容实用
9.6 简洁易懂
9.5 逻辑清晰
你们的声音也很小吗?
全部存内存里了,这得需要多大的内存
经典课程 赞
各位就没有发现 百度现在已经改了超级链接,以前是item/\d+\.htm可以读取,现在不可以了。
断断续续学了两三天,需要下载Python3.x的版本,因为Python已经对2.x的版本不提供技术支持了,虽然很多第三方服务还没出匹配3.x版本的;Python下载时,虽然电脑是64位的,最好下载32位的,以防止第三方软件不支持64位的;还需要一个Pycharm,是一种Python的IDE,eclipse是针对JAVA的(下了Pycharm);最好配套一个代码编辑器sublime text。
/Library/Frameworks/Python.framework/Versions/3.6/bin/python3.6 /Users/hugo/PycharmProjects/imooc_python/baike_spider/spider_main.py
craw 1:https://baike.baidu.com/view/21087.htm
craw failed

Process finished with exit code 0

有朋友遇到了吗?为啥?
现在使用python3进行爬取不再那么复杂了,urllib和urllib2合成urllib了,按照如下步骤就可以爬取,
from urllib import request
def get_html(url, headers):
request.Request(url=url, headers=headers)
req = request.urlopen(url)
html = req.read().decode('gbk')
req.close()
return html
注:
1,根据自己的环境,适当的调节,比如编码
2,字数有限制,如要捕获异常,请自行添加
3,亲测,可用
老师在2:20处那段代码原样打进去会报错。正确形式应该是:
soup = BeautifulSoup(
'html_doc',
'html.parser',
from_encoding = 'utf8'
)

最新回答 / _nobug
运行失败了,去掉异常处理定位下问题
craw 1 :https://baike.baidu.com/item/Python
craw failed

这就是结果。。。。。
已经解决
win7 python3.6 遇到乱码的情况
同明磊

只需要在fout = open('output.html', 'w', encoding = 'utf-8')
fout.write("<td>%s</td>" % data['title'])
fout.write("<td>%s</td>" % data['summary'])
这里面不能加.encode('utf-8'),加了会乱码

fout.write("<head><meta charset = 'utf-8'></head>")这个写不写无所谓,不影响
我的第二条爬到史记上去了,然后就failed了,然后就没有然后了

最赞回答 / 慕UI9025657
先不要写在try块里面,这样可以看到哪错了

已采纳回答 / Noah_________
还是需要看看你的代码,这种情况一般是实例化部分的代码有问题相关的库或者依赖成分版本过低,升级或者重新下最新的重装
先学会怎么用,然后记住怎么用,最后慢慢理解消化。

能一下子理解看懂的,不是相关知识积累特别多,就是天才,而天才只是不断努力的结果。
课程须知
本课程是Python语言开发的高级课程 1、Python编程语法; 2、HTML语言基础知识; 3、正则表达式基础知识;
老师告诉你能学到什么?
1、爬虫技术的含义和存在价值 2、爬虫技术架构 3、组成爬虫的关键模块:URL管理器、HTML下载器和HTML解析器 4、实战抓取百度百科1000个词条页面数据的抓取策略设定、实战代码编写、爬虫实例运行 5、一套极简的可扩展爬虫代码,修改本代码,你就能抓取任何互联网网页!

微信扫码,参与3人拼团

意见反馈 帮助中心 APP下载
官方微信
友情提示:

您好,此课程属于迁移课程,您已购买该课程,无需重复购买,感谢您对慕课网的支持!

本次提问将花费2个积分

你的积分不足,无法发表

为什么扣积分?

本次提问将花费2个积分

继续发表请点击 "确定"

为什么扣积分?

举报

0/150
提交
取消