为了账号安全,请及时绑定邮箱和手机立即绑定

Python开发简单爬虫

蚂蚁帅帅 全栈工程师
难度初级
时长 1小时14分
学习人数
综合评分9.67
646人评价 查看评价
9.9 内容实用
9.6 简洁易懂
9.5 逻辑清晰
如果爬取别家网站的东西,然后对外开放,这难道不是侵权,有点害怕
双击打开output.html是空白的,为什么啊?
Python2.7
两个地方要改
1、正则表达式这里改成soup.find_all('a',href = re.compile(r"/item/"))
2、html_outputer向文件写东西时改成fout.write(("<td>%s</td>" % data['summary']).encode('utf-8'))这种格式
我的代码有一些改动,想看的朋友去下面
git代码:https://github.com/DongChengrong/imooc/tree/master/src/baike_spider
课程源码 https://github.com/Giaosam/imooc_spider, 供大家参考。
如果不能CTRL +1 快速创建类或者函数的话,看看自己使用的是什么编译器,百度快捷键。
例如我用的是pycharm,快捷键是alt + 回车。
或者自己去settings里面的keymap找一找自己的快捷键是什么。
分析目标:1.URL格式2.数据格式(标题、简介)3.网页编码
老师这个编辑器好方便,,,
马达,看起来真爽!
看五六遍的说明你基础不行,有抱怨的功夫不如去查资料
html.parser/美丽汤/lxml
特殊情境处理:
1.需要用户登录才能访问(HTTPCookieProcessor)
2.需要代理才能访问(ProxyHandler)
3.协议使用HTTPS加密访问(HTTPSHandler)
4.URL自动跳转(HTTPRedirectHandler)
视频教程要比文字教程好很多很多,一篇千字的文档内容可能会折磨你几个钟。但是慕课的视频教程都是几分钟,每个视频慢慢看,不明白就停顿或者多看几遍,总比看着文档钻牛角尖好!

学习就是一个纠错矫正的过程。个人觉得老师也不是万能的,老师的精力也是有限,哪些基础知识不懂,也就只能返回去看一些基础的,有征对性的教材。

根据二八定律,技能重要的是那20%的基础,往往要我们在整个学习的过程中付出80%的的精力和时间放在这上面。
Github代码,供大家参考
https://github.com/a414351664/py_reptile
课程须知
本课程是Python语言开发的高级课程 1、Python编程语法; 2、HTML语言基础知识; 3、正则表达式基础知识;
老师告诉你能学到什么?
1、爬虫技术的含义和存在价值 2、爬虫技术架构 3、组成爬虫的关键模块:URL管理器、HTML下载器和HTML解析器 4、实战抓取百度百科1000个词条页面数据的抓取策略设定、实战代码编写、爬虫实例运行 5、一套极简的可扩展爬虫代码,修改本代码,你就能抓取任何互联网网页!

微信扫码,参与3人拼团

意见反馈 帮助中心 APP下载
官方微信
友情提示:

您好,此课程属于迁移课程,您已购买该课程,无需重复购买,感谢您对慕课网的支持!

本次提问将花费2个积分

你的积分不足,无法发表

为什么扣积分?

本次提问将花费2个积分

继续发表请点击 "确定"

为什么扣积分?

举报

0/150
提交
取消