为了账号安全,请及时绑定邮箱和手机立即绑定

Python开发简单爬虫

蚂蚁帅帅 全栈工程师
难度初级
时长 1小时14分
学习人数
综合评分9.67
646人评价 查看评价
9.9 内容实用
9.6 简洁易懂
9.5 逻辑清晰
老师讲的真好!!!
我要爬到苍老师的图片
pip install beautifulsoup4失败
python四种网页解析:
模糊匹配:
1.正则表达式(字符串);
结构化解析:
2.html.parser;
3.BeautifulSoup,拥有2、4功能;
4.lxml;
Python网页下载器有:
1.urllib2 (Python官方基础模块),python 3.x中urllib库和urilib2库合并为urllib库。
2.requests (第三方包,更强大)
内容 很有用
现在网址已经变成http://baike.baidu.com/item/Python,如果用原来的地址抓,最多只能抓两个页面就到锁定词条页面了,所以我们可以抓这个新网址,只需要在html_parser里面修改成这句links = soup.find_all('a', href=re.compile(r"/item/(.*)"))就OK了,已实验成功抓取1000条。python初学者,勿喷!
为啥还是2.x的教程啊, 让以Python3.x入门的我情何以堪.....
起初学爬虫,找了很多资源,遇见很多坑,只到完完全全看了这个教程,才清晰地建立爬虫的概念。现在回过头来,觉得这个版本很简单,但是它已经五脏俱全,在上面增删功能也很方便,真心推荐。如果要源码也可以找我微信名:嘿 格尔!
老师所讲已完成的demo。有注释,https://github.com/DragonFlyXD/baike-python。
爬虫调度端:启动爬虫,停止爬虫,监视爬虫运行情况
URL管理器:对将要爬取的和已经爬取过的URL进行管理;可取出带爬取的URL,将其传送给“网页下载器”
网页下载器:将URL指定的网页下载,存储成一个字符串,在传送给“网页解析器”
网页解析器:解析网页可解析出①有价值的数据②另一方面,每个网页都包含有指向其他网页的URL,解析出来后可补充进“URL管理器”
老师所讲已完成的demo。有注释,https://github.com/DragonFlyXD/baike-python。
老师从头到尾的声音都那么响亮,不容易啊,
老师啥时候出个关于DHT网络爬虫的教程~!
课程须知
本课程是Python语言开发的高级课程 1、Python编程语法; 2、HTML语言基础知识; 3、正则表达式基础知识;
老师告诉你能学到什么?
1、爬虫技术的含义和存在价值 2、爬虫技术架构 3、组成爬虫的关键模块:URL管理器、HTML下载器和HTML解析器 4、实战抓取百度百科1000个词条页面数据的抓取策略设定、实战代码编写、爬虫实例运行 5、一套极简的可扩展爬虫代码,修改本代码,你就能抓取任何互联网网页!

微信扫码,参与3人拼团

意见反馈 帮助中心 APP下载
官方微信
友情提示:

您好,此课程属于迁移课程,您已购买该课程,无需重复购买,感谢您对慕课网的支持!

本次提问将花费2个积分

你的积分不足,无法发表

为什么扣积分?

本次提问将花费2个积分

继续发表请点击 "确定"

为什么扣积分?

举报

0/150
提交
取消