为了账号安全,请及时绑定邮箱和手机立即绑定

Python开发简单爬虫

蚂蚁帅帅 全栈工程师
难度初级
时长 1小时14分
学习人数
综合评分9.67
646人评价 查看评价
9.9 内容实用
9.6 简洁易懂
9.5 逻辑清晰
确定目标
分析目标:URL格式 数据格式 网页编码
编写代码
执行爬虫
获取p段落文字 然后指定其class 来获取它的内容

print'获取p段落文字'
p_node=soup.find('p',class='title')
print p_node.name, p_name.get_text()
bs支持正则表达式的匹配 模糊匹配#
print '正则匹配'
href=re.compile(r'ill')

r'..' 如果正则表达式中出现反斜线 只需要写一个反斜线
爬图片原来用php爬过1万多张美女图片,有些网站并不是太难,但是python更合适
给出的这个调度时序图很像讲操作系统里面的multithreading的时候,file IO和read带自身优先级的CPU和Algorithm资源配置调度
求问为何报错,代码:http://www.imooc.com/qadetail/240912

Traceback (most recent call last):
spider_main.py", line 44, in <module>
obj_spider.craw(root_url)
new_urls,new_data = self.parser.parse(new_url,html_cont)
TypeError: 'NoneType' object is not iterable
老师的水平是真高
#py3 实例 查看百度首页图片
import urllib.request
from bs4 import BeautifulSoup

url = "http://www.baidu.com/"
request = urllib.request.Request(url)
response = urllib.request.urlopen(request)
data = response.read()
data = data.decode('utf-8')
soup = BeautifulSoup(data,'html.parser')
print(soup.find_all('img'))
6666666
没装这个编辑工具,在sublime里敲的,好累
鬼知道我是怎么从python爬到古代文化去的
python3.6代码:https://github.com/Nana0606/PythonProject/tree/master/spider_me(将结果改成了输出100条url的信息)
这到底是用py3还是2
非常好,感谢!!!
课程须知
本课程是Python语言开发的高级课程 1、Python编程语法; 2、HTML语言基础知识; 3、正则表达式基础知识;
老师告诉你能学到什么?
1、爬虫技术的含义和存在价值 2、爬虫技术架构 3、组成爬虫的关键模块:URL管理器、HTML下载器和HTML解析器 4、实战抓取百度百科1000个词条页面数据的抓取策略设定、实战代码编写、爬虫实例运行 5、一套极简的可扩展爬虫代码,修改本代码,你就能抓取任何互联网网页!

微信扫码,参与3人拼团

意见反馈 帮助中心 APP下载
官方微信
友情提示:

您好,此课程属于迁移课程,您已购买该课程,无需重复购买,感谢您对慕课网的支持!

本次提问将花费2个积分

你的积分不足,无法发表

为什么扣积分?

本次提问将花费2个积分

继续发表请点击 "确定"

为什么扣积分?

举报

0/150
提交
取消