为了账号安全,请及时绑定邮箱和手机立即绑定

Python开发简单爬虫

蚂蚁帅帅 全栈工程师
难度初级
时长 1小时14分
学习人数
综合评分9.67
646人评价 查看评价
9.9 内容实用
9.6 简洁易懂
9.5 逻辑清晰
@慕粉4289539 我一开始也和你一样的错误,我的原因是 在url_manager.py中get_new_url()方法忘了return new_url,我知道我很蠢~
Nice
讲得很好,真心的。

最新回答 / 猪猪的笨笨
感觉你是最近才学的吧。如果是,建议你学习一下基础,然后一个一个模块的学习使用。最后再一次使用多个模块。而且,这个视频的python和模块有点老,你要小心有很多坑,我就是被坑了很多次!!!
1. 先看url的格式, 这个不太难, F12观察一下链接的形式就行了;
2. 再看目标文本信息的标签格式, 比如文本数据为div class=xxx,
3. 容易看到编码为utf-8

目标: 百度百科python词条
入口页: baike.baidu/view/xxxxx
url格式:
数据格式:
-标题: dd class="lemmawgxxxxxx"
-简介 div class = "xxxxx"
页面编码: utf-8
网页下载器: urlLib2, python官方模块;
requests, 第三方, 第三方包, 更强大
url: 添加新url到爬取集合中, 判断待添加url是否在容器中, 判断是否还有待爬取的url, 获取待爬取url, 将url从待爬移动到已爬
哪里有源代码呢
我的 2.7.10里 request的add_data方法只能接收一个参数
到目前为止 都好浅。期待高深一些的

最新回答 / Hedya
应该是你使用的工具的原因,我在sublime打印不出来,但是在Pycharm打印出来了
课程讲的非常好,谢谢老师。我看了两遍,第一遍,了解爬虫运行的流程及本课涉及的知识点。第二遍只看了实战章节,边看视频边敲代码,把细节弄懂,做了笔记。通过学习,已完成对某网站电影下载资源的抓取。
有人试过0.5倍语速吗?有意外惊喜~~
老师这个软件是哪个版本的
课程须知
本课程是Python语言开发的高级课程 1、Python编程语法; 2、HTML语言基础知识; 3、正则表达式基础知识;
老师告诉你能学到什么?
1、爬虫技术的含义和存在价值 2、爬虫技术架构 3、组成爬虫的关键模块:URL管理器、HTML下载器和HTML解析器 4、实战抓取百度百科1000个词条页面数据的抓取策略设定、实战代码编写、爬虫实例运行 5、一套极简的可扩展爬虫代码,修改本代码,你就能抓取任何互联网网页!

微信扫码,参与3人拼团

意见反馈 帮助中心 APP下载
官方微信
友情提示:

您好,此课程属于迁移课程,您已购买该课程,无需重复购买,感谢您对慕课网的支持!

本次提问将花费2个积分

你的积分不足,无法发表

为什么扣积分?

本次提问将花费2个积分

继续发表请点击 "确定"

为什么扣积分?

举报

0/150
提交
取消