为了账号安全,请及时绑定邮箱和手机立即绑定

Python开发简单爬虫

蚂蚁帅帅 全栈工程师
难度初级
时长 1小时14分
学习人数
综合评分9.67
646人评价 查看评价
9.9 内容实用
9.6 简洁易懂
9.5 逻辑清晰
首先肯定明磊大佬的说法。
即使去掉encoding:'uft-8'依然报错,参见:https://bytes.com/topic/python/answers/556312-lookuperror-unknown-encoding-utf-8-a。
f.write('<td>{0}</td>' .format(data['url']))
f.write('<td>{0}</td>' .format(data['title']))
f.write('<td>{0}</td>' .format(data['summary']))

最新回答 / lakerko
发现是class后面少了一个下划线“_”,为什么要加这个线,在哪找相关的文档?
https://github.com/hellcox/spider_entry.git

学习了后写了个python3的爬虫 数据入库 基于requests

最新回答 / Mzurt
好了,终于运行成功啦!我又看了好几遍视频,原来是UrlManager下的def add_new_url(self,url):这个少写了一个参数
大赞,!!!!
改了links后,一直只能显示1条,结果找了半天是3个.py文件写错了4个字母。。。

最新回答 / qq_相对丨眩变_0
baike_spider不是存放.py文件的包吗??

已采纳回答 / 飘过的小呆呆
当然可以 我之前是用.NET C#写过爬虫 你可以参考下这个网址http://www.cnblogs.com/bqh10086/p/6405121.html     c++ 原理也是类似的 发送get请求页面数据 然后把页面读取成字节流,最后分析字节流保留有用的数据

最新回答 / qq_Hathaway_0
<...图片...>右击output.html文件,点击copy path,复制链接,然后在浏览器输入

已采纳回答 / 慕容2517008
嗯。。。。因为python的那个百度百科的页面的html代码升级了一哈,原本的抓取URl的代码不能用了,你把parser里面的_get_new_urls这个函数的re.compile语句后面的正则表达式改一下,改成这样re.compile(r"/item/")就ok了
学习的东西比较系统,之前看别的相对零散
在编写html下载器的download方法的时候不要
if respond.getcode != 200
return None
这个判断比较好——来自一个小白的尝试
课程须知
本课程是Python语言开发的高级课程 1、Python编程语法; 2、HTML语言基础知识; 3、正则表达式基础知识;
老师告诉你能学到什么?
1、爬虫技术的含义和存在价值 2、爬虫技术架构 3、组成爬虫的关键模块:URL管理器、HTML下载器和HTML解析器 4、实战抓取百度百科1000个词条页面数据的抓取策略设定、实战代码编写、爬虫实例运行 5、一套极简的可扩展爬虫代码,修改本代码,你就能抓取任何互联网网页!

微信扫码,参与3人拼团

意见反馈 帮助中心 APP下载
官方微信
友情提示:

您好,此课程属于迁移课程,您已购买该课程,无需重复购买,感谢您对慕课网的支持!

本次提问将花费2个积分

你的积分不足,无法发表

为什么扣积分?

本次提问将花费2个积分

继续发表请点击 "确定"

为什么扣积分?

举报

0/150
提交
取消