为了账号安全,请及时绑定邮箱和手机立即绑定

Python开发简单爬虫

蚂蚁帅帅 全栈工程师
难度初级
时长 1小时14分
学习人数
综合评分9.67
646人评价 查看评价
9.9 内容实用
9.6 简洁易懂
9.5 逻辑清晰
Python 3.x 爬虫实例源码:https://github.com/woider/BaikeSpider

讲师回答 / 蚂蚁帅帅
<...图片...>如果是chrome浏览器的话,这样子设置一下编码。如果是其他浏览器的话,在菜单找一下。设置一下编码就好了。
知道为什么你们只输出了一条记录吗?仔细看看百度百科链接的后缀【/view/21087.htm】,看清楚不是 .html ,犯错误的举个手吧
BeautifulSoup语法的详细介绍:https://cuiqingcai.com/1319.html
Python 3.x 获取网页代码
import urllib.request
url = &#039;http://www.baidu.com&#039;
request = urllib.request.urlopen(url)
html = request.read().decode(&#039;utf8&#039;)
print(html)
如果写的代码有误就会抛出异常,显示craw fail咯,检查一下代码的正确性先。找错误要耐心,比如我找了半个多小时才发现一个括号忘了,没法 get一个 new_url
。。。怎么办。。听得还是很混乱啊。。。。。为啥第二个就failed了。。。。。

已采纳回答 / NoBB_
用eclipse的话,可以打开eclipse,然后在help->eclipse Marketplace->搜索 pyDev->install或者不用eclipse,直接下个pyCharm, 感觉也挺好用
感谢老师,真心学到好多

已采纳回答 / 蚂蚁帅帅
python的版本2和版本3差别好大。一些公司里面大多用的都是版本2,不过慢慢的都开始迁移到版本3了。这个课程我用的还是版本2~
fucking awesome!! 看到第一个爬虫结果真是百感欣慰虽然中间还有点没弄懂。谢谢老师!!!!

最新回答 / 慕移动9181930
老师,extension=php_gd2.dll这个模块是干嘛的啊是不是只讲在线安装了,没讲包安装。
File &quot;E:/download/untitled/baike/spider_main.py&quot;, line 33, in &lt;module&gt;
obj_spider.craw(root_url)
File &quot;E:/download/untitled/baike/spider_main.py&quot;, line 20, in craw
new_urls,new_data=self.parser.parse(new_url,html_cont)
TypeError: &#039;NoneType&#039; object is not iterable
课程须知
本课程是Python语言开发的高级课程 1、Python编程语法; 2、HTML语言基础知识; 3、正则表达式基础知识;
老师告诉你能学到什么?
1、爬虫技术的含义和存在价值 2、爬虫技术架构 3、组成爬虫的关键模块:URL管理器、HTML下载器和HTML解析器 4、实战抓取百度百科1000个词条页面数据的抓取策略设定、实战代码编写、爬虫实例运行 5、一套极简的可扩展爬虫代码,修改本代码,你就能抓取任何互联网网页!

微信扫码,参与3人拼团

意见反馈 帮助中心 APP下载
官方微信
友情提示:

您好,此课程属于迁移课程,您已购买该课程,无需重复购买,感谢您对慕课网的支持!

本次提问将花费2个积分

你的积分不足,无法发表

为什么扣积分?

本次提问将花费2个积分

继续发表请点击 "确定"

为什么扣积分?

举报

0/150
提交
取消