为了账号安全,请及时绑定邮箱和手机立即绑定

Python开发简单爬虫

蚂蚁帅帅 全栈工程师
难度初级
时长 1小时14分
学习人数
综合评分9.67
646人评价 查看评价
9.9 内容实用
9.6 简洁易懂
9.5 逻辑清晰

最新回答 / pickleRick
这位同学先发截图吧....

最赞回答 / 滑滑鸡
代码import部分加入import cookielib即可解决本人使用Python2出现的问题,仅供参考,适人而异。

最新回答 / 滑滑鸡
别着急,喝口水,慢慢说,把问题说清楚。

最赞回答 / Sias丶殇
我也遇到了这个问题,我已经解决了。系统为Win7, Pycharm Community Edition5.0.1。先把第一行的from baike_spider去掉,然后光标放到UrlManager再Alt+Enter键出来选择下拉列表,选择第一个,创建了class UrlManager()。之后可以看到url管理器的几个方法都已经高亮显示了。把光标add_new_url()按Alt+Enter键可以创建该方法。

最新回答 / 滑滑鸡
将SpiderMain的函数返回存储在obj_spider中

最新回答 / qq_passerby_13
from bs4 import BeautifulSoupimport reimport urlparseclass HtmlParser(object):       def _get_new_urls(self, page_url, soup):        new_urls=set()        links=soup.find_all('a',href=re.compile(r"/view/\d+\.html"))        for link in links:            ne...

最赞回答 / 慕码人0182688
你是用的2.x还是3.x,我这个是3.6的,你看看<...图片...>

最新回答 / 风中沙
贴错误也要把对应行的代码贴出来,别人才能帮你解决问题。

最赞回答 / scale0116
我也是用的Python3,第一次运行的时候也出现这样的warning,后来我查了一下发现在python3中,默认为UTF-8,所以要去掉报错的话只要去掉下面这句就行。
from_encoding='utf-8'
改成<...code...>你再运行一下就可以发现不报错了

最新回答 / 本本小生
修改成:title_node = soup.find('dl', class_='lemmaWgt-lemmaTitle lemmaWgt-lemmaTitle-').find('h1')
因为百度百科有些页面里没有 ('dd',class='lemmaWgt-lemmaTitle-title')这个元素。
但是一定会有('dl', class_='lemmaWgt-lemmaTitle lemmaWgt-lemmaTitle-')。
我也是测试半天才发现这个原因的,希望能帮到你。
课程须知
本课程是Python语言开发的高级课程 1、Python编程语法; 2、HTML语言基础知识; 3、正则表达式基础知识;
老师告诉你能学到什么?
1、爬虫技术的含义和存在价值 2、爬虫技术架构 3、组成爬虫的关键模块:URL管理器、HTML下载器和HTML解析器 4、实战抓取百度百科1000个词条页面数据的抓取策略设定、实战代码编写、爬虫实例运行 5、一套极简的可扩展爬虫代码,修改本代码,你就能抓取任何互联网网页!

微信扫码,参与3人拼团

意见反馈 帮助中心 APP下载
官方微信
友情提示:

您好,此课程属于迁移课程,您已购买该课程,无需重复购买,感谢您对慕课网的支持!

本次提问将花费2个积分

你的积分不足,无法发表

为什么扣积分?

本次提问将花费2个积分

继续发表请点击 "确定"

为什么扣积分?

举报

0/150
提交
取消