为了账号安全,请及时绑定邮箱和手机立即绑定

Python开发简单爬虫

蚂蚁帅帅 全栈工程师
难度初级
时长 1小时14分
学习人数
综合评分9.67
646人评价 查看评价
9.9 内容实用
9.6 简洁易懂
9.5 逻辑清晰

最新回答 / qq_甲乙丙丁_0
from bs4 import  BeautifulSoup as bssoup = bs(html_cont,"html.parser")

最新回答 / 慕粉3777834
<...code...>看看定义这个方法有没有出错,级res_data['title']

最新回答 / 慕移动9181930
严格的说span是p标签的第一代子元素,所以用这样方式,如果是第N代元素就要把中间的gt;去掉ycuvqnqtrsqybquwacsqhjeoijlpkhmbalcnlgdzeyuhvyrxwmyexrswrrpbknyydjxsbvewtrdcuhkxmgalnhwmsuaergixysqbxqribqjrggazpqrsccds

最赞回答 / qq_甲乙丙丁_0
https://github.com/xuhang96/python_spider_baike   去这对比你的代码

最新回答 / 走过驿路
new_full_url =urljoin(page_url,new_url) 也可以吧

最新回答 / 一颗恒心闯天下
先找到路径为python安装路径下的scripts文件夹,在目录上用cmd进去,即可安装。

最新回答 / 关力
1.同学你好,我们在写程序的时候,有好多判断,比如说链接无效,比如说没有title或者summay数据等都会被返回为异常处理,然后显示为craw failed.2.你可以通过在程序中增加print url来显示你爬取得url,这样即使failed,你也可以自己检验看是否是url真的错误,还是自己程序的问题。有可能出现自己url拼接错误的问题,因为无法看到你的代码,因此无法确定,你可以自己检查一下。

最赞回答 / 宇娃
很明显,这是re模块没有导入的结果。在输入link_node = soup.find('a', href=re.后面按Ctrl +1 ,会提示你导入re 模块 ,然后回车就行了,这就就导入了re模块,然后代码就可以正常运行了

最新回答 / y3093
第一行加  # coding:utf8   声明编码格式即可。

最赞回答 / 云1234567
我自己也有同样的问题,后来自己给自己解决了,也是参考了别的问题的答案。我再复制一份给你方法一:fout.write("<html><meta charset=\"utf-8\" />")下面这些不需要再写encode('utf-8')fout.write('<td>%s</td>'%data['url'])   fout.write('<td>%s</td>'%data['title'])  fout.write('<td>...

最赞回答 / 帽子大大大3830867
然而我找到答案了,原因大概是网络问题,导致 response = urllib2.urlopen(url)没有反应,然后卡死解决方案就是加个timeout: response = urllib2.urlopen(url,timeout=5)这样就能继续往下爬了~
课程须知
本课程是Python语言开发的高级课程 1、Python编程语法; 2、HTML语言基础知识; 3、正则表达式基础知识;
老师告诉你能学到什么?
1、爬虫技术的含义和存在价值 2、爬虫技术架构 3、组成爬虫的关键模块:URL管理器、HTML下载器和HTML解析器 4、实战抓取百度百科1000个词条页面数据的抓取策略设定、实战代码编写、爬虫实例运行 5、一套极简的可扩展爬虫代码,修改本代码,你就能抓取任何互联网网页!

微信扫码,参与3人拼团

意见反馈 帮助中心 APP下载
官方微信
友情提示:

您好,此课程属于迁移课程,您已购买该课程,无需重复购买,感谢您对慕课网的支持!

本次提问将花费2个积分

你的积分不足,无法发表

为什么扣积分?

本次提问将花费2个积分

继续发表请点击 "确定"

为什么扣积分?

举报

0/150
提交
取消