Python开发简单爬虫_技术问答

首页免费课 Python开发简单爬虫问答

Python开发简单爬虫

全部评论问答未解决精华

下载Htmlcont 为空

最新回答 / 慕移动9181930

应该是有。等我问一下慕课的工作人员。这句话的重点是“我在美国”麽。。。。

2 回答 403 浏览 8-1 课程总结

2017-03-03

网页长度长度不一样

最新回答 / 侏儒冰法

因为第二种方法伪装了header的agent，header也是作为网页内容返回的，所以长度不一样。

1 回答 433 浏览 5-3 Python爬虫urlib2实例代码演示

2017-03-02

输出乱码问题

最赞回答 / LoNice

fout = open('output.html', 'w', encoding='utf-8')fout.write("<td>%s</td>" % data['title'])fout.write("<td>%s</td>" % data['summary'])在页面开始解析的时候，使用utf-8解析，后面输出的时候就不需要的

3 回答 447 浏览 7-5 HTML解析器html_parser

2017-03-02

安装beautifulsoup出错

最新回答 / toneewang

http://www.360doc.com/content/16/1114/13/3852985_606449918.shtml 供参考python默认是ascii，由于中文的问题，我们需要把python的默认编码修改一下

5 回答 719 浏览 6-1 Python爬虫网页解析器简介

2017-02-28

无法执行，且控制台提示出错

最新回答 / 雨淋淋大王

正如老师所说 python的网址已经变了，不再是http://baike.baidu.com/view/21087需要更改入口网址还有修改下相关页面的遍历策略

2 回答 489 浏览 7-2 调度程序

2017-02-28

TypeError: add_new_urls() takes exactly 1 argument (2 given)

最新回答 / 慕粉1837489978

你的urlmanage中add_new_urls方法参数没写urls，少写一个

1 回答 478 浏览 7-3 URL管理器

2017-02-27

在cmd下不能安装bs4模块

最新回答 / 看雪_0001

你没有把pip添加到path里面吧，看一下你的环境变量

1 回答 826 浏览 6-2 BeautifulSoup模块介绍和安装

2017-02-27

加了utf-8还是乱码

最赞回答 / 古柳古柳

浏览器里打开时右键“编码”，选择Unicode（UTF-8）试试

3 回答 591 浏览 7-7 开始运行爬虫和爬取结果展示

2017-02-25

报这个错？请问是什么原因？谢谢

已采纳回答 / kinredon

soup = BeautifulSoup(html_cont,'html.parser',from_encoding="utf-8")

2 回答 1792 浏览

2017-02-25

也能爬取出来，但是output.html打开是空白。。。

最新回答 / Bobzhangxiaotao

重点是这个：for data in self.datas: fout.write("<tr>") fout.write("<td>") fout.write(data['url']) fout.write("</td>") fout.write("<td>") fout.write(data['title']) fout.write("</td>") fout.write("<td>")...

2 回答 745 浏览 7-7 开始运行爬虫和爬取结果展示

2017-02-24

AttributeError: 'UrlManager' object has no attribute 'new_urls'

已采纳回答 / 马里奥的马里奥

class UrlManager(object): def __init__(self): self.new_urls=set() self.old_urls=set() def add_new_url(self,url): if url is None: return if url not in self.new_urls and ur...

2 回答 2876 浏览 7-7 开始运行爬虫和爬取结果展示

2017-02-22

bs4的问题肯定是

+ 我来回答回答最高可+2积分

2 回答 378 浏览 7-5 HTML解析器html_parser

2017-02-22

运行最后面出现这个，哪里错了？

最新回答 / 六边形怪瓜

从报错来看，你的data存成了set，dict与set的初始化都是{}，用法上体现出区别，检查下你的data在存入数据的时候是否是键值对的形式存储

1 回答 511 浏览

2017-02-22

关于python2.5和2.7版本add_data问题、

最新回答 / 进击的爬虫

我也是这个问题，你解决了嘛

2 回答 1561 浏览 7-2 调度程序

2017-02-22

运行没反应

+ 我来回答回答最高可+2积分

4 回答 662 浏览 7-2 调度程序

2017-02-21

首页上一页 50 51 52 53 54 55 56 下一页尾页

该课程已下架

课程须知: 本课程是Python语言开发的高级课程 1、Python编程语法； 2、HTML语言基础知识； 3、正则表达式基础知识；

老师告诉你能学到什么？: 1、爬虫技术的含义和存在价值 2、爬虫技术架构 3、组成爬虫的关键模块：URL管理器、HTML下载器和HTML解析器 4、实战抓取百度百科1000个词条页面数据的抓取策略设定、实战代码编写、爬虫实例运行 5、一套极简的可扩展爬虫代码，修改本代码，你就能抓取任何互联网网页！

微信扫码，参与3人拼团

热搜

最近搜索清空

Python开发简单爬虫