为了账号安全,请及时绑定邮箱和手机立即绑定

Python开发简单爬虫

蚂蚁帅帅 全栈工程师
难度初级
时长 1小时14分
学习人数
综合评分9.67
646人评价 查看评价
9.9 内容实用
9.6 简洁易懂
9.5 逻辑清晰

已采纳回答 / Yaffy
#coding:utf-8import urllib2import cookieliburl = "http://www.baidu.com"print '第一种方法'response1 = urllib2.urlopen(url)print response1.getcode()print len(response1.read)第一种方法做后获取长度时response1.read 你少个括号应该是response1.read()

已采纳回答 / avalon3515
我使用的是python3,根据实际调试发现此处不需要用encode('utf-8'),但是fout = open('output.html', 'w', encoding='utf-8')要把encoding参数加上,因为在windows下默认编码是gbk,忽略次参数会产生错误。

已采纳回答 / blacksea3
有可能中间这一块哪里代码打错了而不是self.urls.has_new_url()==0导致退出循环,python的百科里面是有别的链接的,你可以试着把try-except去掉,让错误直接显示出来中间这一块指的是:<...code...>根据错误位置设置print 相应的变量查看错误原因。

已采纳回答 / 传说级小白
就比如我们正常打开网页的时候也会报错,可能和你网速有关,也可以是服务端处理请求有关

已采纳回答 / jireh
那是调用main函数,建立main函数仍然需要def。这是python在调用执行程序时,只有一个入口,就是要判断是不是执行__name__='__main__'的函数

已采纳回答 / 赤道2015
我之前用eclipse时感觉不习惯这些快捷键,后来看视频,看到老师总用快捷键,自己就在网上搜,老师的这些操作是用什么快捷键,然后自己也练习使用,所以,发现问题就查,查完就用。

最赞回答 / Ariesfish
代码中设定了输出编码是utf-8,但是没有在html head中加入该网页的编码格式,浏览器就用默认的编码方式去解析了。在<...code...>下面追加输出<...code...>就可以解决了。

已采纳回答 / 啊B
html_parser文件中 HtmlParser方法不存在,或者是名字写错了,自己检查一下

已采纳回答 / SparkSinton
提示错误是什么呢?截图可以Po 上来

最赞回答 / adamtang
补充几张图片示例:1.光标放到UrlManager再Alt+Enter键出来选择下拉列表,选择第一个,创建了class UrlManager()。<...图片...>2.url管理器的几个方法都已经高亮显示了<...图片...>3.把光标add_new_url()按Alt+Enter键可以创建该方法。<...图片...>4. 重复3步骤,创建has_new_url(),add_new_urls()方法<...图片...>

讲师回答 / 蚂蚁帅帅
讲课的时候,不可能抓取太多的页面,因为等的时间太长,所以只抓取了1000个页面用于演示效果,大家当然不用这么设定

最赞回答 / 达达里昂
.py为后缀名的文件都会被认为是python模块。package相当于文件夹,只不过其每层目录下一定有一个 _init_.py 的文件。Pycharm中,在package上右键"New-Python File"可以新建模块<...图片...>
课程须知
本课程是Python语言开发的高级课程 1、Python编程语法; 2、HTML语言基础知识; 3、正则表达式基础知识;
老师告诉你能学到什么?
1、爬虫技术的含义和存在价值 2、爬虫技术架构 3、组成爬虫的关键模块:URL管理器、HTML下载器和HTML解析器 4、实战抓取百度百科1000个词条页面数据的抓取策略设定、实战代码编写、爬虫实例运行 5、一套极简的可扩展爬虫代码,修改本代码,你就能抓取任何互联网网页!

微信扫码,参与3人拼团

意见反馈 帮助中心 APP下载
官方微信
友情提示:

您好,此课程属于迁移课程,您已购买该课程,无需重复购买,感谢您对慕课网的支持!

本次提问将花费2个积分

你的积分不足,无法发表

为什么扣积分?

本次提问将花费2个积分

继续发表请点击 "确定"

为什么扣积分?

举报

0/150
提交
取消