为了账号安全,请及时绑定邮箱和手机立即绑定

Python开发简单爬虫

蚂蚁帅帅 全栈工程师
难度初级
时长 1小时14分
学习人数
综合评分9.67
646人评价 查看评价
9.9 内容实用
9.6 简洁易懂
9.5 逻辑清晰
eclipse的代码提示简直不要太流畅额,写代码的时候有种大神的感觉。
老师节奏非常快,关于urllib讲了很多之前没见过的方法,需要自己去学习。另外Python3.x里面urllib和urllib2貌似合并了,urllib2的方法集成到urllib.request下面去了,用法类似。
老师不知道爬了多少美女图片吧 呵呵。。。
print '第三种方法'
cj = cookielib.CookieJar()
opener = urllib2.build_opener(urllib2.HTTPCookieProcessor(cj))
urllib2.install_opener(opener)
response3 = urllib2.urlopen(url)
print response3.getcode()
print cj
print len(response3.read())

最赞回答 / 阿雷雷雷雷
百度百科的链接地址都变了,你修改一下html_parser里面的_get_new_urls方法:links = soup.find_all('a', href=re.compile(r"/view/\d+\.html"))改为:links = soup.find_all('a', href=re.compile(r"/item/"))
讲的真棒!加油~
# coding utf_8
import urllib.error
import urllib.request
from pip._vendor.requests.api import request
from http.cookiejar import CookieJar
url="http://www.baidu.com"
print ("first")
response=urllib.request.urlopen(url)

print (response.getcode())
print (len(response.read()))
给老师点个赞

最新回答 / 么哒
如果不行再试试Ctrl+1
For python 3.x:
import http.cookiejar
cj = http.cookiejar.CookieJar

已采纳回答 / 蛋蛋_JL
beautifulsoup4移入到bs4里面去了。。
GitHub : https://github.com/PlayingWithFlame/imoocWebCrawler

本课程源码,运行环境Python3.6,纠正了一些错误以及浏览器显示中文乱码问题

最赞回答 / qq_我年轻_0
我也遇到了这个问题,很好解决。你们可以看一下任何一个网站的源码 例如本网站<...code...>他会有这一句句话  <meta charset="utf-8">这就是 html 编码的约束 。所以在 html_outputer.py  的这句话<...code...>前面 添加<...code...>output_html() 方法应为:<...code...>

最新回答 / 么么你个哒
模仿浏览器的,你在浏览器下审查元素,可以看见,request请求中的user-agent字段
思路清晰,图标得当,受益匪浅。
课程须知
本课程是Python语言开发的高级课程 1、Python编程语法; 2、HTML语言基础知识; 3、正则表达式基础知识;
老师告诉你能学到什么?
1、爬虫技术的含义和存在价值 2、爬虫技术架构 3、组成爬虫的关键模块:URL管理器、HTML下载器和HTML解析器 4、实战抓取百度百科1000个词条页面数据的抓取策略设定、实战代码编写、爬虫实例运行 5、一套极简的可扩展爬虫代码,修改本代码,你就能抓取任何互联网网页!

微信扫码,参与3人拼团

意见反馈 帮助中心 APP下载
官方微信
友情提示:

您好,此课程属于迁移课程,您已购买该课程,无需重复购买,感谢您对慕课网的支持!

本次提问将花费2个积分

你的积分不足,无法发表

为什么扣积分?

本次提问将花费2个积分

继续发表请点击 "确定"

为什么扣积分?

举报

0/150
提交
取消