为了账号安全,请及时绑定邮箱和手机立即绑定

Python开发简单爬虫

蚂蚁帅帅 全栈工程师
难度初级
时长 1小时14分
学习人数
综合评分9.67
646人评价 查看评价
9.9 内容实用
9.6 简洁易懂
9.5 逻辑清晰
老师讲得很好很清楚!
比u特佛色谱(beautifulsoup)?我笑了好久

最新回答 / WallonLst
这个我也遇到了,你那边最后是哪里错误了
python3爬虫实例源码 https://github.com/fifths/python_baike_spider.git
python3爬虫实例源码 https://github.com/fifths/python_baike_spider.git
python3爬虫实例 https://github.com/fifths/python_baike_spider.git
print('第三种方法')

cj = http.cookiejar.CookieJar()

opener = urllib.request.build_opener(urllib.request.HTTPCookieProcessor(cj))

urllib.request.install_opener(opener)

response3 = urllib.request.urlopen(url)

print(response3.getcode())

print(cj)

print(response3.read())
print('第二种方法')

req = urllib.request.Request(url)

req.add_header('user-agent', 'Mozilla/5.0')

response2 = urllib.request.urlopen(req)

print(response2.getcode())

print(len(response2.read()))
python3

import urllib.request
url = "http://www.baidu.com"
print('第一种方法')

response1=urllib.request.urlopen(url)
print(response1.getcode())
print(len(response1.read()))

最新回答 / hack2012
百度百科的文档结尾是htm,你写个html当然是抓不到任何东西了。

已采纳回答 / 戴暉
仔细看看你的代码哪里写的有问题,估计是不仔细。或者是你爬的网页有问题,换个东西爬爬看

最新回答 / 啊B
代码开头加一句  <...code...>
import sys
...
type = sys.getfilesystemencoding()
...
fout.write(&quot;&lt;td&gt;%s&lt;/td&gt;&quot; % data[&#039;title&#039;].encode(type))
outputer在data[&#039;title&#039;].encode(&#039;utf-8&#039;)后,内容乱码,怎么办

最新回答 / 小楠仔子
你说的js页面应该是指动态加载数据的js方法,而这些js调用方法一般会调用特定的API返回json数据,所以直接访问api然后解析返回的json数据是一种解决方案。我也是初学,有不对的地方见谅。
课程须知
本课程是Python语言开发的高级课程 1、Python编程语法; 2、HTML语言基础知识; 3、正则表达式基础知识;
老师告诉你能学到什么?
1、爬虫技术的含义和存在价值 2、爬虫技术架构 3、组成爬虫的关键模块:URL管理器、HTML下载器和HTML解析器 4、实战抓取百度百科1000个词条页面数据的抓取策略设定、实战代码编写、爬虫实例运行 5、一套极简的可扩展爬虫代码,修改本代码,你就能抓取任何互联网网页!

微信扫码,参与3人拼团

意见反馈 帮助中心 APP下载
官方微信
友情提示:

您好,此课程属于迁移课程,您已购买该课程,无需重复购买,感谢您对慕课网的支持!

本次提问将花费2个积分

你的积分不足,无法发表

为什么扣积分?

本次提问将花费2个积分

继续发表请点击 "确定"

为什么扣积分?

举报

0/150
提交
取消