为了账号安全,请及时绑定邮箱和手机立即绑定

Python开发简单爬虫

蚂蚁帅帅 全栈工程师
难度初级
时长 1小时14分
学习人数
综合评分9.67
646人评价 查看评价
9.9 内容实用
9.6 简洁易懂
9.5 逻辑清晰
老师声音铿锵有力啊
踩坑,,python3第一种方法,如下写。
# conding:utf8
import urllib.request

url = "https://www.baidu.com"
print("第一种方法")
response1 = urllib.request.urlopen(url)
print(response1.getcode())
print(len(response1.read()))

有两点,低一点print已经是一个方法了,第二点urllib2已经和urllib合并了,在python3中只有urllib,而且urlopen方法在urllib.request上。
python 3 版本代码:

https://github.com/zaxlct/baike_spider
带注释
python 3 版本代码:
https://github.com/zaxlct/baike_spider
这只能爬没有js的页面,碰上js就没用了
pytharm里是alt+Enter
在python3中安装会出现问题,安装方式“自行下载插件,解压后拷贝到python安装目录中的lib目录下,打开cmd进入插件的目录,输入python setup.py install,即可安装。”
import bs4 会出现不能运行情况 提示使用python2
解决方案:
cd到 bs4 目录, 然后 运行D:\p\Lib\beautifulsoup4-4.5.1>python D:\p\Tools\scripts\2to3.py -w bs4
在建立文件时候不要命名 urllib 否则会一直报错AttributeError: ‘module’ object has no attribute’xxx’
真的讲的很清楚,很适合我用来做ppt,哈哈,偷笑
爬虫的功能是获取互联网的信息,然后将这些有用的信息为其他所用。
求pydev安装方法,试了很多,都不行。1【Help】-【Install New Software】;2 选择【Archive】,然后选择下载的离线;3 直接将下载的离线包解压,得到plugins和features文件夹,放到Eclipse的dropins目录下.。都不行,晕了
我靠,现在想抛弃php了
老师讲课怎么感觉在偷笑啊
看了n多文章,也没办法把爬虫工作的原理弄明白,楼主一张图搞定!!大大的成就感,看来不是我笨,是他们讲的不够好~哈哈哈
只出来一条数据的,links = soup.find_all('a', href=re.compile(r"/view/\d+\.htm")) ,中不要写成"/view/\d+/.htm",吐血T_T
课程须知
本课程是Python语言开发的高级课程 1、Python编程语法; 2、HTML语言基础知识; 3、正则表达式基础知识;
老师告诉你能学到什么?
1、爬虫技术的含义和存在价值 2、爬虫技术架构 3、组成爬虫的关键模块:URL管理器、HTML下载器和HTML解析器 4、实战抓取百度百科1000个词条页面数据的抓取策略设定、实战代码编写、爬虫实例运行 5、一套极简的可扩展爬虫代码,修改本代码,你就能抓取任何互联网网页!

微信扫码,参与3人拼团

意见反馈 帮助中心 APP下载
官方微信
友情提示:

您好,此课程属于迁移课程,您已购买该课程,无需重复购买,感谢您对慕课网的支持!

本次提问将花费2个积分

你的积分不足,无法发表

为什么扣积分?

本次提问将花费2个积分

继续发表请点击 "确定"

为什么扣积分?

举报

0/150
提交
取消