为了账号安全,请及时绑定邮箱和手机立即绑定

Python开发简单爬虫

蚂蚁帅帅 全栈工程师
难度初级
时长 1小时14分
学习人数
综合评分9.67
646人评价 查看评价
9.9 内容实用
9.6 简洁易懂
9.5 逻辑清晰
2018-10-30,Python开始
非常好的视频,我用Python3.7,requests库,也实现了,虽然花了半天时间才调试出来,但也很值了。可以到https://github.com/gongshishen/a_very_very_little_spider看到
很 nice
SyntaxError: invalid syntax 提示错误了
ctrl + 1,很好
刚开始学,python3做完了这个东西,碰到了几个问题,不知道有没有和我一样的小伙伴_init_和__init__ 的区别,当碰到异常 craw failed 可以debug看下流程,目前是可以跑的,不止只打印一个url,如果只打印了一个就是异常了,最后的解析,HTML打印汉字为16进制,data['title'].encode('utf-8').decode('utf-8')可以改为汉字 代码https://github.com/luckly1/baike.git
python3错误 之NameError: name 'cookielib' is not defined
问题:
Python 3 改成 http.cookiejar了
改进办法
print('第三种方法,cookie处理')
import http.cookiejar
cj = http.cookiejar.CookieJar()
opener = urllib.request.build_opener(urllib.request.HTTPCookieProcessor(cj))
urllib.request.install_opener(opener)
我用pycharm 编写的:
import re

from bs4 import BeautifulSoup
html_doc = """
...
"""
soup = BeautifulSoup(html_doc,'html.parser',from_encoding='utf-8')
print '获取所有的链接'
links = soup.find_all('a')
for link in links:
print link.name,link['href'],link.get_text()
.....
遇到的坑,新建的文件名不能包含bs4不然系统报错
思路很清晰,但是。。老师的语气停顿太多了,听起来不适应,刚有点感觉就停顿住了。。
三年前的视频 好多都out了
有可能包含在bs4里面了
爬虫挺有意思的
在进行添加url集合的时候应该判断该集合中的url是否与已存在的url重复
课程须知
本课程是Python语言开发的高级课程 1、Python编程语法; 2、HTML语言基础知识; 3、正则表达式基础知识;
老师告诉你能学到什么?
1、爬虫技术的含义和存在价值 2、爬虫技术架构 3、组成爬虫的关键模块:URL管理器、HTML下载器和HTML解析器 4、实战抓取百度百科1000个词条页面数据的抓取策略设定、实战代码编写、爬虫实例运行 5、一套极简的可扩展爬虫代码,修改本代码,你就能抓取任何互联网网页!

微信扫码,参与3人拼团

意见反馈 帮助中心 APP下载
官方微信
友情提示:

您好,此课程属于迁移课程,您已购买该课程,无需重复购买,感谢您对慕课网的支持!

本次提问将花费2个积分

你的积分不足,无法发表

为什么扣积分?

本次提问将花费2个积分

继续发表请点击 "确定"

为什么扣积分?

举报

0/150
提交
取消