为了账号安全,请及时绑定邮箱和手机立即绑定

Python开发简单爬虫

蚂蚁帅帅 全栈工程师
难度初级
时长 1小时14分
学习人数
综合评分9.67
646人评价 查看评价
9.9 内容实用
9.6 简洁易懂
9.5 逻辑清晰
python 3.5
用的是PyCharm 2017
https://github.com/Kaen-Lee/MyFiles
这里综合了自己和别人的代码,修改了好多,完美运行
需要的可以看看
大家加油!

已采纳回答 / 纯爱枫若情
我用的就是Python 3.6.1,你可以去我的github看源码,我自己做了一些修改,上面还提供了爬取后的生成的页面的效果图
老师这代码写完一点要测一点吧,对于我们菜鸟来说一气呵成很容易出错啊
如果出现错误:SyntaxError: Non-ASCII character '\xe7'
就在第一行加上下面这行即可:
#-*- coding: UTF-8 -*-
2018年了 http 协议快完了 全是https协议啦。。
直接 crow failed
然后就没了 -_-||
python 3.6.0 版本下代码参考,完成作业的时候遇到问题也有参考前面同学的代码进行了修改,希望后面来学习的小伙伴都可以顺利完成,得到提升。
https://github.com/zhangyan123/PythonCrawler

最新回答 / 林河
baike_spider.url_manager.UrlManager,这个文件里没有get_new_url方法,你是不是命名出错了
使用requests遇到TooManyRedirects:Exceeded 30 redirects的错误,加入User-Agent就行了:
s = requests.session()
s.headers['User-Agent'] = 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/62.0.3202.89 Safari/537.36'
r = s.get(url)
r.encoding = 'utf-8'
哈哈又变强了!

最赞回答 / Enduo
如: s1 = "hello,world" 如果要写成多行,那么就要使用/ (“连行符”)吧,如 s2 = "hello,/ world" s2与s1是一样的。如果你用3个双引号的话,就可以直接写了,如下: s3 = """hello, world, hahaha."""
不会python,主要学习下爬虫的思想
课程须知
本课程是Python语言开发的高级课程 1、Python编程语法; 2、HTML语言基础知识; 3、正则表达式基础知识;
老师告诉你能学到什么?
1、爬虫技术的含义和存在价值 2、爬虫技术架构 3、组成爬虫的关键模块:URL管理器、HTML下载器和HTML解析器 4、实战抓取百度百科1000个词条页面数据的抓取策略设定、实战代码编写、爬虫实例运行 5、一套极简的可扩展爬虫代码,修改本代码,你就能抓取任何互联网网页!

微信扫码,参与3人拼团

意见反馈 帮助中心 APP下载
官方微信
友情提示:

您好,此课程属于迁移课程,您已购买该课程,无需重复购买,感谢您对慕课网的支持!

本次提问将花费2个积分

你的积分不足,无法发表

为什么扣积分?

本次提问将花费2个积分

继续发表请点击 "确定"

为什么扣积分?

举报

0/150
提交
取消