为了账号安全,请及时绑定邮箱和手机立即绑定

Python开发简单爬虫

蚂蚁帅帅 全栈工程师
难度初级
时长 1小时14分
学习人数
综合评分9.67
646人评价 查看评价
9.9 内容实用
9.6 简洁易懂
9.5 逻辑清晰
https://github.com/sunrungeng/crawl-baike-python-demo
今天刚敲得 需要的可以参考下
本来心情挺好,看了评论真是日 了 狗了,看不懂的地方搜一下不就知道了?非要老师全部咀嚼碎了再吐给你?
经验证,不能写在一起,上面的方法错了
上面说错了,其实没必要判断传入的URL是单个还是多个,对于for来说都一样的
其实没有必要分成两个add_url 和 add_urls, 直接写一个add_url函数,然后判断传入的urls是单个元素还是多个元素就好了。

def add_url(self, urls):
if url is None or len(url) == 0:
return
for url in urls:
if url not in self.new_urls and url not in self.old_urls:
self.new_urls.add(url)
为什么突然播放不了了
挺好,学到了
1.from url import request
import http.cookiejar
为什么看完了不加经验呢
听不懂的同学建议先去补充一下廖雪峰老师讲的基础课程
URL管理器支持功能:1.添加新的URL到待爬取的集合中2.添加的同时判断这个URL是否已在容器中3.从容器中获取待爬取的URL4.获取时判断容器中还有没有待爬取的URL5.URL爬取之后,将URL从待爬取集合移动到已爬取集合
输出可以用with语句来写:
with open('output.html', 'w') as f:
f.write("<html>")
f.write("<body>")
f.write("<table>")

f.write("</table>")
f.write("</body>")
f.write("</html>")
soup =BeautifulSoup(html_doc,'html5lib',from_encoding='utf-8')
学这个主要学思路吧,ide的快捷键什么的打一张表贴出来,需要的时候瞄一瞄。语法那些真的要先打好基础,不然学了也是半桶水啊。
课程须知
本课程是Python语言开发的高级课程 1、Python编程语法; 2、HTML语言基础知识; 3、正则表达式基础知识;
老师告诉你能学到什么?
1、爬虫技术的含义和存在价值 2、爬虫技术架构 3、组成爬虫的关键模块:URL管理器、HTML下载器和HTML解析器 4、实战抓取百度百科1000个词条页面数据的抓取策略设定、实战代码编写、爬虫实例运行 5、一套极简的可扩展爬虫代码,修改本代码,你就能抓取任何互联网网页!

微信扫码,参与3人拼团

意见反馈 帮助中心 APP下载
官方微信
友情提示:

您好,此课程属于迁移课程,您已购买该课程,无需重复购买,感谢您对慕课网的支持!

本次提问将花费2个积分

你的积分不足,无法发表

为什么扣积分?

本次提问将花费2个积分

继续发表请点击 "确定"

为什么扣积分?

举报

0/150
提交
取消