为了账号安全,请及时绑定邮箱和手机立即绑定

Python开发简单爬虫

蚂蚁帅帅 全栈工程师
难度初级
时长 1小时14分
学习人数
综合评分9.67
646人评价 查看评价
9.9 内容实用
9.6 简洁易懂
9.5 逻辑清晰
1.25倍速听的好激动
先看3遍这种思维走向,再写代码。
重要的是举一反三
简单易懂,受益非浅
原来2.7版本的python死活安装不上,找不到scripts文件、安装不上pip,现在换了3.6版本python,自带pip,自动添加环境变量,然后按老师步骤来,两步搞定。。这差距啊。。
python3.x需要这样写

# encoding:UTF-8
import urllib.request
url = "http://www.baidu.com"
data = urllib.request.urlopen(url).getcode()
print(data)
关于python2.7 add_data只允许一个参数的问题
import urllib2
import urllib
url = 'http://www.baidu.com'
# 创建Request对象
request = urllib2.Request(url)
values = {'a':'1'}
data = urllib.urlencode(values)
request.add_data(data)
request.add_header('User-Agent', 'Mozilla/5.0')
response = urllib2.urlopen(request)
花了一晚上看完了,照着示例代码,写出了我的爬虫,我用是Python 3.6.1,用python3的童鞋可以去我的github:https://github.com/lovefengruoqing/baike_spider看源码,我自己做了一些小小的修改,上面还提供了爬取后生成的页面的效果图。
【写于2018-02-01 13:03:26】
搜索引擎就是基于爬虫的应用啊
实例讲的好快啊
输出的时候,给table加上border属性,页面看着更清晰一些:
fout.write("<table border='1'>")
Python2.7运行报错:ValueError: unsupported format character '<' (0x3c) at index 6
错误出在:fout.write("<td>s%</td>" % data['url']) 上,最后尝试拆分开运行正常:
fout.write("<td>")
fout.write(data['url'])
fout.write("</td>")
从python爬到了唐诗三百首,哈哈哈哈
经过不懈努力,终于成功了!就是html页面生成的不好看!!!!
python 3.5
用的是PyCharm 2017
https://github.com/Kaen-Lee/MyFiles
这里综合了自己和别人的代码,修改了好多,完美运行
需要的可以看看
大家加油!
课程须知
本课程是Python语言开发的高级课程 1、Python编程语法; 2、HTML语言基础知识; 3、正则表达式基础知识;
老师告诉你能学到什么?
1、爬虫技术的含义和存在价值 2、爬虫技术架构 3、组成爬虫的关键模块:URL管理器、HTML下载器和HTML解析器 4、实战抓取百度百科1000个词条页面数据的抓取策略设定、实战代码编写、爬虫实例运行 5、一套极简的可扩展爬虫代码,修改本代码,你就能抓取任何互联网网页!

微信扫码,参与3人拼团

意见反馈 帮助中心 APP下载
官方微信
友情提示:

您好,此课程属于迁移课程,您已购买该课程,无需重复购买,感谢您对慕课网的支持!

本次提问将花费2个积分

你的积分不足,无法发表

为什么扣积分?

本次提问将花费2个积分

继续发表请点击 "确定"

为什么扣积分?

举报

0/150
提交
取消