为了账号安全,请及时绑定邮箱和手机立即绑定

Python开发简单爬虫

蚂蚁帅帅 全栈工程师
难度初级
时长 1小时14分
学习人数
综合评分9.67
646人评价 查看评价
9.9 内容实用
9.6 简洁易懂
9.5 逻辑清晰
到这有点看不懂了...

已采纳回答 / 大象的回忆
url_manager是python程序建立的模块,是个.py文件,而UrlManager是一个类,self.urls=url_manager.UrlManager()是指在url_manager模块中创建对象(类)UrlManager
老师讲的不错,那这个入个门

最新回答 / mocke
看一下你的代码 。如果使用的 Eclipse 做IDE的话 采用debug 模式进行跟踪 查看问题情况

已采纳回答 / Haitao_biology
不是把"data-cid"当成其中一个属性来看就行了么,课程中不是有根据"href"属性来提取<a>标签的例子么,把"href"换成"data-cid"试试.如果目标页面的<li data-cid="x">有不定个,就外面套个while循环,循环到该第i个元素找不到为止

最赞回答 / 孟欣会
<...code...>url_manager中的add_new_urls函数中的if里面的url丢s了应该为def add_new_urls(self,urls):#向url管理器中添加批量url        if urls is None or len(urls)==0:            return        for url in urls:#通过循环一个一个添加            self.add_new_url(url)
import urllib.request

#直接请求
response = urllib.request.urlopen(&quot;http://www.baidu.com&quot;)
#读取内容
cont = response.read()
print(cont)

最新回答 / qq_莫默漠_03677669
#-*- coding: UTF-8 -*-  from bs4 import  BeautifulSoupimport rehtml_doc = """<html><head><title>The Dormouse's story</title></head><body><p class="title"><b>The Dormouse's story</b></p><p clas...

最新回答 / charmingfst
最好打印出异常信息,然后根据异常信息哪里出问题了
Python3.5
第三种方法:
import urllib.request
import http.cookiejar
cj = http.cookiejar.CookieJar()
pro = urllib.request.HTTPCookieProcessor(cj)
opener = urllib.request.build_opener(pro)
urllib.request.install_opener(opener)
response = urllib.request.urlopen(&#039;http://www.baidu.com&#039;)
Python3.5
第二种方法:
In [14]: import urllib.request
In [15]: request = urllib.request.Request(&#039;http://www.baidu.com&#039;)
In [16]: urllib.request.data = (&#039;a&#039;,&#039;1&#039;)
In [17]: request.add_header(&#039;User_Agent&#039;,&#039;Mozilla/5.0&#039;)
In [18]: response = urllib.request.urlopen(request)
Python3.5
第一种方法:
In [8]: import urllib.request

In [9]: response = urllib.request.urlopen(&#039;http://www.baidu.com&#039;)

In [10]: print(response.getcode())
200

In [11]: cont = response.read()
讲的真好~

最新回答 / zhangtaiyang
还有一种情况就是你爬取得到的对象有问题,它不能使用get_text()
课程须知
本课程是Python语言开发的高级课程 1、Python编程语法; 2、HTML语言基础知识; 3、正则表达式基础知识;
老师告诉你能学到什么?
1、爬虫技术的含义和存在价值 2、爬虫技术架构 3、组成爬虫的关键模块:URL管理器、HTML下载器和HTML解析器 4、实战抓取百度百科1000个词条页面数据的抓取策略设定、实战代码编写、爬虫实例运行 5、一套极简的可扩展爬虫代码,修改本代码,你就能抓取任何互联网网页!

微信扫码,参与3人拼团

意见反馈 帮助中心 APP下载
官方微信
友情提示:

您好,此课程属于迁移课程,您已购买该课程,无需重复购买,感谢您对慕课网的支持!

本次提问将花费2个积分

你的积分不足,无法发表

为什么扣积分?

本次提问将花费2个积分

继续发表请点击 "确定"

为什么扣积分?

举报

0/150
提交
取消