用Python3的童鞋看这里
import urllib.parse
...
new_full_url = urllib.parse.urljoin(url, new_url)
import urllib.parse
...
new_full_url = urllib.parse.urljoin(url, new_url)
2015-12-20
已经看完回到前面评论一下,
能把一个不简单的内容讲到简单, 能让一个对爬虫0基础的人入手
可见讲师功力之深厚,
十分感谢慕课这个爬虫课程 和讲师的细细讲解
讲师用的Python2, 如果有童鞋用的Python3, 发现导包和方法不适用的话可以看对应下面课程的评论, 我把需要Python3 转换的都写评论里了
大家加油
能把一个不简单的内容讲到简单, 能让一个对爬虫0基础的人入手
可见讲师功力之深厚,
十分感谢慕课这个爬虫课程 和讲师的细细讲解
讲师用的Python2, 如果有童鞋用的Python3, 发现导包和方法不适用的话可以看对应下面课程的评论, 我把需要Python3 转换的都写评论里了
大家加油
2015-12-20
用Python3的童鞋请看这里 受评论字数限制分开发(3)
print('第三种方法')
cj = http.cookiejar.CookieJar()
opener = request.build_opener(request.HTTPCookieProcessor(cj))
request.install_opener(opener)
response3 = request.urlopen(url)
print(response3.getcode())
print(cj)
print(response3.read())
print('第三种方法')
cj = http.cookiejar.CookieJar()
opener = request.build_opener(request.HTTPCookieProcessor(cj))
request.install_opener(opener)
response3 = request.urlopen(url)
print(response3.getcode())
print(cj)
print(response3.read())
2015-12-20
用Python3的童鞋请看这里 受评论字数限制分开发(2)
print('第二种方法')
req = request.Request(url)
req.add_header('user-agent', 'Mozilla/5.0')
response2 = request.urlopen(req)
print(response2.getcode())
print(len(response2.read()))
print('第二种方法')
req = request.Request(url)
req.add_header('user-agent', 'Mozilla/5.0')
response2 = request.urlopen(req)
print(response2.getcode())
print(len(response2.read()))
2015-12-20
用Python3的童鞋请看这里 受评论字数限制分开发(1)
from urllib import request
import http.cookiejar
url = 'http://www.baidu.com'
print('第一种方法:')
response1 = request.urlopen(url)
print(response1.getcode())
print(len(response1.read()))
from urllib import request
import http.cookiejar
url = 'http://www.baidu.com'
print('第一种方法:')
response1 = request.urlopen(url)
print(response1.getcode())
print(len(response1.read()))
2015-12-20