为了账号安全,请及时绑定邮箱和手机立即绑定

python: 爬虫利器requests

标签:
Python

requests并不是系统自带的模块,他是第三方库,需要安装才能使用

requests库使用方式

闲话少说,来,让我们上代码:
简单的看一下效果:

import requests

requests = requests.session()

headers = {

    'User-Agent':'Mozilla/5.0 (Windows NT 10.0; Win64; x64; rv:57.0) Gecko/20100101 Firefox/57.0'

}

url = "http://httpbin.org"

response = requests.get(url, headers=headers, timeout=None)

print(response.text)

print(response.cookies)

print(response.content)

print(response.content.decode("utf-8"))

print(respone.json())


基本的post请求:

data = {

    "name":"zhaofan",

    "age":23

}

response = requests.post("http://httpbin.org/post",data=data)

print(response.text)


对于无效的网站证书请求方法:


data = {

    "name":"zhaofan",

    "age":23

}

response = requests.post("http://httpbin.org/post",data=data)

print(response.text)


代理设置:

import requests


proxies= {

    "http":"http://127.0.0.1:9999",

    "https":"http://127.0.0.1:8888"

}

response  = requests.get("https://www.baidu.com",proxies=proxies)

print(response.text)


如果代理需要设置账户名和密码,只需要将字典更改为如下:

proxies = {

"http":"http://user:password@127.0.0.1:9999"

}

如果你的代理是通过sokces这种方式则需要pip install "requests[socks]"

proxies= {

"http":"socks5://127.0.0.1:9999",

"https":"sockes5://127.0.0.1:8888"

}



超时设置

通过timeout参数可以设置超时的时间

没有超时时间,一直等待timeout=None

异常捕捉:


import requests


from requests.exceptions import ReadTimeout,ConnectionError,RequestException


try:

    response = requests.get("http://httpbin.org/get",timout=0.1)

    print(response.status_code)

except ReadTimeout:

    print("timeout")

except ConnectionError:

    print("connection Error")

except RequestException:

    print("error")

点击查看更多内容
TA 点赞

若觉得本文不错,就分享一下吧!

评论

作者其他优质文章

正在加载中
  • 推荐
  • 评论
  • 收藏
  • 共同学习,写下你的评论
感谢您的支持,我会继续努力的~
扫码打赏,你说多少就多少
赞赏金额会直接到老师账户
支付方式
打开微信扫一扫,即可进行扫码打赏哦
今天注册有机会得

100积分直接送

付费专栏免费学

大额优惠券免费领

立即参与 放弃机会
意见反馈 帮助中心 APP下载
官方微信

举报

0/150
提交
取消