网络爬虫配置ip代理

2021年12月23日

网络爬虫配置ip 代理,下面以python request 库为例子。
首先,准备好文章链接和开发工具(Pycharm)

1.配置proxies

proxies = {
'http':'http://' + ip,
'https':'https://' + ip,
}

2.设置参数

content = requests.get(url=url,proxies=proxies).content.decode('utf-8')

3.完整代码

import requests  
  
url = 'https://www.qq.com'  
ip = '你的代理IP'  
headers = {

    #以下填你的请求头信息  
 'accept': '',  
 'accept-encoding': '',  
 'accept-language': '',  
 'cache-control': '',  
 'cookie':'',  
 'sec-fetch-mode': '',  
 'sec-fetch-site': '',  
 'sec-fetch-user': '',  
 'upgrade-insecure-requests': 1,  
 'user-agent': '',  
}  
  
proxies = {  
'http':'http://' + ip,  
'https':'https://' + ip,  
}  
  
content = requests.get(url=url,headers=headers,proxies=proxies).content.decode('utf-8')
print(content)

相关推荐

Image
2021年12月26日
3种常见的反爬手段及解决思路

从功能上来讲,爬虫一般分为数据采集,处理,储存三个部分。当然,在这里我们只讨论数据采集部分。 通过Header […]

轻松上手!

单击此处通过 1 天免费试用来测试 蜜蜂代理 的代理IP!

立即开始

立即开始您的1天免费试用!

微信客服