网络爬虫配置ip代理

2021年12月23日

网络爬虫配置ip 代理,下面以python request 库为例子。
首先,准备好文章链接和开发工具(Pycharm)

1.配置proxies

proxies = {
'http':'http://' + ip,
'https':'https://' + ip,
}

2.设置参数

content = requests.get(url=url,proxies=proxies).content.decode('utf-8')

3.完整代码

import requests  
  
url = 'https://www.qq.com'  
ip = '你的代理IP'  
headers = {

    #以下填你的请求头信息  
 'accept': '',  
 'accept-encoding': '',  
 'accept-language': '',  
 'cache-control': '',  
 'cookie':'',  
 'sec-fetch-mode': '',  
 'sec-fetch-site': '',  
 'sec-fetch-user': '',  
 'upgrade-insecure-requests': 1,  
 'user-agent': '',  
}  
  
proxies = {  
'http':'http://' + ip,  
'https':'https://' + ip,  
}  
  
content = requests.get(url=url,headers=headers,proxies=proxies).content.decode('utf-8')
print(content)

相关推荐

Image
2021年12月23日
发票相关问题

支持,我们可以为累积消费金额满800元的客户开具电子发票并通过电子邮箱发送。点击发票申请页面提交申请开增值税电 […]

Image
2021年12月23日
产品问题

短效代理IP、隧道代理有什么区别?我该如何选择? 特性 短效代理IP 隧道代理 免费代理 IP来源 自建服务器 […]

轻松上手!

单击此处通过 1 天免费试用来测试 蜜蜂代理 的代理IP!

立即开始

立即开始您的1天免费试用!

微信客服