前往小程序,Get更优阅读体验!
立即前往
首页
学习
活动
专区
圈层
工具
发布
首页
学习
活动
专区
圈层
工具
MCP广场
社区首页 >专栏 >爬虫增加代理机制

爬虫增加代理机制

作者头像
德宏大魔王
发布2023-08-08 13:20:22
发布2023-08-08 13:20:22
22400
代码可运行
举报
文章被收录于专栏:cloud stdiocloud stdio
运行总次数:0
代码可运行
代码语言:javascript
代码运行次数:0
运行
复制
可采集的站点:

免费代理IP http://ip.yqie.com/ipproxy.htm
66免费代理网 http://www.66ip.cn/
89免费代理 http://www.89ip.cn/
无忧代理 http://www.data5u.com/
云代理 http://www.ip3366.net/
快代理 https://www.kuaidaili.com/free/
极速专享代理 http://www.superfastip.com/
HTTP代理IP https://www.xicidaili.com/wt/
小舒代理 http://www.xsdaili.com
西拉免费代理IP http://www.xiladaili.com/
小幻HTTP代理 https://ip.ihuan.me/
全网代理IP http://www.goubanjia.com/
飞龙代理IP http://www.feilongip.com/

新建IP.txt

代码语言:javascript
代码运行次数:0
运行
复制
{'http':'183.247.215.218:80'}

新建demo.py

代码语言:javascript
代码运行次数:0
运行
复制
import requests
import random
# #
# 打开文件,换行读取
f = open("IP.txt", "r")
file = f.readlines()

# 遍历并分别存入列表,方便随机选取IP
item = []
for proxies in file:
        proxies = eval(proxies.replace('\n', '')) 
        item.append(proxies)

proxies = random.choice(item)  # 随机选取一个IP
print(proxies)

# #
response = requests.get("http://httpbin.org/ip",proxies=proxies)
data=response.json()
new=data['origin']

如果origin和你的代理IP一样则成功,报错可能是IP代理不能用了

本文参与 腾讯云自媒体同步曝光计划,分享自作者个人站点/博客。
原始发表:2022-01-19,如有侵权请联系 cloudcommunity@tencent.com 删除

本文分享自 作者个人站点/博客 前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文参与 腾讯云自媒体同步曝光计划  ,欢迎热爱写作的你一起参与!

评论
登录后参与评论
0 条评论
热度
最新
推荐阅读
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档