众所周知,隧道代理比动态短效代理贵,但是因为其产品特性,确实也更好用更方便,那我们要如何自己搭建起来隧道代理呢?
说来也不复杂,按照我说的方法,即可搭建起来隧道代理。
1.构建HTTP代理池
首先,你手上得有一批HTTP 代理,要么自己去爬免费的资源(不是那么建议,免费的可用率真的非常低),要么就自己去和HTTP厂商购买动态短效代理,要么就从0开始,自己买服务器……总之,你手上得有一批可以使用起来的HTTP代理,搭建起来你的HTTP代理池子。
接下来就是使用 Redis 的 Hash 这个数据结构周期性访问url,拉取当前最新可用的HTTP代理。
代码如下:
通常,HTTP代理从厂商那购买,是有个存活周期的,我们要在HTTP代理的存活周期内使用,所以更换的周期也要在这时间段内。更换的时候,采用了增量更换的方式。把当前拉取的 IP 和 Redis 里面的已有 IP 进行对比。不在这次拉取的 IP 全部从 Redis 移除,然后把新增的 IP 加到 Redis 中。
当然,我们需要确保从 URL 拉下来的代理也进行有效性检查,发现无效的立刻移除,可以进行少量测试:
只需要更改这里的ip就可以自动判断是否可用。
如果这里的状态码为200就表示这个ip可用,如果是502等其他的状态码就表示这个ip不可用。
2.实现自动转发
我们可以使用 OpenResty实现自动转发。
对应的配置文件如下图所示:
有需要的友友们可以根据配置文件稍作修改。
3.启动
设置好了这些配置以后,使用 Docker 来启动它:
然后,执行命令构建和运行:
运行以后,你会看到 Docker 的命令行似乎卡住了。这是正常请求。因为需要你有了请求,它才会输出内容。
现在,你可以用 Requests 赶快写一段代码来进行验证:
运行效果如下:
配置nginx.config如果出现问题,要根据具体报错信息来解决。
自己搭建隧道代理,实际工作生活中只能拿来练手,毕竟如果是在公司上班,这个要花费很多时间成本去做开发和维护,过程中如果有遇到问题,也需要及时维护,同时也无法保证自己搭建的隧道代理的稳定性,毕竟要考虑的因素实在太多了,是用什么基础搭建的?免费的HTTP代理的可用率、代理服务器的稳定性……
4.隧道代理厂商
当然,市面上的隧道代理厂商也没有多到让人无法挑的地步,主要还是这么几家:
快代理
青果网络
阿布云
熊猫代理
小象代理
亿牛云
这几家产品比较快代理上个月在做周年庆,有打折,不过活动好像马上要结束了。不过不在我的选择范围内,所以也不急就是了。类似阿布云这种比较老派的隧道代理厂商,用着也还行,但是对于整个经济下行的环境,我们现在没有在考虑范围内了,毕竟这一行业的产品只要测试下来效果不错,厂商有正规的那些证,价格又合适那真是神仙厂商了。
PS:像青果网络这种,定时更换周期的,通道数居然是10,和其他家有明显的区别,蛮神奇的。
我之前有使用过,总体来说效果还可以:
领取专属 10元无门槛券
私享最新 技术干货