代理ip
关于讲http代理IP原理的文章太多,这里就不给大家说那么多的原理了,个人还是认为,怎么用,用在哪,用完的时候是怎么样的,会有一个怎样的结果才是比较实际的, 出于对这方面的考虑,所以小编截取了一些文章的一部分,希望对做爬虫工作的同学可以有所帮助吧
我们接下来分析一个请求
http://iflow.uczzd.cn/iflow/api/v1/client_event?app=uc-iflow...经过代理服务器的HTTP请求。
iflow.uczzd.cn的公网IP是140.205.136.82(各地测试到的IP有可能不同),我的局域网IP是192.168.100.115,代理IP是192.168.16.35。
再简单说一下HTTP请求的流程:
192.168.100.115向140.205.136.82发送HTTP请求,其中192.168.16.35是代理IP的地址。
一、 监控请求
通过网络监控获取到的HTTP代理IP请求如下:
网络监控HTTP代理IP请求
看得到在网络监控中,有2个http请求,一个是向代理服务器发送的HTTP,另一个是代理服务器向目标服务器发送的HTTP请求。这2个请求的内容是一样的如下图: 客户端向代理服务器发送的HTTP报文:
发向Proxy服务器
代理服务器想目标服务器发送的HTTP报文:
发向目标服务器
二、 推测处理流程
可以看到,两张图片的HTTP报文是相同的(也有可能Header不同),我们可以推测出客户端和代理服务器的处理流程,如下: 客户端的处理流程:
客户端的处理流程
代理服务器的处理流程:
代理服务器的处理流程
三、 验证推测的处理流程
在推测出客户端和代理服务器的处理逻辑后,我们需要验证我们的推测是否正确。 我们可以构造一个TCP请求,客户端连接到代理服务器,发送HTTP报文,报文的内容是客户端直接发送到服务器的内容。 例如:直接访问 http://www.cnblogs.com/tgwang/的HTTP报文是: GET http://www.cnblogs.com/tgwang/ HTTP/1.1 Host: www.cnblogs.com Connection: close Accept: text/html,application/xhtml+xml,application/xml;q=0.9,image/webp,/;q=0.8 Upgrade-Insecure-Requests: 1 User-Agent: Mozilla/5.0 (Windows NT 6.1; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/47.0.2526.111 Safari/537.36 Referer: http://www.cnblogs.com/ Accept-Encoding: gzip, deflate, sdch Accept-Language: zh-CN,zh;q=0.8 Cookie: *** If-Modified-Since: Sat, 30 Jan 2016 02:48:23 GMT
我们构造一个TCP请求,连接代理服务器,报文的内容也是发送上面的报文,看代理服务器能否正常请求博客园的数据,如果可以正常请求,说明我们对于客户端和代理服务器推测是正确的,如果没有请求博客园数据,而是返回代理服务器的相关信息,表示推测错误。 下面我使用python向代理服务器127.0.0.1:8888发送一个TCP请求,为了在代理服务器中能找到此请求,我在Header中增加了一个Token,使用UUID标识(见红框)。
Python发送HTTP请求
运行程序,发送TCP请求,报文如下:
proxy请求报文
查看代理服务器的信息,可知,HTTP请求正常发送到博客园,并且正常响应,如下图:
代理服务器监控
到此推测验证完成,符合预期结果
相关文章内容简介
1 普通,高级,超级,至尊专区介绍
专区介绍:1.普通专区(普通会员使用,可用静态2000线路)静态线路是指IP固定的线路,每条线路固定一个IP。2.高级专区(高级会员使用,可用静态,动态时效线路)动态时效线路是指线路IP会在1到20分钟内自动切换3.超级专区(超级会员使用,可用静态,动态时效,动态,混拨)混拨线路是指随机选择线路进行连接4.至尊专区(至尊会员使用,可用独享高速在内所有,网速更优) 独享线路为单人连接使用的线路,高速线路是电脑端的网速最快的线路... [阅读全文]
2 万变IP功能简介
地区覆盖全国258个城市,8000万条IP地址库 多平台支持,支持电脑windows、苹果iOS、安卓Android 支持多种IP混拨模式,全国混拨+单地区混拨+指定地区混拨 支持静态固定线路,动态高网速线路 高匿名ip,保护隐私,防追踪 多协议支持,支持L2TP/SE驱动/open协议 极速的切换体验,更换速度低于100ms 网速保证您的工作效率,自建服务器网速更快 自动切换IP,支持任意时长定时自动切换 自动清理:清理缓存cookie,提升运行速度... [阅读全文]
推荐阅读
22
2019-11
万变IP网络服务器代理,日常动态IP代理,IP池组用以私有IP
万变IP网络服务器代理,日常动态IP代理,IP池组用以私有IP
22
2019-11
ip代理什么是IP代理?使用IP代理有什么好处?
ip代理什么是IP代理?使用IP代理有什么好处?
22
2019-11
万变ip代理python爬虫批量抓取ip代理
万变ip代理python爬虫批量抓取ip代理
22
2019-11
改ip软件一起来验证!换IP软件真的有用嘛?
改ip软件一起来验证!换IP软件真的有用嘛?
22
2019-11
如何获得代理后的客户端真实IP地址呢?Nginx搞定
如何获得代理后的客户端真实IP地址呢?
22
2019-11
代理ip推测http代理IP的处理流程
代理ip推测http代理IP的处理流程
热门文章
因为专业! 所以简单! 产品至上,价格实惠 是我们服务追求的宗旨
免费试用