1 Star 0 Fork 0

codesman/discuss

加入 Gitee
与超过 1200万 开发者一起发现、参与优秀开源项目,私有仓库也完全免费 :)
免费加入
文件
该仓库未声明开源许可证文件(LICENSE),使用请关注具体项目描述及其代码上游依赖。
克隆/下载
proxy_test.py 724 Bytes
一键复制 编辑 原始数据 按行查看 历史
zzz 提交于 2020-06-02 20:48 . prolong sleep time
# encoding: utf-8
# Datetime  : 2020/6/2 7:48 PM
# User      : zzz
# File      : proxy_test.py
import requests
from util import proxy_util
def delete_proxy(proxy):
requests.get("http://127.0.0.1:5010/delete/?proxy={}".format(proxy))
# your spider code
def getHtml():
# ....
retry_count = 5
proxy = proxy_util.get_proxy()
while retry_count > 0:
try:
html = requests.get('http://www.example.com', proxies=proxy)
# 使用代理访问
return html
except Exception:
retry_count -= 1
# 出错5次, 删除代理池中代理
delete_proxy(proxy)
return None
if __name__ == '__main__':
html = getHtml()
print(html)
马建仓 AI 助手
尝试更多
代码解读
代码找茬
代码优化
Python
1
https://gitee.com/zzserver/discuss.git
git@gitee.com:zzserver/discuss.git
zzserver
discuss
discuss
master

搜索帮助