Question

关于Python的优秀Requests模块，简单而简单。

我似乎无法在文档中找到变量'proxies'应包含的内容。当我发送一个带有标准“IP：PORT”值的字典时，它拒绝了它要求2个值。所以，我猜（因为这似乎没有在文档中说明）第一个值是ip而第二个是端口？

文档仅提到这一点：

proxies - （可选）字典映射协议到代理的URL。

所以我试过了......我该怎么办？

proxy = { ip: port}

我应该在将它们放入dict之前将它们转换为某种类型吗？

r = requests.get(url,headers=headers,proxies=proxy)

Answer 1

proxies'dict语法为{"protocol":"ip:port", ...}。有了它，您可以使用 http ， https 和 ftp 协议为请求指定不同（或相同）的代理：

http_proxy  = "http://10.10.1.10:3128"
https_proxy = "https://10.10.1.11:1080"
ftp_proxy   = "ftp://10.10.1.10:3128"

proxyDict = { 
              "http"  : http_proxy, 
              "https" : https_proxy, 
              "ftp"   : ftp_proxy
            }

r = requests.get(url, headers=headers, proxies=proxyDict)

从requests documentation：

中推断出来

<强>参数：
  method - 新Request对象的方法   url - 新Request对象的URL   ...
  proxies - （可选）字典映射协议到代理的网址。
  ......

在Linux上，您还可以通过HTTP_PROXY，HTTPS_PROXY和FTP_PROXY环境变量执行此操作：

export HTTP_PROXY=10.10.1.10:3128
export HTTPS_PROXY=10.10.1.11:1080
export FTP_PROXY=10.10.1.10:3128

在Windows上：

set http_proxy=10.10.1.10:3128
set https_proxy=10.10.1.11:1080
set ftp_proxy=10.10.1.10:3128

谢谢，周杰伦指出这一点：
语法随请求2.0.0 而更改您需要在网址中添加架构：http://docs.python-requests.org/en/latest/user/advanced/#proxies

Answer 2

我发现urllib有一些非常好的代码来获取系统的代理设置，它们恰好以正确的形式直接使用。您可以使用它：

import urllib

...
r = requests.get('http://example.org', proxies=urllib.request.getproxies())

它工作得很好，urllib也知道如何获得Mac OS X和Windows设置。

Answer 3

您可以参考proxy documentation here。

如果您需要使用代理，您可以使用任何请求方法的proxies参数配置各个请求：

import requests

proxies = {
  "http": "http://10.10.1.10:3128",
  "https": "https://10.10.1.10:1080",
}

requests.get("http://example.org", proxies=proxies)

要在代理中使用HTTP Basic Auth，请使用http://user:password@host.com/语法：

proxies = {
    "http": "http://user:pass@10.10.1.10:3128/"
}

Answer 4

接受的答案对我来说是一个好的开始，但我不断收到以下错误：

AssertionError: Not supported proxy scheme None

修复此问题是在代理网址中指定http：//：

http_proxy  = "http://194.62.145.248:8080"
https_proxy  = "https://194.62.145.248:8080"
ftp_proxy   = "10.10.1.10:3128"

proxyDict = {
              "http"  : http_proxy,
              "https" : https_proxy,
              "ftp"   : ftp_proxy
            }

我感兴趣的是为什么原版适用于某些人但不适合我。

编辑：我看到主要答案现在已经更新以反映这个:)

Answer 5

晚8年。但我喜欢：

import os
import requests

os.environ['HTTP_PROXY'] = os.environ['http_proxy'] = 'http://http-connect-proxy:3128/'
os.environ['HTTPS_PROXY'] = os.environ['https_proxy'] = 'http://http-connect-proxy:3128/'
os.environ['NO_PROXY'] = os.environ['no_proxy'] = '127.0.0.1,localhost,.local'

r = requests.get('https://example.com')  # , verify=False

Answer 6

这是我在python中的基本类，用于带有一些代理配置和秒表的请求模块！

import requests
import time
class BaseCheck():
    def __init__(self, url):
        self.http_proxy  = "http://user:pw@proxy:8080"
        self.https_proxy = "http://user:pw@proxy:8080"
        self.ftp_proxy   = "http://user:pw@proxy:8080"
        self.proxyDict = {
                      "http"  : self.http_proxy,
                      "https" : self.https_proxy,
                      "ftp"   : self.ftp_proxy
                    }
        self.url = url
        def makearr(tsteps):
            global stemps
            global steps
            stemps = {}
            for step in tsteps:
                stemps[step] = { 'start': 0, 'end': 0 }
            steps = tsteps
        makearr(['init','check'])
        def starttime(typ = ""):
            for stemp in stemps:
                if typ == "":
                    stemps[stemp]['start'] = time.time()
                else:
                    stemps[stemp][typ] = time.time()
        starttime()
    def __str__(self):
        return str(self.url)
    def getrequests(self):
        g=requests.get(self.url,proxies=self.proxyDict)
        print g.status_code
        print g.content
        print self.url
        stemps['init']['end'] = time.time()
        #print stemps['init']['end'] - stemps['init']['start']
        x= stemps['init']['end'] - stemps['init']['start']
        print x


test=BaseCheck(url='http://google.com')
test.getrequests()

Answer 7

如果您要坚持使用cookie和会话数据，最好这样做：

import requests

proxies = {
    'http': 'http://user:pass@10.10.1.0:3128',
    'https': 'https://user:pass@10.10.1.0:3128',
}

# Create the session and set the proxies.
s = requests.Session()
s.proxies = proxies

# Make the HTTP request through the session.
r = s.get('http://www.showmemyip.com/')

Answer 8

有点晚了，但这是一个包装器类，可简化抓取代理，然后进行http POST或GET：

ProxyRequests

https://github.com/rootVIII/proxy_requests

Answer 9

我刚做了一个代理抓取器，也可以与任何一个被抓取的代理连接，而无需任何输入这是：

script error in file C:\AmdocsCRM8.1\EclipseWS\SmartClient\out\Admin\startCRM.js : sun.org.mozilla.javascript.internal.EcmaError: ReferenceError: "WScript" is not defined. (C:\AmdocsCRM8.1\EclipseWS\SmartClient\out\Admin\startCRM.js#2) in C:\AmdocsCRM8.1\EclipseWS\SmartClient\out\Admin\startCRM.js at line number 2

Answer 10

我共享一些代码，这些代码如何从“ https://free-proxy-list.net”站点获取代理并将数据存储到与“ Elite Proxy Switcher”（格式为IP：PORT）等工具兼容的文件中： / p>

## PROXY_UPDATER-从https://free-proxy-list.net/获得免费代理

from lxml.html import fromstring
import requests
from itertools import cycle
import traceback
import re

######################FIND PROXIES#########################################
def get_proxies():
    url = 'https://free-proxy-list.net/'
    response = requests.get(url)
    parser = fromstring(response.text)
    proxies = set()
    for i in parser.xpath('//tbody/tr')[:299]:   #299 proxies max
        proxy = ":".join([i.xpath('.//td[1]/text()') 
        [0],i.xpath('.//td[2]/text()')[0]])
        proxies.add(proxy)
    return proxies



######################write to file in format   IP:PORT######################
try:
    proxies = get_proxies()
    f=open('proxy_list.txt','w')
    for proxy in proxies:
        f.write(proxy+'\n')
    f.close()
    print ("DONE")
except:
    print ("MAJOR ERROR")

Answer 11

如果自己做，设置代理需要很多时间。除此之外，开发人员遵循的另一种方法是使用 API，这些 API 不仅可以自动设置代理，还可以处理速度、优化、可扩展性并确保安全可靠性。使用 python 请求模块设置代理的常用方法是运行命令“pip install proxy-requests”并按照官方文档进行操作。以下代码将帮助您获得所需的结果。

<块引用>

源代码：

import requests
proxies = {
 “http”: “http://10.10.10.10:8000”,
 “https”: “http://10.10.10.10:8000”,
}
r = requests.get(“http://toscrape.com”, proxies=proxies)

Python“请求”模块的代理

11 个答案: