Scrapy crawler - 设置专用缓存DNS服务器?

时间:2015-09-02 06:35:26

标签: python dns web-scraping scrapy

Scrapy建议在其网站上设置专用缓存DNS服务器以进行广泛爬网(从许多网站抓取数百万个网页)

因为我正在使用旋转ip / proxy - >每个请求都通过不同的IP地址路由

我假设DNS查找也将通过不同的IP地址

设置专用的缓存DNS服务是否仍然有意义?

0 个答案:

没有答案