App Engine:从第三方站点检索大文件

时间:2013-08-06 06:19:56

标签: google-app-engine urlfetch

在我的Google App Engine应用程序中,任务必须从第三方站点下载大文件,对其进行处理,并将结果存储在数据存储区/ blobstore中。鉴于urlfetch在响应中只能receive 32MB of data,并且此文件大于32MB,这样做的最佳方法是什么?

我能想到的唯一解决方案是构建另一个不受urlfetch限制的服务器,然后让服务器下载大文件并将其上传到GAE blobstore上传URL。这似乎是一个完全令人头痛的问题,并且让第二台服务器失败了使用GAE的目的。是不是有更简单的方法可以将大文件导入Google App Engine?

1 个答案:

答案 0 :(得分:0)

你可以试试新的套接字api: https://developers.google.com/appengine/docs/python/sockets/overview#limitations-and-restrictions

它表示如果您想要绕过请求限制,则需要上传自己的httplib。 我无法想到为什么它不能正常工作,在后端运行以避免超时并在收到谷歌云存储或blobstore(但其文件api被删除)时编写数据块。

但除此之外,除了Deviling Master所说的以及另一台处理它的服务器之外别无他法。