在MongoDB中存储大型Numpy数组

时间:2017-08-07 20:42:35

标签: python mongodb numpy

我正在尝试对我的计算结果进行排序,这些结果存储在大小从1kb到几百MB甚至1GB的numpy数组中。我尝试使用cPickle将它们转换为BSON并将它们放入MongoDB,但MongoDB文档限制为16Mb。

切换到类似CouchDB的东西是否有意义,或者我应该将文件放在一个文件夹中并将链接保存在MongoDB中?我只是在本地使用数据库,所以我可以快速搜索我的数据集。我不需要从多台机器或并发访问。

编辑:这将是这样一个数组的一个例子:

import numpy as np

A = np.random.rand(8000, 4000)

print A.nbytes


Out[3]: 256000000

0 个答案:

没有答案