CNMeM library是一个简单的库,可以帮助深度学习框架管理CUDA内存。"
CNMeM has been reported to give some interesting speed improvements,由Theano,Torch和Caffe支持。但是,与Theano,Torch和Caffe不同,TensorFlow在开始会话时会预先分配GPU内存。
在运行基于TensorFlow的程序时使用CNMeM是否有帮助(例如,减少运行时间)?
答案 0 :(得分:3)
没有。 Tensorflow拥有自己的GPU内存管理。实际上,无论问题的大小如何,它都需要整个GPU内存。