影响CUDA内核启动时间的因素有哪些

时间:2017-05-11 03:40:11

标签: cuda gpgpu

我有一套CUDA内核。每个内核在不到10微秒的时间内完成其工作,但其启动时间为50-70微秒。我怀疑使用纹理内存可能是原因,因为它在我的内核中使用。

是否有任何建议可以减少CUDA内核的启动时间?一般来说,影响内核启动时间的因素是什么?

1 个答案:

答案 0 :(得分:2)

您可以通过启动更少的内核来缩短整体启动时间;例如如果你按顺序启动几个内核,你可以编写一个新的单个内核,在一次启动中完成所有这些工作。

从问题中目前的一小部分背景来看,我怀疑这是你的问题;你每个内核的工作量太少了。

(我的下一个猜测是基准测试中的错误;即时间不是你认为的那样)