CUDA“未知错误”原因不明

Question

在我当前的项目中，对cudaGetLastError()的调用正在返回unknown error，我不知道为什么。代码编译得很好，但它的表现并不像我希望的那样。

以下是相关代码包含的简短的 not 可编辑示例：

CU_Main.cu

以下是CUDA内核：

//My CUDA kernel
__global__ void CU_KernelTest(Kernel* matrix){
    int idx = blockIdx.x * blockDim.x + threadIdx.x;  
    int idy = blockIdx.y * blockDim.y + threadIdx.y;  

    if(idx == 0 && idy == 0){
            printf("ID is: %d\n", idx);
            matrix->set(1,1, 16.0f);
    }
}

这是主机代码：

//A host function which is called when a button is clicked
int HOST_OnbuttonClick(){
    Kernel* matrix = new Kernel(3,3,2);
    Kernel* device_matrix;

    cudaMalloc(&device_matrix, sizeof(Kernel));
    cudaMemcpy(device_matrix, matrix, sizeof(Kernel), cudaMemcpyHostToDevice);

    CU_KernelTest<<<256, 256>>>(device_matrix);
    cudaDeviceSynchronize();

    cudaError_t err = cudaGetLastError();
    if (err != cudaSuccess) {
        printf("Error: %s\n", cudaGetErrorString(err));
    }


    cudaFree(device_matrix);
    return 0.0f;
}

当cuda内核中包含matrix->set(1,1, 16.0f);时，(err != cudaSuccess)返回true并打印出UNKNOWN ERROR，而如果我评论set，则不会出错。

与此相关的另一个struct是我自己的卷积内核设计帮助器，我自然称之为Kernel。

Kernel.cuh

struct Kernel {
    private :
        float* kernel;
        int rows;
        int columns;

    public :

        __device__ __host__
        Kernel(int _rows, int _columns, float _default) {
            rows = _rows;
            columns = _columns;
            kernel = new float[rows * columns];

            for(int r = 0; r < rows; r++){
                for(int c = 0; c < columns; c++){
                    kernel[r * rows + c] = _default;
                }
            }
        }

        __device__ __host__
        void set(int row, int col, float value){
            kernel[row * rows + col] = value;
        }
}

此设计的目标是能够在主机上设置内核的所有值，将其发送到CUDA内核，在那里设置值，然后在主机上检索更新的对象。

所以，真的有两个问题，为什么我会收到unknown error消息，并且代码在语法上是否正确，它应该有效？ 如果需要更多信息，请告诉我。

以下是内存检查器的结果：

Nsight Debug
================================================================================
CUDA Memory Checker detected 1 threads caused an access violation:
Launch Parameters
    CUcontext    = 071c7340
    CUstream     = 08f3e3b8
    CUmodule     = 08fa97a8
    CUfunction   = 08fdbbe8
    FunctionName = _Z13CU_KernelTestP6Kernel
    gridDim      = {1,1,1}
    blockDim     = {256,1,1}
    sharedSize   = 128
    Parameters:
        matrix = 0x06b60000  {kernel = 0x07a31718  ???, rows = 3, columns = 3}
    Parameters (raw):
         0x06b60000
GPU State:
   Address  Size      Type  Mem       Block  Thread         blockIdx  threadIdx      PC  Source
-----------------------------------------------------------------------------------------------
  07a31728     4    adr st    g           0       0          {0,0,0}    {0,0,0}  000260  c:\users

Summary of access violations:
c:\users....kernel.cuh(26): error MemoryChecker: #misaligned=0  #invalidAddress=2

Answer 1

您的Kernel类包含指针。将类复制到设备时，设备上有一个主机指针。取消引用设备上的内容会导致无效的地址访问冲突。

这似乎是引起混淆的常见原因。 Robert Crovella昨天刚刚explained it。