Question

我希望通过 glReadPixels（）从动画中获取每个OpenGL帧，并将数据转换为 OpenCV :: Mat 。我知道 glReadPixels（）从左到右按行从下一行到上一行获取数据。另一方面，OpenCV以不同方式存储数据。

是否有人知道任何帮助我将数据从 glReadPixels 转换为 OpenCV：Mat 的库或任何教程/示例？

概要

 OpenGL frame      ----------------------->        CV::Mat

Data from left to right,                    Data from left to right,
bottom to top.                              top to bottom.

Answer 1

首先，我们为我们要直接读取的数据创建一个空（或单元）cv::Mat。这可以在启动时完成一次，但另一方面cv::Mat::create在图像已经具有匹配的大小和类型时确实不会花费太多。类型取决于您的需求，通常类似于CV_8UC3的24位彩色图像。

cv::Mat img(height, width, CV_8UC3);

或

img.create(height, width, CV_8UC3);

然后你必须考虑cv::Mat并不是必须连续存储图像行。每行末尾可能有一个小的填充值，使行4字节对齐（或8？）。所以你需要搞乱像素存储模式：

//use fast 4-byte alignment (default anyway) if possible
glPixelStorei(GL_PACK_ALIGNMENT, (img.step & 3) ? 1 : 4);

//set length of one complete row in destination data (doesn't need to equal img.cols)
glPixelStorei(GL_PACK_ROW_LENGTH, img.step/img.elemSize());

接下来，矩阵的类型会影响glReadPixels的格式和类型参数。如果你想要彩色图像，你必须记住，OpenCV通常以BGR顺序存储颜色值，因此你需要使用GL_BGR(A)（与OpenGL 1.2一起添加）而不是GL_RGB(A)。对于一个组件图像，使用GL_LUMINANCE（对各个颜色组件求和）或GL_RED，GL_GREEN，...（以获得单个组件）。因此，对于我们的CV_8UC3图片，将其直接读入cv::Mat的最终调用将是：

glReadPixels(0, 0, img.cols, img.rows, GL_BGR, GL_UNSIGNED_BYTE, img.data);

最后，OpenCV从上到下存储图像。所以你可能需要在获得它们之后翻转它们或者首先在OpenGL中渲染它们（这可以通过调整投影矩阵来完成，但在这种情况下要注意三角形方向）。要垂直翻转cv::Mat，您可以使用cv::flip：

cv::flip(img, flipped, 0);

所以要记住OpenCV：

从上到下，从左到右存储图像
以BGR顺序存储彩色图像
可能无法存储紧密包装的图像行

Answer 2

unsigned char* getPixelData( int x1, int y1, int x2, int y2 )
{
    int y_low, y_hi;
    int x_low, x_hi;

    if ( y1 < y2 )
    {
        y_low = y1;
        y_hi  = y2;
    }
    else
    {
        y_low = y2;
        y_hi  = y1;
    }

    if ( x1 < x2 )
    {
        x_low = x1;
        x_hi  = x2;
    }
    else
    {
        x_low = x2;
        x_hi  = x1;
    }

    while ( glGetError() != GL_NO_ERROR )
    {
        ;
    }

    glReadBuffer( GL_BACK_LEFT );

    glDisable( GL_TEXTURE_2D );

    glPixelStorei( GL_PACK_ALIGNMENT, 1 );

    unsigned char *data = new unsigned char[ ( x_hi - x_low + 1 ) * ( y_hi - y_low + 1 ) * 3 ];

    glReadPixels( x_low, y_low, x_hi-x_low+1, y_hi-y_low+1, GL_RGB, GL_UNSIGNED_BYTE, data );

    if ( glGetError() != GL_NO_ERROR )
    {
        delete[] data;
        return 0;
    }
    else
    {
        return data;
    }
}

使用：

CvSize size = cvSize( 320, 240 );

unsigned char *pixel_buf = getPixelData( 0, 0, size.width - 1, size.height - 1 );

if ( pixel_buf == 0 )
    return 0;

IplImage *result = cvCreateImage( size, IPL_DEPTH_8U, 3 );
memcpy( result->imageData, pixel_buf, size.width * size.height * 3 );
delete[] pixel_buf;

将数据从glReadPixels（）转换为OpenCV :: Mat

2 个答案: