检测国民身份证并获取详细信息

时间:2014-06-16 15:09:11

标签: opencv image-processing computer-vision ocr card.io

我正在尝试检测以下类型的国家ID并获取其详细信息。例如,签名的位置应该在人物图像的右上角找到,在本例中为“BC”。 / p>

enter image description here

我需要在iphone中执行此应用程序。我想过使用Opencv,但我怎样才能获得标记的细节?我是否需要使用类似卡片或OCR训练应用程序?

移动应用程序是否有任何具体实现?

我还通过card-io检测信用卡详细信息,Card-io是否还检测到其他卡的详细信息?

更新:

我使用tesseract进行文本检测。如果图像单独有文本,Tesseract工作正常。因此,我裁剪了红色标记区域并作为Tesseract的输入,它与MRZ部件配合良好。

Tesseract有一个IOS implementation,我已经测试了它。

我需要做什么?

现在我正在尝试自动化文本检测部分。现在我打算自动化以下项目,

1)裁剪脸部(我已经使用了Viola-jones面部探测器)。

2)需要在照片中以“BC”为例进行初始化。

3)从身份证中提取/检测MRZ区域。

我正在努力做2& 3,任何想法或代码片段都会很棒。

3 个答案:

答案 0 :(得分:21)

假设这些ID是根据具有特定宽度,高度,偏移,间距等的标准模板准备的,您可以尝试基于模板的方法。

MRZ很容易被发现。在图像中检测到它后,找到将模板中的MRZ映射到它的转换。当您知道此转换时,您可以将模板上的任何区域(例如,个人的照片)映射到图像并提取该区域。

下面是一个非常简单的程序,它遵循一条快乐的道路。您将不得不进行更多处理以定位MRZ(例如,如果存在透视扭曲或旋转)。我只是通过测量图像来准备模板,它对你的情况不起作用。我只想传达这个想法。图片来自wiki

    Mat rgb = imread(INPUT_FILE);
    Mat gray;
    cvtColor(rgb, gray, CV_BGR2GRAY);

    Mat grad;
    Mat morphKernel = getStructuringElement(MORPH_ELLIPSE, Size(3, 3));
    morphologyEx(gray, grad, MORPH_GRADIENT, morphKernel);

    Mat bw;
    threshold(grad, bw, 0.0, 255.0, THRESH_BINARY | THRESH_OTSU);

    // connect horizontally oriented regions
    Mat connected;
    morphKernel = getStructuringElement(MORPH_RECT, Size(9, 1));
    morphologyEx(bw, connected, MORPH_CLOSE, morphKernel);

    // find contours
    Mat mask = Mat::zeros(bw.size(), CV_8UC1);
    vector<vector<Point>> contours;
    vector<Vec4i> hierarchy;
    findContours(connected, contours, hierarchy, CV_RETR_CCOMP, CV_CHAIN_APPROX_SIMPLE, Point(0, 0));

    vector<Rect> mrz;
    double r = 0;
    // filter contours
    for(int idx = 0; idx >= 0; idx = hierarchy[idx][0])
    {
        Rect rect = boundingRect(contours[idx]);
        r = rect.height ? (double)(rect.width/rect.height) : 0;
        if ((rect.width > connected.cols * .7) && /* filter from rect width */
            (r > 25) && /* filter from width:hight ratio */
            (r < 36) /* filter from width:hight ratio */
            )
        {
            mrz.push_back(rect);
            rectangle(rgb, rect, Scalar(0, 255, 0), 1);
        }
        else
        {
            rectangle(rgb, rect, Scalar(0, 0, 255), 1);
        }
    }
    if (2 == mrz.size())
    {
        // just assume we have found the two data strips in MRZ and combine them
        CvRect max = cvMaxRect(&(CvRect)mrz[0], &(CvRect)mrz[1]);
        rectangle(rgb, max, Scalar(255, 0, 0), 2);  // draw the MRZ

        vector<Point2f> mrzSrc;
        vector<Point2f> mrzDst;

        // MRZ region in our image
        mrzDst.push_back(Point2f((float)max.x, (float)max.y));
        mrzDst.push_back(Point2f((float)(max.x+max.width), (float)max.y));
        mrzDst.push_back(Point2f((float)(max.x+max.width), (float)(max.y+max.height)));
        mrzDst.push_back(Point2f((float)max.x, (float)(max.y+max.height)));

        // MRZ in our template
        mrzSrc.push_back(Point2f(0.23f, 9.3f));
        mrzSrc.push_back(Point2f(18.0f, 9.3f));
        mrzSrc.push_back(Point2f(18.0f, 10.9f));
        mrzSrc.push_back(Point2f(0.23f, 10.9f));

        // find the transformation
        Mat t = getPerspectiveTransform(mrzSrc, mrzDst);

        // photo region in our template
        vector<Point2f> photoSrc;
        photoSrc.push_back(Point2f(0.0f, 0.0f));
        photoSrc.push_back(Point2f(5.66f, 0.0f));
        photoSrc.push_back(Point2f(5.66f, 7.16f));
        photoSrc.push_back(Point2f(0.0f, 7.16f));

        // surname region in our template
        vector<Point2f> surnameSrc;
        surnameSrc.push_back(Point2f(6.4f, 0.7f));
        surnameSrc.push_back(Point2f(8.96f, 0.7f));
        surnameSrc.push_back(Point2f(8.96f, 1.2f));
        surnameSrc.push_back(Point2f(6.4f, 1.2f));

        vector<Point2f> photoDst(4);
        vector<Point2f> surnameDst(4);

        // map the regions from our template to image
        perspectiveTransform(photoSrc, photoDst, t);
        perspectiveTransform(surnameSrc, surnameDst, t);
        // draw the mapped regions
        for (int i = 0; i < 4; i++)
        {
            line(rgb, photoDst[i], photoDst[(i+1)%4], Scalar(0,128,255), 2);
        }
        for (int i = 0; i < 4; i++)
        {
            line(rgb, surnameDst[i], surnameDst[(i+1)%4], Scalar(0,128,255), 2);
        }
    }

结果:照片和姓氏区域为橙色。 MRZ蓝色。 enter image description here

答案 1 :(得分:3)

Card.io专为浮雕信用卡而设计。它不会为这个用例工作。

答案 2 :(得分:2)

现在有PassportEye库可用于此目的。它并不完美,但在我的经验中效果很好:https://pypi.python.org/pypi/PassportEye/