Question

客户要求我们需要在 cameraView 中检测我们的产品盒。为此，我正在尝试使用 firebase ML Kit 对象检测。现在它可以检测门、沙发等一般物体。我希望能够检测到我的产品。有没有办法做到这一点？以下是我目前的实现

class DetectActivity : AppCompatActivity() {
override fun onCreate(savedInstanceState: Bundle?) {
    super.onCreate(savedInstanceState)
    setContentView(R.layout.activity_detect)
    cameraView.setLifecycleOwner(this)
    cameraView.addFrameProcessor {
        extractDataFromFrame(it) { result ->
            tvDetectedItem.text = result
        }
    }
}

private fun extractDataFromFrame(frame: Frame, callback: (String) -> Unit) {

    val options = FirebaseVisionObjectDetectorOptions.Builder()
            .setDetectorMode(FirebaseVisionObjectDetectorOptions.STREAM_MODE)
            .enableMultipleObjects()
            .enableClassification()  // Optional
            .build()

    val objectDetector = FirebaseVision.getInstance().getOnDeviceObjectDetector(options)

    objectDetector.processImage(getVisionImageFromFrame(frame))
            .addOnSuccessListener {
                var result = ""
                it.forEach { item ->
                    result += "${item.entityId}\n"  //TODO : Get the knowledge graph result for this entity
                    Log.e("TAG",item.classificationCategory.toString())
                }
                callback(result)
            }
            .addOnFailureListener {
                callback("Unable to detect an object")
            }
            .addOnCompleteListener {

            }

}

private fun getVisionImageFromFrame(frame : Frame) : FirebaseVisionImage{
    //ByteArray for the captured frame
    val data = frame.data

    //Metadata that gives more information on the image that is to be converted to FirebaseVisionImage
    val imageMetaData = FirebaseVisionImageMetadata.Builder()
            .setFormat(FirebaseVisionImageMetadata.IMAGE_FORMAT_NV21)
            .setRotation(FirebaseVisionImageMetadata.ROTATION_90)
            .setHeight(frame.size.height)
            .setWidth(frame.size.width)
            .build()

    val image = FirebaseVisionImage.fromByteArray(data, imageMetaData)

    return image
}

}

我还希望它完全离线。为此，有设备 ML 套件实现。但是我该如何使用它呢？抱歉我的英语不好。

Answer 1

首先，firebase ML Kit 对象检测已弃用且不再受支持。请迁移到独立的机器学习套件（请参阅 migration guide）。其次，出于您的目的，您可以使用自定义模型 (developer guide) 查看 ML Kit 的对象检测和跟踪。为了为您的产品训练您自己的图像分类模型，ML Kit 的 custom models developer guide 谈到了几种方法。祝你好运！

Answer 2

我们对 Firebase ML Kit 进行了一些更改，以更好地区分设备上的 API 和基于云的 API。 “ML Kit”（不带 firebase 品牌）包含所有设备上的 API。 Here's 从 firebase mlkit 到 mlkit 的迁移指南。所有进一步的改进和新的 API 将仅与新的 ML Kit 一起发布。

对象检测sdk使用的默认模型非常简单。您现在可以使用独立的机器学习套件apply a custom model访问对象检测 API。 tfhub 中有一些 free powerful model compatible by MLKit API there。我发现 this one 非常强大，您可以尝试一下。

我们可以使用android ML Kit Image Labeling来检测产品吗

2 个答案: