OpenCV C++ 中跟踪对象的背景减法和光流

Question

我正在从事一个项目，使用背景减法检测感兴趣的对象，并使用 OpenCV C++ 中的光流跟踪它们。我能够使用背景减法来检测感兴趣的对象。我能够在单独的程序上实现 OpenCV Lucas Kanade 光流。但是，我被困在如何将这两个程序放在一个程序中。 frame1 保存视频中的实际帧，contours2 是从前景对象中选择的轮廓。

总而言之，如何将背景减法获得的前景对象提供给calcOpticalFlowPyrLK？或者，如果我的方法有误，请帮助我。提前谢谢你。

Mat mask = Mat::zeros(fore.rows, fore.cols, CV_8UC1);
    drawContours(mask, contours2, -1, Scalar(255), 4, CV_FILLED);

    if (first_frame)
    {
        goodFeaturesToTrack(mask, features_next, 1000, 0.01, 10, noArray(), 3, false, 0.04);
        fm0 = mask.clone();
        features_prev = features_next;
        first_frame = false;
    }
    else
    {           
        features_next.clear();
        if (!features_prev.empty())
        {
            calcOpticalFlowPyrLK(fm0, mask, features_prev, features_next, featuresFound, err, winSize, 3, termcrit, 0, 0.001);
            for (int i = 0; i < features_prev.size(); i++)
                line(frame1, features_prev[i], features_next[i], CV_RGB(0, 0, 255), 1, 8);
            imshow("final optical", frame1);
            waitKey(1);
        }
        goodFeaturesToTrack(mask, features_next, 1000, 0.01, 10, noArray(), 3, false, 0.04);
        features_prev = features_next;
        fm0 = mask.clone();         
    }

Answer 1

我认为 OpenCV 中背景减除的输出不是灰度图像。对于输入光流，我们需要灰度图像。

Answer 2

您使用光流进行跟踪的方法是错误的。光流方法背后的想法是两个连续图像中的移动点在起点和终点具有相同的像素强度。这意味着通过从起始图像观察其外观并在结束图像中搜索结构来估计特征的运动（非常简单）。

calcOpticalFlowPyrLK 是一个点跟踪器，这意味着以前图像中的点被跟踪到当前图像。因此，这些方法需要系统的原始灰度值图像。因为它只能估计结构化/纹理区域的运动（你的图像需要 x 和 y 梯度）。

我认为您的代码应该像这样：

通过背景减法（通过轮廓）提取对象，这在文献中称为 blob
提取下一张图像中的对象并应用斑点关联（哪个国家属于谁）这也称为斑点跟踪可以使用 calcOpticalFlowPyrLK 进行斑点跟踪。例如。以一种非常简单的方式：
跟踪计数器中的点或 blob 内的点。
关联：如果属于先前轮廓的点轨迹位于当前轮廓中，则先前轮廓是当前轮廓之一

OpenCV C++ 中跟踪对象的背景减法和光流

Background subtraction and Optical flow for tracking object in OpenCV C++

opencv

opticalflow

background-subtraction