Lucas-Kanade 方法的光流？

Question

OpenCV tutorials-python中给出的方法在处理上有一些延迟，就像以0.5速度播放视频一样，你能否建议任何其他方法在光流特征（位移矢量场）中可以在可以忽略不计的延迟下获得吗？

import cv2
import numpy as np
cap = cv2.VideoCapture("vtest.avi")

ret, frame1 = cap.read()
prvs = cv2.cvtColor(frame1,cv2.COLOR_BGR2GRAY)
hsv = np.zeros_like(frame1)
hsv[...,1] = 255

while(1):
    ret, frame2 = cap.read()
    next = cv2.cvtColor(frame2,cv2.COLOR_BGR2GRAY)

    flow = cv2.calcOpticalFlowFarneback(prvs,next, None, 0.5, 3, 15, 3, 5, 1.2, 0)

    mag, ang = cv2.cartToPolar(flow[...,0], flow[...,1])
    hsv[...,0] = ang*180/np.pi/2
    hsv[...,2] = cv2.normalize(mag,None,0,255,cv2.NORM_MINMAX)
    rgb = cv2.cvtColor(hsv,cv2.COLOR_HSV2BGR)

    cv2.imshow('frame2',rgb)
    k = cv2.waitKey(30) & 0xff
    if k == 27:
        break
    elif k == ord('s'):
        cv2.imwrite('opticalfb.png',frame2)
        cv2.imwrite('opticalhsv.png',rgb)
    prvs = next

cap.release()
cv2.destroyAllWindows()

Answer 1

首先，您在代码中使用的方法是不是 Lucas-Kanade。您正在使用 calcOpticalFlowFarneback 函数，它是用于运动估计的 Farneback 方法。

总的来说，光流是一个比较重的算法，具体要看你的需要。您主要有两种类型的方法 - 稀疏和密集：

calcOpticalFlowFarneback 是一个密集算法，这意味着它生成一个流矩阵为你的框架的大小，它实际上计算了每一个的流量像素。
calcOpticalFlowPyrLK (Lucas-Kanade) 方法是一种稀疏方法，只采用指定的像素数并计算其上的流量。

如果您想要更好的性能，您可能想尝试 Lucas-Kanade 方法。
看看这个 OpenCV Optical Flow Tutorial，你有 Farneback 和 Lucas-Kanade 的例子。

在 Lucas-Kanade 示例中，他们使用了 goodFeaturesToTrack 方法，该方法生成的像素数量非常适合在此类运动估计算法中进行跟踪。根据您的需要，您可能想使用此方法或自己定义一些像素。
请注意，您当然可以更改处理像素的数量，从而更改算法的处理时间。

您可能还想查看 this answer，即使它适用于 DualTVL1 方法，它也可能适用于其他方法。

Lucas-Kanade 方法的光流？

Optical flow by Lucas-Kanade method?

python

opencv

opticalflow