如何使用 cv2.fisheye.undistortPoints 将变形 space 中的一个点转换为未变形 space 中的一个点？

Question

我正在尝试使用 opencv 鱼眼函数将特征从未失真的 space 映射回失真的 space。我可以通过以下代码成功地将我的图像从相机扭曲的鱼眼图像转换为常规 space：

DIM = (953, 720)
K = np.array(
    [
        [407.0259762535615, 0.0, 488.89663712932474],
        [0.0, 409.25366832487896, 388.1998354574297],
        [0.0, 0.0, 1.0],
    ]
)
D = np.array(
    [
        [-0.04485892302426824],
        [0.0787884305594057],
        [-0.08374236678783106],
        [0.027626067632899026],
    ]
)
img = np.zeros((720, 953, 3), dtype=np.uint8)
img = cv2.rectangle(img, (200, 150), (300, 200), (255, 255, 255), -1)
map1, map2 = cv2.fisheye.initUndistortRectifyMap(K, D, np.eye(3), K, DIM, cv2.CV_16SC2)
undistorted_img = cv2.remap(
    img, map1, map2, interpolation=cv2.INTER_LINEAR, borderMode=cv2.BORDER_CONSTANT
)
# The rectangle is now found at 60, 43 in undistorted_img.  This code works.

但是，当我想映射一个点（任一方向）时，我无法使用 cv2.fisheye.undistortPoints 或 distortPoints 将一个点从一个 space 移动到另一个。通过使用尺寸为 720 x 953 的图像，我在 x,y 200,150 处放置了一个点。在未失真的图像中，该点现在位于 60,43。但是，我无法使用任一函数映射这两个点。这是我的代码和输出：

cv2.fisheye.undistortPoints(np.array([[[200, 150]]], dtype=np.float32), K, D)
# returns array([[[-1.0488918, -0.8601203]]], dtype=float32)
cv2.fisheye.distortPoints(np.array([[[200, 150]]], dtype=np.float32), K, D)
# returns array([[[1064.9419,  822.5983]]], dtype=float32)
cv2.fisheye.undistortPoints(np.array([[[60, 34]]], dtype=np.float32), K, D)
# Returns array([[[-4.061374 , -3.3357866]]], dtype=float32)
cv2.fisheye.distortPoints(np.array([[[60, 34]]], dtype=np.float32), K, D)
# array([[[1103.0706 ,  738.13654]]], dtype=float32)

None 这与我在图像转换本身中看到的相符。我对 distortPoints 和 undistortPoints 有什么不了解？谢谢！

Answer 1

我认为你需要estimate new camera matrix不失真。

points = np.array([[[200, 150]]]).astype(np.float32)
newcameramtx = cv2.fisheye.estimateNewCameraMatrixForUndistortRectify(
    K, D, DIM, None, balance=1)
dst = cv2.fisheye.undistortPoints(points, K, D, None, newcameramtx)
# [[[323.35104 242.06458]]]

如何使用 cv2.fisheye.undistortPoints 将变形 space 中的一个点转换为未变形 space 中的一个点？

How do I use cv2.fisheye.undistortPoints to convert a point in distorted space to one in undistorted space?

python

opencv

fisheye