使用 Pykinect 访问 Kinect 深度数据

Question

我目前正在开展一个项目，我需要使用 PyKinect 库访问和处理深度数据。

我想要做的是定义一个深度阈值，我将在其中进行一些图像分割，但由于我是 PyKinect 的新手而且我仍然不太清楚在哪里寻找资源，我不知道' 知道如何访问该数据并获取值。

我也试过使用 freenect 库，但我无法让它工作。

谁能告诉我该怎么做或将我重定向到某种文档？

Answer 1

我刚刚创建了一个 snippet on my BitBucket account 来使用 PyKinect 和 Pygame 可视化深度图像。这是代码：

import thread
import pygame
from pykinect import nui

DEPTH_WINSIZE = 320,240

screen_lock = thread.allocate()
screen = None

tmp_s = pygame.Surface(DEPTH_WINSIZE, 0, 16)


def depth_frame_ready(frame):
    with screen_lock:
        frame.image.copy_bits(tmp_s._pixels_address)
        arr2d = (pygame.surfarray.pixels2d(tmp_s) >> 7) & 255
        pygame.surfarray.blit_array(screen, arr2d)

        pygame.display.update()


def main():
    """Initialize and run the game."""
    pygame.init()

    # Initialize PyGame
    global screen
    screen = pygame.display.set_mode(DEPTH_WINSIZE, 0, 8)
    screen.set_palette(tuple([(i, i, i) for i in range(256)]))
    pygame.display.set_caption('PyKinect Depth Map Example')

    with nui.Runtime() as kinect:
        kinect.depth_frame_ready += depth_frame_ready   
        kinect.depth_stream.open(nui.ImageStreamType.Depth, 2, nui.ImageResolution.Resolution320x240, nui.ImageType.Depth)

        # Main game loop
        while True:
            event = pygame.event.wait()

            if event.type == pygame.QUIT:
                break

if __name__ == '__main__':
    main()

EDIT: 上面的代码显示了如何将深度数据转换为 8 位表示（以便它们可以很容易地绘制为灰度图像）。但是如果你想使用实际的深度数据，你需要知道它们的结构。

使用Microsoft Kinect SDK（PyKinect 的基础），单个深度像素由16 位组成。 3个不太重要的代表玩家指数，而我不太了解最重要的一个的含义......但是假设我们需要删除最后3位和第一个。例如，这是您需要为每个像素执行的操作的示例（取自 this question）：

0 1 1 0 0 0 1 0 0 0 1 1 1 0 0 0 - 16 bits number
0 1 1 0 0 0 1 0 0 0 1 1 1       - 13 bits number
  1 1 0 0 0 1 0 0 0 1 1 1       - 12 bits number

上述操作（去掉最后3位和第1位）可以通过对arr2d数组进行两次按位操作来实现。因为是NumPy数组，可以按如下进行：

def depth_frame_ready(frame):
    frame.image.copy_bits(tmp_s._pixels_address)

    arr2d = (pygame.surfarray.pixels2d(tmp_s) >> 3) & 4095
    # arr2d[x,y] is the actual depth measured in mm at (x,y)

然后，您可能需要显示此数据，因此您可能需要 8 位表示。获取方式：

arr2d >>= 4

使用 Pykinect 访问 Kinect 深度数据

Access Kinect Depth Data with Pykinect

python

kinect

pykinect