如何并行计算子数组大小的数组偏移量?
How to calculate offsets with an array from sub-array sizes, in parallel?
我有一个数据结构数组,在数组中按不同大小的块排序。
一种算法从中提取少量数据结构,并将其存储在一个新的数据结构中。它还会计算从每个块中取出的数量。但是,计算着色器的近乎不同步的性质导致生成的数组未排序。我想制作一个新的,它会使用新块大小的知识(过去算法从每个块中取出多少)来对它们进行排序。然而,虽然我知道块的大小,但我不知道数组中的偏移量,每个块应该从哪里开始。我可以在 CPU 上轻松完成,但一切都发生在 GPU 中 - 它是图形输入的预处理,数量巨大,来回通信,等待 CPU 在中间镜框的,很贵。
如何在 GPU 着色器中有效地计算所述偏移量?这对我来说似乎是一个并行归约问题,但是需要保存中间结果。
对于 NVIDIA GPU,您可以在 thrust 和 CUB 中找到并行“前缀和”的库和代码。如果您将块大小存储在一个数组中,那么该数组的前缀和应该为您提供每个块的偏移量。
幼崽:https://nvlabs.github.io/cub/structcub_1_1_device_scan.html
推力:https://docs.nvidia.com/cuda/thrust/index.html#prefix-sums
我有一个数据结构数组,在数组中按不同大小的块排序。 一种算法从中提取少量数据结构,并将其存储在一个新的数据结构中。它还会计算从每个块中取出的数量。但是,计算着色器的近乎不同步的性质导致生成的数组未排序。我想制作一个新的,它会使用新块大小的知识(过去算法从每个块中取出多少)来对它们进行排序。然而,虽然我知道块的大小,但我不知道数组中的偏移量,每个块应该从哪里开始。我可以在 CPU 上轻松完成,但一切都发生在 GPU 中 - 它是图形输入的预处理,数量巨大,来回通信,等待 CPU 在中间镜框的,很贵。
如何在 GPU 着色器中有效地计算所述偏移量?这对我来说似乎是一个并行归约问题,但是需要保存中间结果。
对于 NVIDIA GPU,您可以在 thrust 和 CUB 中找到并行“前缀和”的库和代码。如果您将块大小存储在一个数组中,那么该数组的前缀和应该为您提供每个块的偏移量。
幼崽:https://nvlabs.github.io/cub/structcub_1_1_device_scan.html
推力:https://docs.nvidia.com/cuda/thrust/index.html#prefix-sums