如何在 GPU(最好是 CUDA)上对两个数据容器执行关系连接?

How to perform relational join on two data containers on GPU (preferably CUDA)?

我想做什么:

在 GPU 上,我试图模仿 SQL 在关系代数中使用的约定来对 table 执行连接(例如内连接、外连接、交叉连接)。在下面的代码中,我想执行一个内部连接。想象两个 tables(容器),其中一个 table 是 Parent/Master table,另一个是子 table。 Parent to Child 连接关系是一对多(或 1 到 none,如果 Child_ParentIDs 中没有元素与 Parent_IDs 中的元素匹配)。

示例输入数据:

Parent_IDs:    [1, 2,  3,  4, 5]  ... 5 elements
Parent_Values: [0, 21, 73, 0, 91] ... 5 elements
Child_ParentIDs:   [1,   1,   1,  2,   3,   5,  5]  ... 7 elements
Child_Permanences: [120, 477, 42, 106, 143, 53, 83] ... 7 elements
Child_Values:      [0,   0,   0,  0,   0,   0,  0]  ... 7 elements

作为 SQL 查询的操作:

SELECT child.permanence * parent.value FROM child, parent WHERE child.parent_id = parent.id;

操作说明:

将Child_ParentIDs连接到Parent_IDs以访问对应的Parent_Values。用对应的Parent_Values与对应的Child_Permanences相乘,将每次运算的结果放入Child_Values.

预期输出(Child_Values 是操作期间唯一更改的向量):

Child_ParentIDs:   [1,   1,   1,  2,    3,     5,    5]     ... 7 elements
Child_Permanences: [120, 477, 42, 106,  143,   53,   83]    ... 7 elements
Child_Values:      [0,   0,   0,  2226, 10439, 4823, 7553]  ... 7 elements

解释(以防万一):

2226 的值是通过将 106 和 21 相乘得出的。10439 是通过将 143 和 73 相乘得出的。还要注意,所有条目都保留在子向量上(所有 7 个元素仍然存在于输出中,尽管 Child_Values 个别元素已更新)。父向量未保留在输出中(注意向量列表中缺少 ParentID 4,并且那里没有 "dummy" 占位符)。这是 "Inner Join".

的行为

我还没有开始工作的优雅解决方案的想法:

-利用 CUDA 的动态并行性。也许我在整个互联网上发现的唯一解决方案完全符合我的要求,那就是 here-part 1 and here-part 2.

-使用CUDPP的哈希运算;

-Alenka 数据库。

最后,重申我的问题:

从纯 GPU 的角度(最好是 CUDA,但 OpenCL 也可以)是否有任何可行的解决方案来完成两个独立数据容器的关系连接,以便可以通过上述方式搜索数据并并行更新元素加入?

编辑
Parent_IDs 并不总是一个序列。在 运行 时间内,可以删除父向量中的元素。新插入的父元素将始终附加一个 ID,该 ID 从最后一个元素的 ID 开始。话虽如此,我明白这意味着子元素可以被孤立,但我不会在这里解决这个问题的解决方案。

它看起来像是 Child_Permanences 的元素与 Parent_Values 的选定元素之间的简单元素乘法。通过一些限制,这可以用一个 thrust::transform.

来完成
thrust::transform(
    Child_Permanences.begin(),
    Child_Permanences.end(),
    thrust::make_permutation_iterator(
        Parent_Values.begin(),
        thrust::make_transform_iterator(Child_ParentIDs.begin(),
                                        _1 - 1)),
    Child_Values.begin(),
    _1 * _2);

您可能会注意到未使用 Parent_IDs。就是上面代码的限制。该代码假定 Parent_IDs 只能是一个 1 碱基序列。如果 Parent_IDs 是一个 0 碱基序列,或者 Child_ParentIDs 只是一个父值索引,您会发现 thrust::make_transform_iterator 不是必需的,如下所示。

Child_ParentIDs:   [0, 0, 0, 1, 2, 4, 4]

编辑

以上代码假设1)没有孤儿;和 2) Parent_IDs 是一个固定的基于 1 的序列,如 1, 2, 3, ...


前提是

  1. 没有孤儿;
  2. Parent_IDs 是无序且唯一的;
  3. Child_ParentIDs 未排序但不是唯一的;

并且您的 Parent_IDs 属于 int16 类型这一事实,您可以创建父值索引 table 供子元素查找,当 Parent_IDs 相当小。

假设Parent_IDs的取值范围是[1, 32767],求解代码可以是

thrust::device_vector<int> Parent_index(32768, -1);
thrust::scatter(thrust::make_counting_iterator(0),
                thrust::make_counting_iterator(0) + Parent_IDs.size(),
                Parent_IDs.begin(),
                Parent_index.begin());
thrust::transform(
    Child_Permanences.begin(),
    Child_Permanences.end(),
    thrust::make_permutation_iterator(
        Parent_Values.begin(),
        thrust::make_permutation_iterator(
            Parent_index.begin(),
            Child_ParentIDs.begin())),
    Child_Values.begin(), _1 * _2);

请注意,每次修改父向量时都需要重新创建Parent_index