在计算着色器中的 N 个线程后退出

Question

所以我有一个具有以下逻辑的计算着色器内核：

[numthreads(64,1,1)] 
void CVProjectOX(uint3 t : SV_DispatchThreadID){ 
  
    if(t.x >= TotalN) 
       return; 

    uint compt = DbMap[t.x]; 

    ....

我知道在计算着色器中使用 ifs elses/branching 并不理想？如果是这样，如果预期线程总数与内核的线程数不完全匹配，那么限制线程工作的最佳方法是什么？

例如，在我的示例中，内核组有 64 个线程，假设我预计总共有 961 个线程（实际上可以是任何线程），如果我分派 960，则不会处理 1 个 db 插槽，如果我调度 1024，将有 63 个不必要的工作或可能指向不存在的数据库插槽的工作。（数据库插槽数量会有所不同）。

if(t.x > TotalN)/return 在这里是正确的方法吗？我应该只执行 min, tx = min(t.x, TotalN) 并继续写入最终的数据库槽吗？我应该取模吗？ tx = t.x % TotalN 并重写第一个数据库槽？

还有哪些解决方案？

Answer 1

这样限制线程数没问题，是的。但是，请注意像这样的早期 return 实际上并没有像您期望的那样节省（尽可能多的）工作：

硬件利用类似于线程集合的 SIMD（在 directX 中称为 wavefonts）。根据硬件的不同，这种 wavefont 的通常大小通常是 4（Intel iGPU）、32（NVidia 和大多数 AMD GPU）或 64（一些 AMD GPU）。由于 SIMD 的性质，这种 wavefont 中的所有线程总是做完全相同的工作，你只能“屏蔽掉”其中的一些（意思是，它们的写入将被忽略并且它们可以很好地读取越界内存） .

这意味着，在最坏的情况下（当 wavefont 大小为 64 时），当您需要执行 961 个线程并因此分派 1024 个线程时，仍然会有 63 个线程在执行代码，它们的行为就像它们一样不会存在。如果 wave 尺寸较小，硬件可能至少会在某些 wavefont 上早出，因此在这些情况下，早期 return 实际上可以节省一些工作。

因此，如果您实际上永远不需要不是您的组大小的倍数的线程数（反过来，希望是硬件 wavefont 大小的倍数），那将是最好的。但是，如果那不可能，以这种方式限制线程数是下一个最佳选择，特别是因为所有到达早期 return 的线程彼此相邻，这最大限度地提高了整个 wavefont 可以早点出来。

在计算着色器中的 N 个线程后退出

Exiting after N threads in a compute shader

gpu

directx

hlsl

compute-shader