使用 Intel AVX 按掩码洗牌
Shuffling by mask with Intel AVX
我是 AVX 编程新手。我有一个需要洗牌的寄存器。我想将几个字节从 256 位寄存器 R1 混洗到空寄存器 R2。我想定义一个掩码，它告诉洗牌操作应该将旧寄存器 (R1) 中的哪个字节复制到新寄存器中的哪个位置。
掩码应如下所示（Src：R1 中的字节位置，Target:Byte R2 中的位置）：
{(0,0),(1,1),(1,4),(2,5),...}
这意味着几个字节被复制了两次。
我不是 100% 确定应该为此使用哪个函数。我对这两个 AVX 功能进行了一些尝试，第二个只使用了 2 个通道。
__m256 _mm256_permute_ps (__m256 a, int imm8)
__m256 _mm256_shuffle_ps (__m256 a, __m256 b, const int imm8)
我对 imm8 中的 Shuffle Mask 以及如何设计它以使其按上述方式工作完全感到困惑。
我看过这个 slides（第 26 页），其中描述了 _MM_SHUFFLE，但我找不到解决我的问题的方法。
有没有关于如何设计这种面具的教程？或两种方法的示例功能以深入了解它们？
提前感谢您的提示
TL:DR：您可能需要多次洗牌来处理车道交叉，或者如果您的模式继续如此，您可以使用 _mm256_cvtepu16_epi32 (vpmovzxwd) 然后 _mm256_blend_epi16.
对于 x86 随机播放（我认为与大多数 SIMD 指令集一样），目标位置是隐式的。洗牌控制常量仅具有按目标顺序排列的源索引， 无论它是一个 imm8 被编译+汇编到一个 asm 指令中，还是它是一个在每个元素中都有索引的向量。
每个目标位置只读取一个源位置，但同一个源位置可以读取多次。每个目标元素都从随机源中获取一个值。
有关 dst = _mm_shuffle_epi32(src, _MM_SHUFFLE(d,c,b,a)) 的纯 C 版本，请参阅 ，显示如何使用控制字节。
（对于 pshufb / _mm_shuffle_epi8，具有高位的元素将目标位置置零而不是读取任何源元素，但其他 x86 随机播放会忽略随机播放控制中的所有高位向量。)
如果没有 AVX512 合并屏蔽，则不会有混入目标的随机播放。有一些双源洗牌，例如 _mm256_shuffle_ps (vshufps)，它们可以将来自两个源的元素洗牌在一起以产生单个结果向量。 如果您想保留一些未写入的目标元素，您可能需要先洗牌然后混合，例如使用 _mm256_blendv_epi8，或者如果你可以使用 16 位粒度的混合，你可以使用更高效的立即混合 _mm256_blend_epi16，甚至更好的 _mm256_blend_epi32（AVX2 vpblendd 一样便宜就像 _mm256_and_si256 在 Intel CPU 上一样，如果您确实需要混合，它是最佳选择，如果它可以完成工作；请参阅 http://agner.org/optimize/)
对于您的问题（在 Cannonlake 中没有 AVX512VBMI vpermb），您不能将单个字节从低位 16 "lane" 洗牌到高位 16 "lane" __m256i 向量的单个操作。
AVX 随机播放不像一个完整的 256 位 SIMD，它们更像是两个并行的 128 位操作。唯一的例外是一些具有 32 位或更大粒度的 AVX2 通道交叉洗牌，例如 vpermd (_mm256_permutevar8x32_epi32)。还有 pmovzx / pmovsx 的 AVX2 版本，例如pmovzxbq 确实将 XMM 寄存器的低 4 字节零扩展到 YMM 寄存器的 4 个 qword，而不是 YMM 寄存器每一半的低 2 字节。这使得它对于内存源操作数更有用。
但无论如何，pshufb (_mm256_shuffle_epi8) 的 AVX2 版本在 256 位向量的两个通道中执行两个单独的 16x16 字节洗牌。
你可能想要这样的东西:
// Intrinsics have different types for integer, float and double vectors
// the asm uses the same registers either way
__m256i shuffle_and_blend(__m256i dst, __m256i src)
{
// setr takes element in low to high order, like a C array init
// unlike the standard Intel notation where high element is first
const __m256i shuffle_control = _mm256_setr_epi8(
0, 1, -1, -1, 1, 2, ...);
// {(0,0), (1,1), (zero) (1,4), (2,5),...} in your src,dst notation
// Use -1 or 0x80 or anything with the high bit set
// for positions you want to leave unmodified in dst
// blendv uses the high bit as a blend control, so the same vector can do double duty
// maybe need some lane-crossing stuff depending on the pattern of your shuffle.
__m256i shuffled = _mm256_shuffle_epi8(src, shuffle_control);
// or if the pattern continues, and you're just leaving 2 bytes between every 2-byte group:
shuffled = _mm256_cvtepu16_epi32(src); // if src is a __m128i
__m256i blended = _mm256_blendv_epi8(shuffled, dst, shuffle_control);
// blend dst elements we want to keep into the shuffled src result.
return blended;
}
请注意，对于第 2 个 16 字节，pshufb 编号从 0 重新开始。 __m256i 的两半可以不同，但它们不能从另一半读取元素。如果您需要高通道中的位置以从低通道获取字节，您将需要更多的洗牌 + 混合（例如，包括 vinserti128 或 vperm2i128，或者 vpermd 车道交叉dword shuffle) 以 一些 顺序将您需要的所有字节放入一个 16 字节组中。
(实际上 _mm256_shuffle_epi8 (PSHUFB) 忽略随机索引中的位 4..6，因此写 17 与 1 相同，但非常容易误导。它实际上是在做a %16，只要没有设置高位。如果在洗牌控制向量中设置了高位，它会将那个元素归零。我们在这里不需要该功能；_mm256_blendv_epi8不关心它正在替换的元素的旧值)
无论如何，这个简单的 2 指令示例仅在模式不继续时才有效。如果您需要帮助设计真正的随机播放，则必须提出更具体的问题。
顺便说一句，我注意到您的混合模式使用了 2 个新字节，然后 2 个跳过了 2 个。如果这种情况继续存在，您可以使用 vpblendw _mm256_blend_epi16 而不是 blendv，因为该指令在 Intel CPU 上仅以 1 uop 而不是 2 uop 运行。它还允许您使用 AVX512BW vpermw，这是当前 Skylake-AVX512 CPU 中可用的 16 位随机播放，而不是可能更慢的 AVX512VBMI vpermb.
或者实际上，它可能会让您使用 vpmovzxwd (_mm256_cvtepu16_epi32) 将 16 位元素零扩展到 32 位，作为交叉洗牌。然后与 dst.
混合
我是 AVX 编程新手。我有一个需要洗牌的寄存器。我想将几个字节从 256 位寄存器 R1 混洗到空寄存器 R2。我想定义一个掩码，它告诉洗牌操作应该将旧寄存器 (R1) 中的哪个字节复制到新寄存器中的哪个位置。
掩码应如下所示（Src：R1 中的字节位置，Target:Byte R2 中的位置）：
{(0,0),(1,1),(1,4),(2,5),...}
这意味着几个字节被复制了两次。
我不是 100% 确定应该为此使用哪个函数。我对这两个 AVX 功能进行了一些尝试，第二个只使用了 2 个通道。
__m256 _mm256_permute_ps (__m256 a, int imm8)
__m256 _mm256_shuffle_ps (__m256 a, __m256 b, const int imm8)
我对 imm8 中的 Shuffle Mask 以及如何设计它以使其按上述方式工作完全感到困惑。
我看过这个 slides（第 26 页），其中描述了 _MM_SHUFFLE，但我找不到解决我的问题的方法。
有没有关于如何设计这种面具的教程？或两种方法的示例功能以深入了解它们？
提前感谢您的提示
TL:DR：您可能需要多次洗牌来处理车道交叉，或者如果您的模式继续如此，您可以使用 _mm256_cvtepu16_epi32 (vpmovzxwd) 然后 _mm256_blend_epi16.
对于 x86 随机播放（我认为与大多数 SIMD 指令集一样），目标位置是隐式的。洗牌控制常量仅具有按目标顺序排列的源索引， 无论它是一个 imm8 被编译+汇编到一个 asm 指令中，还是它是一个在每个元素中都有索引的向量。
每个目标位置只读取一个源位置，但同一个源位置可以读取多次。每个目标元素都从随机源中获取一个值。
有关 dst = _mm_shuffle_epi32(src, _MM_SHUFFLE(d,c,b,a)) 的纯 C 版本，请参阅
（对于 pshufb / _mm_shuffle_epi8，具有高位的元素将目标位置置零而不是读取任何源元素，但其他 x86 随机播放会忽略随机播放控制中的所有高位向量。)
如果没有 AVX512 合并屏蔽，则不会有混入目标的随机播放。有一些双源洗牌，例如 _mm256_shuffle_ps (vshufps)，它们可以将来自两个源的元素洗牌在一起以产生单个结果向量。 如果您想保留一些未写入的目标元素，您可能需要先洗牌然后混合，例如使用 _mm256_blendv_epi8，或者如果你可以使用 16 位粒度的混合，你可以使用更高效的立即混合 _mm256_blend_epi16，甚至更好的 _mm256_blend_epi32（AVX2 vpblendd 一样便宜就像 _mm256_and_si256 在 Intel CPU 上一样，如果您确实需要混合，它是最佳选择，如果它可以完成工作；请参阅 http://agner.org/optimize/)
对于您的问题（在 Cannonlake 中没有 AVX512VBMI vpermb），您不能将单个字节从低位 16 "lane" 洗牌到高位 16 "lane" __m256i 向量的单个操作。
AVX 随机播放不像一个完整的 256 位 SIMD，它们更像是两个并行的 128 位操作。唯一的例外是一些具有 32 位或更大粒度的 AVX2 通道交叉洗牌，例如 vpermd (_mm256_permutevar8x32_epi32)。还有 pmovzx / pmovsx 的 AVX2 版本，例如pmovzxbq 确实将 XMM 寄存器的低 4 字节零扩展到 YMM 寄存器的 4 个 qword，而不是 YMM 寄存器每一半的低 2 字节。这使得它对于内存源操作数更有用。
但无论如何，pshufb (_mm256_shuffle_epi8) 的 AVX2 版本在 256 位向量的两个通道中执行两个单独的 16x16 字节洗牌。
你可能想要这样的东西:
// Intrinsics have different types for integer, float and double vectors
// the asm uses the same registers either way
__m256i shuffle_and_blend(__m256i dst, __m256i src)
{
// setr takes element in low to high order, like a C array init
// unlike the standard Intel notation where high element is first
const __m256i shuffle_control = _mm256_setr_epi8(
0, 1, -1, -1, 1, 2, ...);
// {(0,0), (1,1), (zero) (1,4), (2,5),...} in your src,dst notation
// Use -1 or 0x80 or anything with the high bit set
// for positions you want to leave unmodified in dst
// blendv uses the high bit as a blend control, so the same vector can do double duty
// maybe need some lane-crossing stuff depending on the pattern of your shuffle.
__m256i shuffled = _mm256_shuffle_epi8(src, shuffle_control);
// or if the pattern continues, and you're just leaving 2 bytes between every 2-byte group:
shuffled = _mm256_cvtepu16_epi32(src); // if src is a __m128i
__m256i blended = _mm256_blendv_epi8(shuffled, dst, shuffle_control);
// blend dst elements we want to keep into the shuffled src result.
return blended;
}
请注意，对于第 2 个 16 字节，pshufb 编号从 0 重新开始。 __m256i 的两半可以不同，但它们不能从另一半读取元素。如果您需要高通道中的位置以从低通道获取字节，您将需要更多的洗牌 + 混合（例如，包括 vinserti128 或 vperm2i128，或者 vpermd 车道交叉dword shuffle) 以 一些 顺序将您需要的所有字节放入一个 16 字节组中。
(实际上 _mm256_shuffle_epi8 (PSHUFB) 忽略随机索引中的位 4..6，因此写 17 与 1 相同，但非常容易误导。它实际上是在做a %16，只要没有设置高位。如果在洗牌控制向量中设置了高位，它会将那个元素归零。我们在这里不需要该功能；_mm256_blendv_epi8不关心它正在替换的元素的旧值)
无论如何，这个简单的 2 指令示例仅在模式不继续时才有效。如果您需要帮助设计真正的随机播放，则必须提出更具体的问题。
顺便说一句，我注意到您的混合模式使用了 2 个新字节，然后 2 个跳过了 2 个。如果这种情况继续存在，您可以使用 vpblendw _mm256_blend_epi16 而不是 blendv，因为该指令在 Intel CPU 上仅以 1 uop 而不是 2 uop 运行。它还允许您使用 AVX512BW vpermw，这是当前 Skylake-AVX512 CPU 中可用的 16 位随机播放，而不是可能更慢的 AVX512VBMI vpermb.
或者实际上，它可能会让您使用 vpmovzxwd (_mm256_cvtepu16_epi32) 将 16 位元素零扩展到 32 位，作为交叉洗牌。然后与 dst.