SIMD：位包有符号整数

Question

可以使用“位打包”技术压缩无符号整数：在一个无符号整数块中，只存储有效位，当一个块中的所有整数都“小”时，会导致数据压缩。该方法被称为 FOR（参考框架）。

有 SIMD libraries 可以非常有效地执行此操作。

现在我想使用类似 FOR 的技术来编码 signed 整数，例如来自未排序的无符号整数的差分序列。每个有符号整数的符号需要存储在某处，有两种选择：

将标志存储在单独的数据块中。这会增加开销。
将符号与每个有符号整数的绝对值一起存储。

我现在正在走路径 2。 2-s 补码在 msb（最高有效位）中有符号位，因此这不适用于位打包 à la FOR。一种可能性是将符号存储在 lsb（最低有效位）中。以这种方式存储有符号整数是非常不寻常的，据我所知，没有任何指令支持这种方式。现在的问题是：这些 lsb-signed-integers 可以 encoded/decoded 有效地使用 SIMD 指令吗？

我认为 AVX-512 _mm_testn_epi32_mask 可用于从每个 uint32 中提取 lsb，然后是移位，然后是某种类型的两个 mask_extract？好复杂。

Answer 1

C 中未测试的 ZigZag 个使用 SSE2 的 64 位整数示例：

（注意：SSE2 缺少一些 64 位指令...）

#include <emmintrin.h>


// from comment by Peter-Cordes 
__m128i zigzag_encode_epi64(__m128i v) {
    __m128i signmask = _mm_shuffle_epi32(v, _MM_SHUFFLE(3,3,1,1));
    signmask = _mm_srai_epi32(signmask, 31);
    return _mm_xor_si128(_mm_add_epi64(v, v), signmask);
}


__m128i zigzag_decode_epi64 (__m128i v) {
    __m128i signmask = _mm_and_si128(_mm_set_epi32(0, 1, 0, 1), v);
    signmask = _mm_sub_epi64(_mm_setzero_si128(), signmask);
    return _mm_xor_si128(_mm_srli_epi64(v, 1), signmask);
}


// no constant
__m128i zigzag_decodev3_epi64 (__m128i v) {
    __m128i t = _mm_srli_epi64(v, 1);
    __m128i signmask = _mm_sub_epi64(_mm_slli_epi64(t, 1), v);
    return _mm_xor_si128(t, signmask);
}

Zigzag 适用于按位 varint。但是，字节组 varint 可能希望“从可变位宽进行符号扩展”。

32 位示例

比起算术移位，我更喜欢比较。我假设 - 展开时 - 比较的延迟将降低 1 个周期。

__m128i zigzag_encode_epi32 (__m128i v) {
    __m128i signmask =_mm_cmpgt_epi32(_mm_setzero_si128(), v);
    return _mm_xor_si128(_mm_add_epi32(v, v), signmask);
}


__m128i zigzag_decode_epi32 (__m128i v) {
    const __m128i m = _mm_set1_epi32(1);
    __m128i signmask =_mm_cmpeq_epi32(_mm_and_si128(m, v), m);
    return _mm_xor_si128(_mm_srli_epi32(v, 1), signmask);
}


__m128i delta_encode_epi32 (__m128i v, __m128i prev) {
    return _mm_sub_epi32(v, _mm_alignr_epi8(v, prev, 12));
}


// prefix sum (see many of answers around Whosebug...)
__m128i delta_decode_epi32 (__m128i v, __m128i prev) {
    prev = _mm_shuffle_epi32(prev, _MM_SHUFFLE(3,3,3,3)); // [P P P P]
    v = _mm_add_epi32(v, _mm_slli_si128(v, 4)); // [A AB BC CD]
    prev = _mm_add_epi32(prev, v); // [PA PAB PBC PCD]
    v = _mm_slli_si128(v, 8); // [0 0 A AB]
    return _mm_add_epi32(prev, v); // [PA PAB PABC PABCD]
}


__m128i delta_zigzag_encode_epi32 (__m128i v, __m128i prev) {
    return zigzag_encode_epi32(delta_encode_epi32(v, prev));
}


__m128i delta_zigzag_decode_epi32 (__m128i v, __m128i prev) {
    return delta_decode_epi32(zigzag_decode_epi32(v), prev);
}

注意：Delta 编码会更快 (round-trip/decoding)，在编码时转置元素，然后在解码时再次转置它们；水平前缀和真的很慢。然而，确定每个批次中要转置的最佳元素数量似乎是一个难题。

SIMD：位包有符号整数

SIMD: Bit-pack signed integers

sse

simd

avx

avx2

avx512