使用 SSE4.2 或更早版本优化 find_first_not_of
Optimizing find_first_not_of with SSE4.2 or earlier
我正在为一个协议编写一个文本数据包分析器,在优化它的过程中我发现一个很大的瓶颈是 find_first_not_of
调用。
本质上,如果数据包仅包含有效字符,我需要确定它是否有效,这比默认的 C++ 函数更快。
例如,如果所有允许的字符是 f
、h
、o
、t
和 w
,在 C++ 中我会调用s.find_first_not_of("fhotw")
,但在 SSEx 中,在将字符串加载到一组 __m128i
变量后,我没有任何线索。
显然,_mm_cmpXstrY
函数文档在这方面并没有真正帮助我。 (例如 _mm_cmpistri
)。一开始我可以用 _mm_sub_epi8
减去,但我认为这不是个好主意。
此外,我坚持使用 SSE(任何版本)。
Wojciech Muła 的 This article 描述了一个 SSSE3 算法 accept/reject 任何给定的字节值。
(与文章相反,应该使用饱和算法进行范围检查,但我们没有范围。)
SSE4.2 字符串函数通常比手工制作的替代品慢。例如,pcmpistri
在 Skylake 上的 3 微指令、3 周期吞吐量,是 SSE4.2 字符串指令中最快的。 vs. 1 shuffle 和每 16 字节输入 1 pcmpeqb,使用 SIMD AND 和 movemask 组合结果。加上一些加载和寄存器复制指令,但仍然很可能比每 3 个周期 1 个向量快。不过,处理以 0 结尾的短字符串并不那么容易;如果您也需要担心,SSE4.2 值得考虑,而不是向量宽度的倍数的已知大小的块。
对于“fhotw”,请尝试:
#include <tmmintrin.h> // pshufb
bool is_valid_64bytes (uint8_t* src) {
const __m128i tab = _mm_set_epi8('o','_','_','_','_','_','_','h',
'w','f','_','t','_','_','_','_');
__m128i src0 = _mm_loadu_si128((__m128i*)&src[0]);
__m128i src1 = _mm_loadu_si128((__m128i*)&src[16]);
__m128i src2 = _mm_loadu_si128((__m128i*)&src[32]);
__m128i src3 = _mm_loadu_si128((__m128i*)&src[48]);
__m128i acc;
acc = _mm_cmpeq_epi8(_mm_shuffle_epi8(tab, src0), src0);
acc = _mm_and_si128(acc, _mm_cmpeq_epi8(_mm_shuffle_epi8(tab, src1), src1));
acc = _mm_and_si128(acc, _mm_cmpeq_epi8(_mm_shuffle_epi8(tab, src2), src2));
acc = _mm_and_si128(acc, _mm_cmpeq_epi8(_mm_shuffle_epi8(tab, src3), src3));
return !!(((unsigned)_mm_movemask_epi8(acc)) == 0xFFFF);
}
使用数据的低 4 位,我们可以 select 我们的集合中的一个字节具有该低半字节值。例如'o'
(0x6f) 进入 table 的高字节,因此 0x?f
形式的输入字节尝试与其匹配。即它是 _mm_set_epi8
的第一个元素,从高到低。
有关此技术在其他特殊/更一般情况下的变体,请参阅完整文章。
我正在为一个协议编写一个文本数据包分析器,在优化它的过程中我发现一个很大的瓶颈是 find_first_not_of
调用。
本质上,如果数据包仅包含有效字符,我需要确定它是否有效,这比默认的 C++ 函数更快。
例如,如果所有允许的字符是 f
、h
、o
、t
和 w
,在 C++ 中我会调用s.find_first_not_of("fhotw")
,但在 SSEx 中,在将字符串加载到一组 __m128i
变量后,我没有任何线索。
显然,_mm_cmpXstrY
函数文档在这方面并没有真正帮助我。 (例如 _mm_cmpistri
)。一开始我可以用 _mm_sub_epi8
减去,但我认为这不是个好主意。
此外,我坚持使用 SSE(任何版本)。
This article 描述了一个 SSSE3 算法 accept/reject 任何给定的字节值。 (与文章相反,应该使用饱和算法进行范围检查,但我们没有范围。)
SSE4.2 字符串函数通常比手工制作的替代品慢。例如,pcmpistri
在 Skylake 上的 3 微指令、3 周期吞吐量,是 SSE4.2 字符串指令中最快的。 vs. 1 shuffle 和每 16 字节输入 1 pcmpeqb,使用 SIMD AND 和 movemask 组合结果。加上一些加载和寄存器复制指令,但仍然很可能比每 3 个周期 1 个向量快。不过,处理以 0 结尾的短字符串并不那么容易;如果您也需要担心,SSE4.2 值得考虑,而不是向量宽度的倍数的已知大小的块。
对于“fhotw”,请尝试:
#include <tmmintrin.h> // pshufb
bool is_valid_64bytes (uint8_t* src) {
const __m128i tab = _mm_set_epi8('o','_','_','_','_','_','_','h',
'w','f','_','t','_','_','_','_');
__m128i src0 = _mm_loadu_si128((__m128i*)&src[0]);
__m128i src1 = _mm_loadu_si128((__m128i*)&src[16]);
__m128i src2 = _mm_loadu_si128((__m128i*)&src[32]);
__m128i src3 = _mm_loadu_si128((__m128i*)&src[48]);
__m128i acc;
acc = _mm_cmpeq_epi8(_mm_shuffle_epi8(tab, src0), src0);
acc = _mm_and_si128(acc, _mm_cmpeq_epi8(_mm_shuffle_epi8(tab, src1), src1));
acc = _mm_and_si128(acc, _mm_cmpeq_epi8(_mm_shuffle_epi8(tab, src2), src2));
acc = _mm_and_si128(acc, _mm_cmpeq_epi8(_mm_shuffle_epi8(tab, src3), src3));
return !!(((unsigned)_mm_movemask_epi8(acc)) == 0xFFFF);
}
使用数据的低 4 位,我们可以 select 我们的集合中的一个字节具有该低半字节值。例如'o'
(0x6f) 进入 table 的高字节,因此 0x?f
形式的输入字节尝试与其匹配。即它是 _mm_set_epi8
的第一个元素,从高到低。
有关此技术在其他特殊/更一般情况下的变体,请参阅完整文章。