从具有 0 填充的数组加载到 256 位 AVX2 寄存器

Load to 256 bit AVX2 register from an array with 0 padding

我想将 4 个双精度值加载到 256 位寄存器中,如果数组大小小于 4,则用 0 填充。

register __m256d c = _mm256_loadu_pd(C);

现在假设 C 中只有三个元素,我想将寄存器 c 中的最后一个 "entry" 填充为 0。我怎样才能有效地做到这一点?

这是一种方法。与 _mm256_maskload_pd 不同,下面的函数不需要加载或创建掩码。

// Load 3 doubles from memory, zero out the 4-th one.
inline __m256d load3( const double* source )
{
    const __m128d low = _mm_loadu_pd( source );
    const __m128d high = _mm_load_sd( source + 2 );
    return _mm256_set_m128d( high, low );   // vinsertf128
}

为了完整起见,这里还有另外 2 个变体。

// Zero out the high 2 double lanes.
inline __m256d zeroupper( __m128d low2 )
{
    const __m256d low = _mm256_castpd128_pd256( low2 ); // no instruction
    const __m256d zero = _mm256_setzero_pd();   // vxorpd
    // vblendpd is 4-5 times faster than vinsertf128
    return _mm256_blend_pd( zero, low, 3 ); // vblendpd
}
// Load 2 doubles from memory, zero out other 2
inline __m256d load2( const double* source )
{
    return zeroupper( _mm_loadu_pd( source ) );
}
// Load 1 double from memory, zero out the other 3
inline __m256d load1( const double* source )
{
    return zeroupper( _mm_load_sd( source ) );
}