给定不透明类型和数组,如何在 C++03 中交换两个 __m128i 变量?

How to swap two __m128i variables in C++03 given its an opaque type and an array?

交换 __m128i 变量的最佳做法是什么?

后台是一个compile error under Sun Studio 12.2,是一个C++03的编译器。 __m128i 是与 MMX 和 SSE 指令一起使用的不透明类型,通常和 unsigned long long[2] 一起使用。 C++03不支持交换数组,编译器下std:swap(__m128i a, __m128i b)失败


以下是一些不太切题的相关问题。它们不适用,因为 std::vector 不可用。

交换通过memcpy?

#include <emmintrin.h>
#include <cstring>

template<class T>
void memswap(T& a, T& b)
{
    T t;
    std::memcpy(&t, &a, sizeof(t));
    std::memcpy(&a, &b, sizeof(t));
    std::memcpy(&b, &t, sizeof(t));
}

int main() {
    __m128i x;
    __m128i y;
    memswap(x, y);
    return 0;
}

这听起来不像是最佳实践问题;听起来您需要一个解决方法来解决内部函数严重损坏的实现。如果 __m128i tmp = a; 没有编译,那就太糟糕了。


如果您要编写自定义交换函数,请保持简单。 __m128i 是适合单个向量寄存器的 POD 类型。不要做任何会鼓励编译器将其溢出到内存的事情。一些编译器会生成非常糟糕的代码,即使是对于一个微不足道的测试用例,甚至 gcc/clang 可能会在优化一个大的复杂函数时遇到 memcpy。

由于编译器在构造函数上阻塞,只需声明一个带有普通初始值设定项的 tmp 变量,然后使用 = 赋值进行复制。这在支持 __m128i 的任何编译器中始终有效,并且是一种常见模式。

内存中的 to/from 值在内存中的工作方式类似于 _mm_store_si128 / _mm_load_si128:即 movdqa aligned stores/loads 如果用于未对齐的地址,将会出错。 (当然,优化可能导致加载被折叠到另一个向量指令的内存操作数中,或者根本不发生存储。)

// alternate names: assignment_swap
// or swap128, but then the name doesn't fit for __m256i...

// __m128i t(a) errors, so just use simple initializers / assignment
template<class T>
void vecswap(T& a, T& b) {
    // T t = a;     // Apparently SunCC even choked on this
    T t;
    t = a;
    a = b;
    b = t;
}

测试用例:最佳代码,即使使用像 ICC13 这样的硬壳编译器,它在 memcpy 版本上做得很糟糕。 Godbolt compiler explorer, with icc13 -O3

的 asm 输出
__m128i test_return2nd(__m128i x, __m128i y) {
    vecswap(x, y);
    return x;
}

    movdqa    xmm0, xmm1
    ret                    # returning the 2nd arg, which was in xmm1


__m128i test_return1st(__m128i x, __m128i y) {
    vecswap(x, y);
    return y;
}

    ret                   # returning the first arg, already in xmm0

使用 memswap,你会得到类似

的东西
return1st_memcpy(__m128i, __m128i):        ## ICC13 -O3
    movdqa    XMMWORD PTR [-56+rsp], xmm0
    movdqa    XMMWORD PTR [-40+rsp], xmm1    # spill both
    movaps    xmm2, XMMWORD PTR [-56+rsp]    # reload x
    movaps    XMMWORD PTR [-24+rsp], xmm2    # copy x to tmp
    movaps    xmm0, XMMWORD PTR [-40+rsp]    # reload y
    movaps    XMMWORD PTR [-56+rsp], xmm0    # copy y to x
    movaps    xmm0, XMMWORD PTR [-24+rsp]    # reload tmp
    movaps    XMMWORD PTR [-40+rsp], xmm0    # copy tmp to y
    movdqa    xmm0, XMMWORD PTR [-40+rsp]    # reload y
    ret                                      # return y

这几乎是您可以想象交换两个寄存器的 spilling/reloading 的绝对最大数量,因为 icc13 根本不在内联 memcpy 之间进行优化,甚至不记得是什么留在寄存器中。


交换内存中已有的值

即使 gcc 使用 memcpy 版本也会生成更糟糕的代码。它使用 64 位整数 loads/stores 而不是 128 位向量 load/store 进行复制。如果您要加载矢量(存储转发停顿),这会很糟糕,否则就很糟糕(做同样的工作需要更多的微指令)。

// the memcpy version of this compiles badly
void test_mem(__m128i *x, __m128i *y) {
    vecswap(*x, *y);
}
    # gcc 5.3 and ICC13 make the same code here, since it's easy to optimize
    movdqa  xmm0, XMMWORD PTR [rdi]
    movdqa  xmm1, XMMWORD PTR [rsi]
    movaps  XMMWORD PTR [rdi], xmm1
    movaps  XMMWORD PTR [rsi], xmm0
    ret

// gcc 5.3 with memswap instead of vecswap.  ICC13 is similar
test_mem_memcpy(long long __vector(2)*, long long __vector(2)*):
    mov     rax, QWORD PTR [rdi]
    mov     rdx, QWORD PTR [rdi+8]
    mov     r9, QWORD PTR [rsi]
    mov     r10, QWORD PTR [rsi+8]
    mov     QWORD PTR [rdi], r9
    mov     QWORD PTR [rdi+8], r10
    mov     QWORD PTR [rsi], rax
    mov     QWORD PTR [rsi+8], rdx
    ret