高速缓存行大小倍数的变量的高速缓存行填充

Question

我正在创建一个非常快速的多线程离散事件模拟框架。该框架的核心使用原子和无锁编程技术来实现跨多个线程的非常快速的执行。这需要我将一些变量与缓存行对齐并填充剩余的缓存行 space 以便我没有缓存行争用。这是我的做法：

// compute cache line padding size
constexpr u64 CLPAD(u64 _objSize) {
  return ((_objSize / CACHELINE_SIZE) * CACHELINE_SIZE) +
      (((_objSize % CACHELINE_SIZE) > 0) * CACHELINE_SIZE) -
      _objSize;
}

alignas(CACHELINE_SIZE) MyObject myObj;
char padding[CLPAD(sizeof(myObj))];

这对我来说非常有用，但今天我在将这种方法用于新对象类型时偶然发现了一个问题。 CLPAD() 函数 returns 将输入类型填充到下一个缓存行所需的字符数量。但是，如果我放入一个大小恰好是缓存行数倍数的类型，则 CLPAD returns 0。如果您尝试创建一个大小为零的数组，您会得到这个 warning/error:

ISO C++ forbids zero-size array 'padding'

我知道在这种情况下我可以将 CLPAD() 修改为 return CACHELINE_SIZE，但是我无缘无故地烧掉了价值 space 的缓存行。

如果 CLPAD returns 0，我怎样才能使 'padding' 的声明消失？

Answer 1

根据 std::aligned_storage<> 的一页，我得出以下结论：

template<class T, bool = false>
struct padded
{
    using type = struct
    {
        alignas(CACHELINE_SIZE)T myObj;
        char padding[CLPAD(sizeof(T))];
    };
};

template<class T>
struct padded<T, true>
{
    using type = struct
    {
        alignas(CACHELINE_SIZE)T myObj;
    };
};

template<class T>
using padded_t = typename padded<T, (sizeof(T) % CACHELINE_SIZE == 0)>::type;

用法：

struct alignas(32) my_type_1 { char c[32]; }; // char c[32] to silence MSVC warning
struct my_type_2 { char c[CACHELINE_SIZE * 2]; }; // ditto

int main()
{
    padded_t<my_type_1> pt0;
    padded_t<my_type_2> pt1;

    sizeof(pt0);    // 128
    alignof(pt0);   // 128

    sizeof(pt1);    // 256
    alignof(pt1);   // 128
}

您可以根据需要提供访问 myObj 的功能。

高速缓存行大小倍数的变量的高速缓存行填充

Cache line padding for variables that are a multiple of cache line size

c++

multithreading

caching

simulation

lockless