为什么英特尔编译器忽略英特尔 MIC 的非时间预取 pragma 指令?

Why Intel compiler ignores the non-temporal prefetch pragma directive for Intel MIC?

英特尔编译器在循环内生成以下预取指令,用于通过 a_ptr 指针访问数组:

400e93:       62 d1 78 08 18 4c 24    vprefetch0 [r12+0x80]

如果我手动将其更改(通过对可执行文件进行十六进制编辑)将其更改为非临时预取:

400e93:       62 d1 78 08 18 44 24    vprefetchnta [r12+0x80]

循环运行速度几乎快了 1.5 倍 (!!!)。但是,我更希望编译器为我生成非时间预取。我以为

#pragma prefetch a_ptr:_MM_HINT_NTA

在循环should do the trick之前,但实际上并没有;它生成与没有 pragma 的指令完全相同的指令。为什么 icpc 忽略这个 pragma?我如何强制它生成非时间预取?

选择。据我所知,报告没有说任何有用的东西:

LOOP BEGIN at test-mic.cpp(56,5)
   remark #15344: loop was not vectorized: vector dependence prevents vectorization
   remark #15346: vector dependence: assumed ANTI dependence between b_ptr line 64 and b_ptr line 65
   remark #15346: vector dependence: assumed FLOW dependence between b_ptr line 65 and b_ptr line 64
   remark #25018: Total number of lines prefetched=2
   remark #25019: Number of spatial prefetches=2, dist=29
   remark #25021: Number of initial-value prefetches=2
   remark #25139: Using second-level distance 2 for prefetching spatial memory reference   [ test-mic.cpp(61,50) ]
   remark #25015: Estimate of max trip count of loop=1048576
LOOP END

这是一个已知问题 - BKM 将在预取 directives/pragmas 中使用显式值 0、1、2、3 作为提示(t0、t1、t2、nta)(并且不使用 MM_HINT枚举)。

这是因为 header 文件中的 MM_HINT 枚举映射不同:

/* constants to use with _mm_prefetch  (extracted from *mmintrin.h) */
#define _MM_HINT_T0 1
#define _MM_HINT_T1 2
#define _MM_HINT_T2 3
#define _MM_HINT_NTA    0    <--maps here
#define _MM_HINT_ENTA   4
#define _MM_HINT_ET0    5
#define _MM_HINT_ET1    6
#define _MM_HINT_ET2    7

加上 Intel headers 和 gcc headers 使用不同的枚举值 - 这也很麻烦。因此提示 --enums 仅用于 _mm_prefetch 内在函数,而不用于预取指令。

对于此示例,您应该能够使用:#pragma prefetch a_ptr:3

但是,由于存在编译器当前无法将循环内的 a_ptr 加载 memory-ref 与预取指令中的表达式正确连接的缺陷,建议的语法当前无法使用;因此,临时解决方案是使用以下语法:

#pragma prefetch *:3

注意:星号表示指令将在循环内申请"ALL"内存引用。在这个循环中,b_ptr 无论如何都不能被编译器预取——因为它不是线性地址表达式。所以“*”在这里只适用于 a_ptr - 并导致 vprefetchnta(在 KNC 和 KNL 上)。

该缺陷将在未来的版本中修复。