PMU x86-64 性能计数器未显示在 AWS 下的性能中

Question

我正在运行针对特定应用程序进行 C++ 基准测试。在此测试中，我在关键部分之前打开性能计数器文件（__NR_perf_event_open 系统调用），继续该部分，然后在读取指定的指标（指令、周期、分支、缓存丢失等）之后。

我确认这需要运行在 sudo 下，因为该进程需要 CAP_PERFCOUNT 功能。我还必须验证 /proc/sys/kernel/perf_event_paranoid 设置为大于 2 的数字，这似乎总是 Ubuntu 20.04.3 和内核 5.11.0 的情况，这是 OS 我跨测试标准化。

此设置适用于我所有的本地机器。然而，在云端，它仅适用于某些实例，例如 m5zn.6xlarge（英特尔至强铂金 8252C）。它不适用于其他人，如 t3.medium、c3.4xlarge、c5a.8xlarge。

它们的 AMI 都是相同的 ami-09e67e426f25ce0d7。

验证此行为的一种简单方法是运行以下命令：

sudo perf stat /bin/sleep 1

在m5zn盒子上我会看到：

 Performance counter stats for '/bin/sleep 1':

          0.54 msec task-clock                #    0.001 CPUs utiliz
             1      context-switches          #    0.002 M/sec
             1      cpu-migrations            #    0.002 M/sec
            75      page-faults               #    0.139 M/sec
       2191485      cycles                    #    4.070 GHz
       1292564      instructions              #    0.59  insn per cyc
        258373      branches                  #  479.860 M/sec
         11090      branch-misses             #    4.29% of all branc

   1.000902741 seconds time elapsed

   0.000889000 seconds user
   0.000000000 seconds sys

Perf with valid output

而在其他盒子上我会看到：

 Performance counter stats for '/bin/sleep 1':

          0.62 msec task-clock                #    0.001 CPUs utilized
             2      context-switches          #    0.003 M/sec
             0      cpu-migrations            #    0.000 K/sec
            76      page-faults               #    0.124 M/sec
<not supported>      cycles
<not supported>      instructions
<not supported>      branches
<not supported>      branch-misses

   1.002488031 seconds time elapsed

   0.000930000 seconds user
   0.000000000 seconds sys

Perf with not supported values

我怀疑 m5zn.6xlarge 由真实实例支持，而其他实例是共享实例。我的猜测是否正确？

我可以启动哪些实例来为我提供性能计数器 PMU 支持？

谢谢！

Answer 1

经过一些研究，我发现由于所有 Amazon AWS 实例都是虚拟实例，none 来宾操作系统可以直接访问硬件性能计数器（PMC 或 PMU）。

来宾 OS 只能通过称为虚拟 PMU (vPMU) 的内核驱动程序读取性能计数器，该驱动程序仅适用于某些 Intel Xeon CPUs。

因此在我尝试的实例列表中，只有带有 Intel Platinum 8252 的 m5zn 受支持 CPU。

通过运行

很容易检查客户机OS是否支持vPMU

cat /proc/cpuinfo | grep arch_perfmon

也可以在 smpboot 之后立即检查 dmesg 输出：

[    0.916264] smpboot: CPU0: Intel(R) Xeon(R) Platinum 8175M CPU @ 2.50GHz (family: 0x6, model: 0x55, stepping: 0x4)
[    0.916410] Performance Events: unsupported p6 CPU model 85 no PMU driver, software events only.

在 AWS 上，经验法则是您只能在最大的实例或占用整个套接字的实例上获得 vPMU。

https://oavdeev.github.io/posts/vpmu_support_z1d/

目前这些实例支持 vPMU：

i3.metal
c5.9xlarge
c5.18xlarge
m4.16xlarge
m5.12xlarge
m5.24xlarge
r5.12xlarge
r5.24xlarge
f1.16xlarge
h1.16xlarge
i3.16xlarge
p2.16xlarge
p3.16xlarge
r4.16xlarge
x1.32xlarge
c5d.9xlarge
c5d.18xlarge
m5d.12xlarge
m5d.24xlarge
r5d.12xlarge
r5d.24xlarge
x1e.32xlarge

PMU x86-64 性能计数器未显示在 AWS 下的性能中

PMU x86-64 performance counters not showing in perf under AWS

amazon-web-services

amazon-ec2

linux-kernel

performancecounter

intel-pmu