SSE/AVX 浮点转换异常

Question

假设一个 SSE 寄存器包含一个或多个不能表示为 32 位 int 的压缩值（例如 Inf 或 NaN），并且调用转换为 int，例如作为 _mm_cvtpd_epi32 / cvtpd2dq.

1. 是否安全，即是否定义了行为？
2. 它会破坏控制流，还是只是举个旗帜？
3. 如果定义了，转换的结果是什么？

Answer 1

这些问题的答案大多可以在Intel® 64 and IA-32 Architectures Software Developer’s Manual:

中找到

CVTPD2DQ

... If a converted result is larger than the maximum signed doubleword integer, the floating-point invalid exception is raised, and if this exception is masked, the indefinite integer value (80000000H) is returned.

本节没有明确说明，但这也适用于无穷大和 NaN。所以：

1. 是的，行为已定义。
2. 在默认的浮点环境下（即在MXCSR中屏蔽了无效异常），它不会中断控制流；它只设置一个标志。
3. 结果是0x80000000。