有没有办法让 Node.JS 和 V8 自动矢量化简单循环?
Is there anyway to get Node.JS and V8 to automatically vectorize simple loops?
我目前是 SSIM.js and jest-image-snapshot on behalf of Not a Typical Agency 的作者和贡献者。我正在执行的很多工作都是为了创建新算法来比较 Javascript 中的图像。在对 AssemblyScript 和 WebAssembly 进行了大量研究和测试之后,我发现与使用这两种技术中的任何一种相比,我通常可以使用纯 JS 获得性能更高、更便携的解决方案。但是,这只有在对生成的程序集执行广泛的代码审查并执行许多实验后才会发生。
我想了解的是,是否有办法让 Node.JS/libV8 自动向量化代码段。例如,我有一个两次循环,先水平然后垂直计算图像中每个像素的前缀和。跳过水平前缀和(用纯汇编来向量化以实现真正的性能改进可能具有挑战性),垂直前缀和应该非常容易优化。这是一个例子:
for (let h = 0; h + 1 < height; ++h) {
for (let w = 0; w < width; ++w) {
let above = pSumArray[h * width + w];
let current = pSumArray[(h + 1) * width + w];
pSumArray[(h + 1) * width + w] = above + current;
}
}
这需要所有预先存在的水平前缀和计算,并在图像中添加相邻的行,一次一行,一直到最后。
汇编器输出看起来像这样:
0x11afd3a4adb1 1d1 c4a17b1044c10f vmovsd xmm0,[rcx+r8*8+0xf]
0x11afd3a4adb8 1d8 4c8bc2 REX.W movq r8,rdx
0x11afd3a4adbb 1db 4503c6 addl r8,r14
0x11afd3a4adbe 1de 0f80ce020000 jo 0x11afd3a4b092 <+0x4b2>
0x11afd3a4adc4 1e4 443bc7 cmpl r8,rdi
0x11afd3a4adc7 1e7 0f83d1020000 jnc 0x11afd3a4b09e <+0x4be>
0x11afd3a4adcd 1ed c4a17b104cc10f vmovsd xmm1,[rcx+r8*8+0xf]
0x11afd3a4add4 1f4 c5fb58c1 vaddsd xmm0,xmm0,xmm1
0x11afd3a4add8 1f8 c4a17b1144c10f vmovsd [rcx+r8*8+0xf],xmm0
如果仔细观察,您会发现它正在使用 'sd'(单双)操作执行所有加载、存储和添加操作。这意味着它一次只能使用一个双打。可在 here.
中找到相关文档
这与此应用程序相关,因为相对确定宽度是 2 的倍数(如果不是 16)。作为副作用,如果机器支持 AVX512,我们可以一次执行 twice as many adds at a time if we're on a machine that only supports SSE2 instructions, and up to 8 adds。尽管 node.js 和 libv8 似乎在运行时检测 CPU 方面做得不错,但我仍然没有找到一种方法让它自动矢量化这样的循环。我已经尝试了一些包含特定条件的策略(例如,宽度可以被 8 整除)并将它们与去循环(例如 array[0] =above0+current0 array[1]=above1+current1 array[2]=above2+current2...
)相结合,但是 none 已经产生了任何成功的结果。
如果有人能就此主题向我提供任何帮助,我们将不胜感激。
非常感谢,
段
V8 当前不执行任何操作 auto-vectorization。 (来源:我是一名 V8 开发人员。)这在未来可能会改变,也可能不会改变;人们时不时地在玩弄想法,但我不知道有什么具体的计划。
Wasm-SIMD 即将全面上市(目前处于“原始试用”实验性有限发布阶段),这将允许您通过 WebAssembly 使用 SIMD 指令。 (Wasm 的级别比 JavaScript 低得多,这意味着它通常可以让您更好地控制将生成的指令序列。特别选择了 Wasm-SIMD 指令集,以便它可以很好地映射到通用硬件上说明。)
我目前是 SSIM.js and jest-image-snapshot on behalf of Not a Typical Agency 的作者和贡献者。我正在执行的很多工作都是为了创建新算法来比较 Javascript 中的图像。在对 AssemblyScript 和 WebAssembly 进行了大量研究和测试之后,我发现与使用这两种技术中的任何一种相比,我通常可以使用纯 JS 获得性能更高、更便携的解决方案。但是,这只有在对生成的程序集执行广泛的代码审查并执行许多实验后才会发生。
我想了解的是,是否有办法让 Node.JS/libV8 自动向量化代码段。例如,我有一个两次循环,先水平然后垂直计算图像中每个像素的前缀和。跳过水平前缀和(用纯汇编来向量化以实现真正的性能改进可能具有挑战性),垂直前缀和应该非常容易优化。这是一个例子:
for (let h = 0; h + 1 < height; ++h) {
for (let w = 0; w < width; ++w) {
let above = pSumArray[h * width + w];
let current = pSumArray[(h + 1) * width + w];
pSumArray[(h + 1) * width + w] = above + current;
}
}
这需要所有预先存在的水平前缀和计算,并在图像中添加相邻的行,一次一行,一直到最后。
汇编器输出看起来像这样:
0x11afd3a4adb1 1d1 c4a17b1044c10f vmovsd xmm0,[rcx+r8*8+0xf]
0x11afd3a4adb8 1d8 4c8bc2 REX.W movq r8,rdx
0x11afd3a4adbb 1db 4503c6 addl r8,r14
0x11afd3a4adbe 1de 0f80ce020000 jo 0x11afd3a4b092 <+0x4b2>
0x11afd3a4adc4 1e4 443bc7 cmpl r8,rdi
0x11afd3a4adc7 1e7 0f83d1020000 jnc 0x11afd3a4b09e <+0x4be>
0x11afd3a4adcd 1ed c4a17b104cc10f vmovsd xmm1,[rcx+r8*8+0xf]
0x11afd3a4add4 1f4 c5fb58c1 vaddsd xmm0,xmm0,xmm1
0x11afd3a4add8 1f8 c4a17b1144c10f vmovsd [rcx+r8*8+0xf],xmm0
如果仔细观察,您会发现它正在使用 'sd'(单双)操作执行所有加载、存储和添加操作。这意味着它一次只能使用一个双打。可在 here.
中找到相关文档这与此应用程序相关,因为相对确定宽度是 2 的倍数(如果不是 16)。作为副作用,如果机器支持 AVX512,我们可以一次执行 twice as many adds at a time if we're on a machine that only supports SSE2 instructions, and up to 8 adds。尽管 node.js 和 libv8 似乎在运行时检测 CPU 方面做得不错,但我仍然没有找到一种方法让它自动矢量化这样的循环。我已经尝试了一些包含特定条件的策略(例如,宽度可以被 8 整除)并将它们与去循环(例如 array[0] =above0+current0 array[1]=above1+current1 array[2]=above2+current2...
)相结合,但是 none 已经产生了任何成功的结果。
如果有人能就此主题向我提供任何帮助,我们将不胜感激。
非常感谢,
段
V8 当前不执行任何操作 auto-vectorization。 (来源:我是一名 V8 开发人员。)这在未来可能会改变,也可能不会改变;人们时不时地在玩弄想法,但我不知道有什么具体的计划。
Wasm-SIMD 即将全面上市(目前处于“原始试用”实验性有限发布阶段),这将允许您通过 WebAssembly 使用 SIMD 指令。 (Wasm 的级别比 JavaScript 低得多,这意味着它通常可以让您更好地控制将生成的指令序列。特别选择了 Wasm-SIMD 指令集,以便它可以很好地映射到通用硬件上说明。)