无论如何,有没有让Node.JS和V8自动向量化简单循环的方法?

问题描述

我目前正在以SSIM.js的身份担任jest-image-snapshotNot a Typical Agency的作者和撰稿人。我正在执行的许多工作都导致创建新的算法来比较Javascript中的图像。经过对AssemblyScript和WebAssembly的大量研究和测试,我发现与使用这两种技术中的任何一种相比,使用纯JS常常可以得到性能更高且更可移植的解决方案。但是,只有在对生成的程序集进行广泛的代码审查并执行许多实验之后,这种情况才会发生。

我想了解的是,是否有一种方法可以使Node.JS / libV8自动代码段进行矢量化处理。举个例子,我有一个两遍循环,可以水平然后垂直计算图像中每个像素的前缀和。跳过水平前缀总和(对于使用纯汇编实现真正的性能提升进行矢量化可能会遇到挑战),垂直前缀总和应非常简单地进行优化。这是一个示例:

    for (let h = 0; h + 1 < height; ++h) {
      for (let w = 0; w < width; ++w) {
        let above = pSumArray[h * width + w];
        let current = pSumArray[(h + 1) * width + w];
        pSumArray[(h + 1) * width + w] = above + current;
      }
    }

这将进行所有先前存在的水平前缀和计算,并向前添加图像中的相邻行,一次直到一行,直到到达终点为止。

汇编器输出如下所示:

0x11afd3a4adb1   1d1  c4a17b1044c10f vmovsd xmm0,[rcx+r8*8+0xf]
0x11afd3a4adb8   1d8  4c8bc2         REX.W movq r8,rdx
0x11afd3a4adbb   1db  4503c6         addl r8,r14
0x11afd3a4adbe   1de  0f80ce020000   jo 0x11afd3a4b092  <+0x4b2>
0x11afd3a4adc4   1e4  443bc7         cmpl r8,rdi
0x11afd3a4adc7   1e7  0f83d1020000   jnc 0x11afd3a4b09e  <+0x4be>
0x11afd3a4adcd   1ed  c4a17b104cc10f vmovsd xmm1,[rcx+r8*8+0xf]
0x11afd3a4add4   1f4  c5fb58c1       vaddsd xmm0,xmm0,xmm1
0x11afd3a4add8   1f8  c4a17b1144c10f vmovsd [rcx+r8*8+0xf],xmm0

如果仔细观察,您会发现它正在执行所有使用“ sd”(单双)操作的加载,存储和添加操作。这意味着一次只能使用一个双倍。可以在here上找到有关此文档的信息。

这与该应用程序有关,因为可以相对确定宽度是2的倍数(如果不是16的话)。作为副作用,如果我们在一台机器上,我们可以一次执行twice as many adds支持SSE2指令,并且如果机器支持AVX512,则一次最多支持8 adds。尽管node.js和libv8似乎在运行时检测cpu方面做得不错,但我仍然没有找到一种方法来使它自动向量化这样的循环。我尝试了几种策略,其中包括特定条件(例如,宽度可被8整除),并将它们与去循环(例如,array[0] =above0+current0 array[1]=above1+current1 array[2]=above2+current2...)结合使用,但没有一个成功的结果。

在此主题上为我提供任何帮助的人将不胜感激。

非常感谢

解决方法

V8当前不执行任何自动矢量化。 (来源:我是V8开发人员。)将来可能会改变,也可能不会改变。人们时不时在玩创意,但我不知道有什么具体计划。

Wasm-SIMD即将接近正式上市(目前处于“原始试用”实验性有限发布阶段),这将使您可以通过WebAssembly使用SIMD指令。 (由于Wasm的级别比JavaScript低得多,因此通常可以更好地控制将生成的指令序列。特别是选择了Wasm-SIMD指令集,使其可以很好地映射到常见的硬件指令上。)