为什么 VS C++ 2017 编译器仅在迭代指针未存储在结构中时才使用 SSE 优化?

问题描述

动机很简单:我遍历两个 uint64 数组、位元和它们的值,并将结果存储在第三个数组中。然而,在我概括了以结构形式接受输入的解决方案后,代码速度大大减慢,我发现生成的程序集相当不同。我的问题是为什么会这样,我该如何防止这种行为? (有关动机的更多详细信息,请参阅问题末尾的注释。)

最小化后的代码如下所示:

struct FAndExpressionIter
{
public:
    const uint64* LhsIter = nullptr;
    const uint64* RhsIter = nullptr;

    inline void operator++()
    {
        ++LhsIter;
        ++RhsIter;
    }

    inline uint64 operator*() const
    {
        return (*LhsIter & *RhsIter);
    }
};


void FooBitAndExpression(FAndExpressionIter SrcIter,uint64* ResultIter,const uint64* ResultEnd)
{
    while (ResultIter != ResultEnd)
    {
        *ResultIter = *SrcIter;
        ++SrcIter;
        ++ResultIter;
    }
}

void FooBitAndRaw(const uint64* LhsIter,const uint64* RhsIter,const uint64* ResultEnd)
{
    while (ResultIter != ResultEnd)
    {
        *ResultIter = (*LhsIter & *RhsIter);
        ++LhsIter;
        ++RhsIter;
        ++ResultIter;
    }
}

FooBitAndExpression 被编译成:

00007FFA37075910  mov         qword ptr [rsp+8],rbx  
     7:     while (ResultIter != ResultEnd)
00007FFA37075915  xor         r10d,r10d  
00007FFA37075918  mov         rbx,r8  
00007FFA3707591B  sub         rbx,rdx  
00007FFA3707591E  mov         r9,rdx  
00007FFA37075921  add         rbx,7  
00007FFA37075925  mov         r11,rcx  
00007FFA37075928  shr         rbx,3  
00007FFA3707592C  cmp         rdx,r8  
00007FFA3707592F  cmova       rbx,r10  
00007FFA37075933  test        rbx,rbx  
00007FFA37075936  je          FooBitAndExpression+55h (07FFA37075965h)  
00007FFA37075938  mov         rax,qword ptr [rcx+8]  
00007FFA3707593C  nop         dword ptr [rax]  
     8:     {
     9:         *ResultIter = *SrcIter;
00007FFA37075940  mov         rdx,qword ptr [r11]  
    10:         ++SrcIter;
00007FFA37075943  lea         rax,[rax+8]  
    11:         ++ResultIter;
00007FFA37075947  inc         r10  
00007FFA3707594A  lea         r9,[r9+8]  
     8:     {
     9:         *ResultIter = *SrcIter;
00007FFA3707594E  mov         rcx,qword ptr [rdx]  
00007FFA37075951  and         rcx,qword ptr [rax-8]  
00007FFA37075955  mov         qword ptr [r9-8],rcx  
    10:         ++SrcIter;
00007FFA37075959  lea         rcx,[rdx+8]  
00007FFA3707595D  mov         qword ptr [r11],rcx  
     7:     while (ResultIter != ResultEnd)
00007FFA37075960  cmp         r10,rbx  
00007FFA37075963  jne         FooBitAndExpression+30h (07FFA37075940h)  
    12:     }
    13: }
00007FFA37075965  mov         rbx,qword ptr [rsp+8]  
    12:     }
    13: }
00007FFA3707596A  ret  

FooBitAndRaw 被编译为:

    17:     while (ResultIter != ResultEnd)
00007FFA37075980  xor         r10d,r10d  
00007FFA37075983  mov         r11,r9  
00007FFA37075986  sub         r11,r8  
00007FFA37075989  add         r11,7  
00007FFA3707598D  shr         r11,3  
00007FFA37075991  cmp         r8,r9  
00007FFA37075994  cmova       r11,r10  
00007FFA37075998  test        r11,r11  
00007FFA3707599B  je          FooBitAndRaw+0F7h (07FFA37075A77h)  
00007FFA370759A1  cmp         r11,8  
00007FFA370759A5  jb          FooBitAndRaw+0D2h (07FFA37075A52h)  
00007FFA370759AB  lea         rax,[rdx-8]  
00007FFA370759AF  lea         rax,[rax+r11*8]  
00007FFA370759B3  lea         r9,[r8-8]  
00007FFA370759B7  lea         r9,[r9+r11*8]  
00007FFA370759BB  cmp         r8,rax  
00007FFA370759BE  ja          FooBitAndRaw+49h (07FFA370759C9h)  
00007FFA370759C0  cmp         r9,rdx  
00007FFA370759C3  jae         FooBitAndRaw+0D2h (07FFA37075A52h)  
00007FFA370759C9  lea         rax,[rcx-8]  
00007FFA370759CD  lea         rax,[rax+r11*8]  
00007FFA370759D1  cmp         r8,rax  
00007FFA370759D4  ja          FooBitAndRaw+5Bh (07FFA370759DBh)  
00007FFA370759D6  cmp         r9,rcx  
00007FFA370759D9  jae         FooBitAndRaw+0D2h (07FFA37075A52h)  
00007FFA370759DB  mov         rax,r11  
00007FFA370759DE  and         rax,0FFFFFFFFFFFFFFF8h  
00007FFA370759E2  nop         dword ptr [rax]  
00007FFA370759E6  nop         word ptr [rax+rax]  
    18:     {
    19:         *ResultIter = (*LhsIter & *RhsIter);
00007FFA370759F0  movdqu      xmm0,xmmword ptr [rdx]  
    20:         ++LhsIter;
    21:         ++RhsIter;
    22:         ++ResultIter;
00007FFA370759F4  add         r10,8  
00007FFA370759F8  movdqu      xmm1,xmmword ptr [rcx]  
00007FFA370759FC  pand        xmm1,xmm0  
00007FFA37075A00  movdqu      xmm0,xmmword ptr [rdx+10h]  
00007FFA37075A05  movdqu      xmmword ptr [r8],xmm1  
00007FFA37075A0A  movdqu      xmm1,xmmword ptr [rcx+10h]  
00007FFA37075A0F  pand        xmm1,xmm0  
00007FFA37075A13  movdqu      xmm0,xmmword ptr [rdx+20h]  
00007FFA37075A18  movdqu      xmmword ptr [r8+10h],xmm1  
00007FFA37075A1E  movdqu      xmm1,xmmword ptr [rcx+20h]  
00007FFA37075A23  pand        xmm1,xmm0  
00007FFA37075A27  movdqu      xmm0,xmmword ptr [rdx+30h]  
00007FFA37075A2C  add         rdx,40h  
00007FFA37075A30  movdqu      xmmword ptr [r8+20h],xmm1  
00007FFA37075A36  movdqu      xmm1,xmmword ptr [rcx+30h]  
00007FFA37075A3B  add         rcx,40h  
00007FFA37075A3F  pand        xmm1,xmm0  
00007FFA37075A43  movdqu      xmmword ptr [r8+30h],xmm1  
00007FFA37075A49  add         r8,40h  
00007FFA37075A4D  cmp         r10,rax  
00007FFA37075A50  jne         FooBitAndRaw+70h (07FFA370759F0h)  
    17:     while (ResultIter != ResultEnd)
00007FFA37075A52  cmp         r10,r11  
00007FFA37075A55  je          FooBitAndRaw+0F7h (07FFA37075A77h)  
00007FFA37075A57  sub         rcx,rdx  
    17:     while (ResultIter != ResultEnd)
00007FFA37075A5A  sub         r8,rdx  
00007FFA37075A5D  nop         dword ptr [rax]  
    18:     {
    19:         *ResultIter = (*LhsIter & *RhsIter);
00007FFA37075A60  mov         rax,qword ptr [rcx+rdx]  
    20:         ++LhsIter;
    21:         ++RhsIter;
    22:         ++ResultIter;
00007FFA37075A64  inc         r10  
00007FFA37075A67  and         rax,qword ptr [rdx]  
00007FFA37075A6A  mov         qword ptr [r8+rdx],rax  
00007FFA37075A6E  lea         rdx,[rdx+8]  
00007FFA37075A72  cmp         r10,r11  
00007FFA37075A75  jne         FooBitAndRaw+0E0h (07FFA37075A60h)  
    23:     }
    24: }
00007FFA37075A77  ret  

请注意,我对汇编程序的了解非常有限,我的结论是基于猜测。如果我正确理解生成的程序集,FooBitAndRaw 函数将使用 sse 指令循环遍历迭代数据。当剩余空间太小时,回退到单值迭代。

然而,FooBitAndExpression 函数没有做这样的事情并且立即迭代单个值。据我了解,除了两个内联的方法调用外,这两种实现在高级指令中是相同的。

already found out,C# 的 JIT 不会在用于迭代的局部结构变量中使用变量寄存器,这会大大降低应用程序的速度。显然,MS Visual C++ 在类似情况下使用寄存器,但它让我想到了一个子问题:如果变量存储在本地结构中,是否有类似的限制不允许使用 sse 优化?

更多细节和注意事项:

  • 我相信这不是过早的优化。最初,我只是将布尔值存储为完全不同结构的成员变量,并在我想对这些字段运行逻辑运算时简单地迭代这些结构的数组。它被指定用于一定数量的元素。然而,输入增加幅度和代码非常缓慢。所以作为优化,我实现了基于位域的结构来存储某些布尔值。我工作的大部分系统都是 O(N),但是使用这些位域技巧的部分是 O(M*N),因此即使是微小的变化也会显着影响性能。
  • 当我尝试通过展开循环来优化实现时,我注意到了这种行为。 FooBitAndExpression 速度更快,而 FooBitAndRaw 速度明显减慢,这是出乎意料的,因此我进行了调查 - 并发现了这一点。
  • 我的主要动机/目标是什么:在分析之后,我发现了代码中最薄弱的部分并对其进行了优化(例如通过实现 FooBitAndRaw)。但是,代码变得不那么可读了,所以现在我想在不影响性能的情况下返回一些可读性。我打算将一些源数据和操作封装在结构中。目前,使用优化位操作的代码必须在每行代码中进行注释以描述意图,因为从需要 6 个以上参数的函数调用中看不清楚。
  • 这只是一个例子。我还为逻辑或异或,某些类型的比较等实现了类似的功能。这就是我实现 FooBitAndExpression 功能的原因。下一步是将其更改为模板以支持各种输入表达式。
  • 我在 Windows 10 上使用 Visual Studio C++ 2017。

解决方法

暂无找到可以解决该程序问题的有效方法,小编努力寻找整理中!

如果你已经找到好的解决方法,欢迎将解决方案带上本链接一起发送给小编。

小编邮箱:dio#foxmail.com (将#修改为@)

相关问答

错误1:Request method ‘DELETE‘ not supported 错误还原:...
错误1:启动docker镜像时报错:Error response from daemon:...
错误1:private field ‘xxx‘ is never assigned 按Alt...
报错如下,通过源不能下载,最后警告pip需升级版本 Requirem...