OpenCL向量显式转换为标量序列

问题描述

我已经在OpenCl程序中工作了很长时间,并且陷入了一个有趣的话题。重要的是要说,尽管是一个发烧友,但我对编码/编程没有很深的了解。

codexl提出的程序瓶颈是VGPR寄存器的大量使用。因此,我正在重新编写代码以根据标量操作尽可能地运行:

CodeXL statistics printout

我已经成功地将几行代码从基于矢量的操作转换为标量的代码。例如:

**((uint8 *)VectorArray)[0] = ((__global uint8 *)InputData)[0];**

标量变为:

 s0 = ((__global uint *)InputData)[0];  
 s1 = ((__global uint *)InputData)[1];  
 s2 = ((__global uint *)InputData)[2];  
 s3 = ((__global uint *)InputData)[3];  
 s4 = ((__global uint *)InputData)[4];  
 s5 = ((__global uint *)InputData)[5];  
 s6 = ((__global uint *)InputData)[6];  
 s7 = ((__global uint *)InputData)[7];

s0-s7还用于许多操作中。这种工作无缝进行,项目的性能仅提高了一个等级。我知道我可以直接访问VectorArray.s0,但“ s0”是具有多个读/写访问权限的局部变量。

最后,我遇到的问题是:

((uint4*)VectorArray)[4] = ((__global uint4*)InputData)[4];`

考虑到上述相同的逻辑,标量加载操作将为:

    s4 = ((__global uint *)InputData)[4];
    s5 = ((__global uint *)InputData)[5]; 
    s6 = ((__global uint *)InputData)[6];  
    s7 = ((__global uint *)InputData)[7]; 

然而,这不幸地失败了。我尝试了超过40种组合,但似乎缺少了一点。 Radeon GPU分析仪指出,ISA是 s_load_dwordx4 操作,其操作数为 s [4:7],s [6:7],0x40 。我假设0x40是64位的参考偏移量,因此位置应在相同范围内偏移。但是,我已经做过的试验之一就是考虑s5 = ((__global uint *)InputData)[4];-这是失败的原因之一。

ISA文档非常稀少,我几乎处于黑暗之中。

有任何提示评论吗?非常感谢。

谢谢。 埃德。

解决方法

据我所记得,AMD GPU中的“标量”寄存器用于线程之间共享的数据。因此,通常是诸如循环计数器之类的事情,编译器可以保证这些值在跨线程的锁步中是相同的。

如果看到太多的向量寄存器压力,通常意味着您使用了过多的private“内存”。例如,您有声明为private的数组,或者您的变量寿命很长,其“内存”(向量寄存器)无法重用于其他变量。

我建议阅读AMD的优化指南;据我所记得,它详细介绍了向量寄存器和标量寄存器之间的区别以及它们的用途。正如您所发现的,您建议的代码转换类型通常不是有效。您无需解释代码的用途或所有这些向量寄存器的用途,但是根据使用情况,您可能需要考虑将更大,寿命更长的数组从private移到local记忆。 (请记住,这是在工作项之间共享的)