哪个OpenACC指令将告诉编译器仅在设备上执行语句?

问题描述

我正在使用Fortran(使用Nvidia的一系列工具)学习OpenACC,并通过将我的共轭梯度(CG)求解器的实现移植到GPU来实现。

很显然,我正在尝试使用以下命令在设备(GPU内存)上保留尽可能多的数据:

27   ! Copy matrix (a_sparse),vectors (ax - b) and scalars (alpha - pap) to GPU                                     
28   !$acc enter data copyin(a_sparse)                                             
29   !$acc enter data copyin(a_sparse % row(:))                                    
30   !$acc enter data copyin(a_sparse % col(:))                                    
31   !$acc enter data copyin(a_sparse % val(:))                                    
32   !$acc enter data copyin(ax(:),ap(:),x(:),p(:),r(:),b(:))                                   
33   !$acc enter data copyin(alpha,beta,rho,rho_old,pap)                       

从那时起,构成CG求解器的求解算法的所有操作都通过present子句完成。对于 vector 操作,摘录如下:

49   !$acc  parallel loop      &                                                   
50   !$acc& present(r,b,ax)                                                      
51   do i = 1,n                                                                   
52     r(i) = b(i) - ax(i)                                                         
53   end do                                                                        

我对标量做同样的事情,例如:

87     !$acc kernels present(alpha,pap)                                      
88     alpha = rho / pap                                                           
89     !$acc end kernels                                                           

所有标量变量都在设备上。在第87-89行中,我试图仅在设备上执行命令alpha = rho / pap,以避免任何数据从主机传输到主机,但是nsight-sys profiler向我显示了以下内容:

enter image description here

令我惊讶的是,似乎在第87行的数据结构(红色“输入数据”方块)和之后(红色“退出数据”方块)计算结构(蓝色“ Cg.f90:87”方块)之间都有数据传输)。

谁能告诉我发生了什么事?设备上是否执行了第87-89行?此外,为什么对于这些​​“输入数据”和“退出数据”字段没有相应的CUDA命令?如果是这样,为什么主机和设备之间似乎要进行数据传输?如果不是,是否存在一个OpenACC命令,该命令将指导编译器仅在设备上执行编程行(不一定是循环)?

我注意到数组操作也是如此,例如我在上面的第49-53行中写的那样,那里也有一些数据传输,但是我可以将其归因于变量n,该变量应该被传递到设备。

解决方法

可能有几件事。 Fortran指定在分配给左侧语法之前,必须对数组语法操作的右侧进行完全评估,因此编译器可能会分配一个临时数组来保存评估结果。尽管通常编译器可以优化对临时存储的需求,所以它可能是也可能不是问题。尝试使它成为一个显式循环,而不要使用数组语法来查看它是否可以解决问题。

第二种可能性是,编译器需要复制数组描述符,因为它无法确定它们是否已更改。不过,我希望看到一些数据移动,而不仅仅是进入/退出区域。

第三种可能性是,这只是当前的检查本身,它仍然会调用enter / exit运行时调用。该调用不复制数据,而是查找设备指针,该设备指针随后传递给内核调用,并且引用计数器递增/递减。

相关问答

错误1:Request method ‘DELETE‘ not supported 错误还原:...
错误1:启动docker镜像时报错:Error response from daemon:...
错误1:private field ‘xxx‘ is never assigned 按Alt...
报错如下,通过源不能下载,最后警告pip需升级版本 Requirem...