OpenMP 运行时看不到我的 GPU 设备

问题描述

我正在尝试将一些 OpenMP 卸载到与 GTX 1060 显卡一起使用的本地机器上的 GPU。我所有的 CUDA 和 Cublas 示例都运行良好。但是，当我尝试运行一些 OpenMP 卸载时，它根本不起作用。为了获得 OpenMP 5.0 支持，我编译了 GCC 10.2.0 工具链。经过一些调试，我发现 OpenMP 运行时没有看到任何设备。例如。此代码显示零：

#include <omp.h>
#include <stdio.h>

int main() {
    printf("%d\n",omp_get_num_devices());
    return 0;
}

但是，Nvidia 工具链已启动并正在运行：

$ nvidia-smi 
Sun Feb 21 23:06:40 2021       
+-----------------------------------------------------------------------------+
| NVIDIA-SMI 450.51.06    Driver Version: 450.51.06    CUDA Version: 11.0     |
|-------------------------------+----------------------+----------------------+
| GPU  Name        Persistence-M| Bus-Id        disp.A | Volatile Uncorr. ECC |
| Fan  Temp  Perf  Pwr:Usage/Cap|         Memory-Usage | GPU-Util  Compute M. |
|                               |                      |               MIG M. |
|===============================+======================+======================|
|   0  GeForce GTX 106...  Off  | 00000000:1D:00.0 Off |                  N/A |
|  0%   37C    P8    12W / 200W |    584MiB /  6075MiB |      0%      Default |
|                               |                      |                  N/A |
+-------------------------------+----------------------+----------------------+

那我错过了什么？ OpenMP 运行时如何找到设备？

编辑：

我正在附加有关我的编译器的信息：

$ gcc -v
Using built-in specs.
COLLECT_GCC=gcc
COLLECT_LTO_WRAPPER=/opt/gcc/10.2.0/libexec/gcc/x86_64-pc-linux-gnu/10.2.0/lto-wrapper
Target: x86_64-pc-linux-gnu
Configured with: ./configure --prefix=/opt/gcc/10.2.0/
Thread model: posix
Supported LTO compression algorithms: zlib
gcc version 10.2.0 (GCC)

代码是用以下命令编译的：

gcc -fopenmp simple.c

解决方法

要编译具有卸载支持的 OpenMP 代码，您需要告诉 GCC 目标平台。这是通过 -foffload=<platform> 命令行选项实现的。对于 NVIDIA 设备，平台为 nvptx-none，即您必须编译：

gcc -fopenmp -foffload=nvidia-ptx simple.c

尽管 GCC 支持卸载到多个目标平台，但由于相关的依赖关系，并非 GCC 的每个发行版都启用了它们。例如，在我的 Arch Linux 上，GCC 根本没有使用卸载支持进行编译。如果您在执行上一条命令时收到错误消息，则您的 GCC 未配置为支持 NVIDIA。 gcc -v 向您展示了编译器的配置方式等。在配置选项中查找 --enable-offload-targets=nvptx-none。

GCC wiki 上的 Offloading page 提供了有关支持的卸载目标以及如何构建它们的更多详细信息。