NVIDIA Visual Profiler：内核边界数据不足

问题描述

我试图了解为什么我的CUDA内核的性能相对较低，我希望可以使用NVIDIA Profiler获得一些答案。

我的CUDA程序是大型应用程序的“精简版”，隔离并使用了相关内核。该程序会多次启动内核，以衡量其多次启动的执行时间。定时循环后，将发出从设备到主机的内存副本，以确保所有内核调用均已完成。该程序是用CUDA C ++编写的。

这是我构建程序的方式：

main.o: main.cu
    nvcc -res-usage -arch=sm_61  -c $<

main: main.o stopwatch.o
    g++ -o $@ $^ -lcudart -L/usr/local/cuda-11.0/lib64

该测试是在装有Intel CPU和NVIDIA GeForce GTX 1070的PC上完成的。该操作系统是Ubuntu 20.04，具有来自NVIDIA网站的新安装的CUDA 11和驱动程序450.51.06：

nvidia-smi:

+-----------------------------------------------------------------------------+
| NVIDIA-SMI 450.51.06    Driver Version: 450.51.06    CUDA Version: 11.0     |
|-------------------------------+----------------------+----------------------+
| GPU  Name        Persistence-M| Bus-Id        Disp.A | Volatile Uncorr. ECC |
| Fan  Temp  Perf  Pwr:Usage/Cap|         Memory-Usage | GPU-Util  Compute M. |
|                               |                      |               MIG M. |
|===============================+======================+======================|
|   0  GeForce GTX 1070    On   | 00000000:01:00.0  On |                  N/A |
| 28%   38C    P8     8W / 151W |    317MiB /  8111MiB |      3%      Default |
|                               |                      |                  N/A |
+-------------------------------+----------------------+----------------------+

以下命令用于生成概要文件：

sudo /usr/local/cuda-11.0/bin/nvprof -o main.nvvp --profile-from-start 关闭./main

我也从一开始就尝试进行性能分析，但这在下面也导致了同样的问题。

以下命令用于启动可视分析器：

nvvp -vm / usr / lib / jvm / java-8-openjdk-amd64 / jre / bin / java main.nvvp

Visual profiler指导我完成几个步骤，当涉及到“ Perform Kernel Analysis”时，程序将告诉我：

内核边界数据不足。计算所需的数据， 内存，无法收集内核的延迟范围

GPU上没有这种详细的配置文件吗？ （也许是因为它是玩家卡）

解决方法

nvprof默认情况下将仅在生成的输出文件中捕获少量信息。将输出文件导入到nvvp中时，这足以生成应用程序时间轴，但没有足够的信息来启用nvvp的所有不同功能。

根据documentation，建议将--analysis-metrics的{​​{1}}开关用于此类使用。

在探查器文档中，

nvprof被引用了大约6个不同的时间，因此您可能只想对其进行搜索以查看所有参考或使用建议。

请注意，--analysis-metrics可以捕获大量信息。对于大型，复杂的应用程序，可能会大大增加分析器花费在处理数据上的时间。因此，如果您明确知道要查找的数据，则可能希望指定特定的指标。但是，如果没有--analysis-metrics，则在导入文件时，各种--analysis-metrics分析工具可能无法正常工作。