per_process_gpu_memory_fraction 没有结果?

问题描述

我正在我的 jetson xavier nx 上使用 tensorflow 1.14 运行一个基本的对象检测模型。我正在尝试优化此模型上的内存使用情况。我在 cpu 和 gpu 之间有 8 GB 共享内存。在我做任何优化之前,裸模型在 ~6gb 内存上运行。当我使用 per_process_gpu_memory_fraction=0.2 仅将 %20 内存用于 gpu 时,顺便说一句,我不确定它在 jetson 的共享内存上如何工作,它绝对不会限制我的所有内存或使 gpu 仅使用总内存的 %20很奇怪,对我来说甚至荒谬的是,当我使用该参数时,我的总内存消耗下降到 ~4gb,没有明显的后果。我原以为它会增加模型的推理时间,但事实并非如此,它相对相似。

在这对我来说很棒,但我想知道如何节省 2GB 的内存而不会有任何后果?幕后发生了什么?

解决方法

暂无找到可以解决该程序问题的有效方法,小编努力寻找整理中!

如果你已经找到好的解决方法,欢迎将解决方案带上本链接一起发送给小编。

小编邮箱:dio#foxmail.com (将#修改为@)