通过绕过 GUI 节省 GPU 内存
Saving GPU memory by bypassing GUI
我有一本带有 2 Gb Nvidia GPU 的 mac book pro。我正在尝试利用我所有的 GPU 内存进行计算(python 代码)。如果我绕过 GUI 界面并仅通过命令行访问我的 machine,我可以节省多少。我想知道这样的事情是否会为我节省大量的 GPU 内存?
差异可能不会很大。
仅托管控制台显示的 GPU 通常仅保留总内存大小中的 ~5-25 兆字节内存。另一方面,托管 GUI 显示(使用 NVIDIA GPU 驱动程序)的 GPU 通常可能保留约 50 MB 或更多空间供显示使用(这可能会因所连接的显示器的大小而有所不同)。
因此,通过 运行 nvidia-smi
并使用 GUI [=31] 查看 GPU 的总内存和可用内存之间的差异,您可能可以获得很好的 "estimate" 节省=].例如,如果是 62MB,那么您可以通过关闭 GUI 来 "recover" 大约 40-50MB,例如 linux 切换到运行级别 3。
我只是在 linux 笔记本电脑上 运行 这个实验,配备 Quadro3000M,恰好有 2GB 内存。在 X 显示器启动并加载 NVIDIA GPU 驱动程序的情况下,"used" 内存为 2047MB 中的 62MB(由 nvidia-smi
报告)。
当我切换到运行级别 3(X 未启动)时,内存使用量下降到大约 4MB。这可能意味着 CUDA 有大约 50MB 的额外可用空间。
关闭 GUI 的一个附带好处可能是消除 the display watchdog。
我有一本带有 2 Gb Nvidia GPU 的 mac book pro。我正在尝试利用我所有的 GPU 内存进行计算(python 代码)。如果我绕过 GUI 界面并仅通过命令行访问我的 machine,我可以节省多少。我想知道这样的事情是否会为我节省大量的 GPU 内存?
差异可能不会很大。
仅托管控制台显示的 GPU 通常仅保留总内存大小中的 ~5-25 兆字节内存。另一方面,托管 GUI 显示(使用 NVIDIA GPU 驱动程序)的 GPU 通常可能保留约 50 MB 或更多空间供显示使用(这可能会因所连接的显示器的大小而有所不同)。
因此,通过 运行 nvidia-smi
并使用 GUI [=31] 查看 GPU 的总内存和可用内存之间的差异,您可能可以获得很好的 "estimate" 节省=].例如,如果是 62MB,那么您可以通过关闭 GUI 来 "recover" 大约 40-50MB,例如 linux 切换到运行级别 3。
我只是在 linux 笔记本电脑上 运行 这个实验,配备 Quadro3000M,恰好有 2GB 内存。在 X 显示器启动并加载 NVIDIA GPU 驱动程序的情况下,"used" 内存为 2047MB 中的 62MB(由 nvidia-smi
报告)。
当我切换到运行级别 3(X 未启动)时,内存使用量下降到大约 4MB。这可能意味着 CUDA 有大约 50MB 的额外可用空间。
关闭 GUI 的一个附带好处可能是消除 the display watchdog。