如何确定 Deep Java Library (DJL) 中可用的 GPU 显存？
How to determine the available GPU memory in Deep Java Library (DJL)?
有没有办法在DJL中查询GPU上的最大总内存？例如。 NVIDIA 1080ti 应该 return 值为 11GB。
我正在使用 mxnet 引擎，但与引擎无关的解决方案当然更可取。
是的，DJL 在 https://github.com/awslabs/djl/blob/d2c47d0f2d663b8a5794c21d971420a99f2d47cd/api/src/main/java/ai/djl/util/cuda/CudaUtils.java 中已通过 JNA 直接与 CUDA API 集成。所以它是与引擎无关的解决方案。
MemoryUsage mem = CudaUtils.getGpuMemory(device);
mem.getMax(); // it should return 11GB
有没有办法在DJL中查询GPU上的最大总内存？例如。 NVIDIA 1080ti 应该 return 值为 11GB。
我正在使用 mxnet 引擎，但与引擎无关的解决方案当然更可取。
是的，DJL 在 https://github.com/awslabs/djl/blob/d2c47d0f2d663b8a5794c21d971420a99f2d47cd/api/src/main/java/ai/djl/util/cuda/CudaUtils.java 中已通过 JNA 直接与 CUDA API 集成。所以它是与引擎无关的解决方案。
MemoryUsage mem = CudaUtils.getGpuMemory(device);
mem.getMax(); // it should return 11GB