获取 OpenACC 空闲（或全部）设备内存

Question

我有一个 GPU 代码，它在每次迭代时决定迭代是否可以卸载到加速器。 OpenACC 成为最佳工具：

void module(struct my_aos *aos, int n_aos){

    int criteria = /* check either that n_aos is large enough and that aos[:n_aos] will fit the GPU */

    #pragma acc data copy(aos[0:n_aos]) if(criteria)
    #pragma acc parallel loop if(criteria)
    for(int i = 0; i < n_aos; i++){
        /* work on my_aos*/
    }

}

如何提前决定 aos[0:n_aos] 是否适合 GPU 显存？有openacc_get_free_device_memory()类的函数吗？

否则，如果出现内存不足故障，我如何启动设备复制并返回到 CPU-仅运行？

Answer 1

参见 OpenACC 标准的“3.2.6 acc get 属性”部分。特别是“acc_property_free_memory”属性.

https://www.openacc.org/sites/default/files/inline-images/Specification/OpenACC-3.1-final.pdf

获取 OpenACC 空闲（或全部）设备内存

Obtain OpenACC free (or total) device memory

nvcc

pgi

openacc

pgi-accelerator