如何在 SYCL/DPC++ 中指定要在 运行 程序时使用的特定 GPU 设备？

Question

我正在尝试使用 SYCL/DPC++ 编写代码。我的设备上有两个 GPU。如何指定我的代码需要在特定 GPU 设备上 运行？ 当我尝试使用“gpu-selector”运行 我的代码时，只有一个默认的用于 运行。如何使用其他 GPU 设备来 运行 我的代码？

这是我的代码。

#include <iostream>
#include <CL/sycl.hpp>
using namespace sycl;
using namespace std;
int main() {
queue my_gpu( gpu_selector{} );
cout << "My GPU Device: " <<
my_gpu.get_device().get_info<info::device::name>() << "\n";
return 0;
}

有人可以帮我解决如何 运行 我的代码在特定 GPU 设备上的问题吗？

提前致谢！

Answer 1

是的，可以 select 特定的 GPU 设备。请找到以下代码以从特定 GPU 设备获取结果。

class my_selector : public device_selector {
public:
int operator()(const device &dev) const override {
if (
dev.get_info<info::device::name>().find("gpu_vendor_name")
!= std::string::npos &&
dev.get_info<info::device::vendor>().find("gpu_device_name")
!= std::string::npos)
return 1;
}
return -1;
}
};

在此代码中，我们可以根据您的要求在 ("gpu_vendor_name") 中指定 GPU 供应商的名称。如果我们有两个具有相同供应商的 GPU 设备，那么我们还可以指定我们想要 运行 在 GPU 设备中编码的一个 ("gpu_device_name")。

最高 return 值将 selected 为 运行 我们想要的 GPU 设备上的代码。

Answer 2

Varsha 的

是一个很好的通用解决方案。

但是由于你的问题是用 DPC++ 标记的，我认为值得一提的是另一种方法：

您可以设置SYCL_DEVICE_FILTER环境变量来控制设备检测结果。例如，SYCL_DEVICE_FILTER=opencl:gpu:1 将使应用程序只能看到 OpenCL 后端中的第二个 GPU。它甚至会隐藏主机设备。

这是 DPC++ 特定的，不适用于其他实现。但是，例如，对于 hipSYCL，您可以使用 CUDA_VISIBLE_DEVICES 或 HIP_VISIBLE_DEVICES 来获得类似的结果。