相当于 OpenCL 中的 cudaSetDevice?
Equivalent of cudaSetDevice in OpenCL?
我有一个为 1 个 gpu 编写的函数,它 运行s 使用一组 args 持续 10 秒,我有一个很长的 args 列表要处理。我想同时使用我的 AMD gpus,所以我有一些启动 2 个线程的包装器代码,并且 运行s 我的函数在线程 0 上带有参数 gpu_idx 0,在线程 1 上带有参数 gpu_idx 1.
我有另一台机器的 cuda 版本,我只是 运行 checkCudaErrors(cudaSetDevice((unsigned int)device_id));
以获得我想要的行为。
我尝试使用 openCL 执行以下操作:
void createDevice(int device_idx)
{
cl_device_id *devices;
ret = clGetPlatformIDs(1, &platform_id, &ret_num_platforms);
HANDLE_CLERROR_G(ret);
ret = clGetDeviceIDs( platform_id, CL_DEVICE_TYPE_ALL, 0, NULL, &ret_num_devices);
HANDLE_CLERROR_G(ret);
devices = (cl_device_id*)malloc(ret_num_devices*sizeof(cl_device_id));
ret = clGetDeviceIDs( platform_id, CL_DEVICE_TYPE_ALL, ret_num_devices, devices, &ret_num_devices);
HANDLE_CLERROR_G(ret);
if (device_idx >= ret_num_devices)
{
fprintf(stderr, "Found %i devices but asked for device at index %i\n", ret_num_devices, device_idx);
exit(1);
}
device_id = devices[device_idx];
// usleep(((unsigned int)(500000*(1-device_idx)))); // without this line multithreaded 2 gpu execution does not work.
context = clCreateContext( NULL, 1, &device_id, NULL, NULL, &ret);
HANDLE_CLERROR_G(ret);
}
context 是我的 *c 文件中的一个静态变量,我稍后在创建内核时会再次使用它。
当我 运行 仅使用 device_idx 0,或仅使用 device_idx 1 时,此代码有效,即使我手动在两个终端 windows 运行 可执行文件与 device_idx 0 和 device_idx 1.
“同时”
但是,线程“过于”并发导致此代码无法工作。事实上,根据睡眠量(上面评论),我得到不同的行为(有时两个线程都在 gpu 0 上工作,有时两个线程都在 gpu 1 上工作,有时线程在两个 gpu 上平衡)。如果我睡得太少,我会得到:CL_INVALID_CONTEXT
,如果我根本不睡觉,我会得到 CL_INVALID_KERNEL_NAME
.
就像我说的那样,当 运行 仅在 gpu 0 或 gpu 1 上运行时,我没有收到任何错误,只有在生成调用此代码的多个线程时(作为带有 extern C 函数的 *so)来自 go) 同时与线程 0 中的 device_idx 0 和线程 1 中的 device_idx 1.
我该如何解决我的问题?我认为我有一个可在 1 个 gpu 上运行的可执行文件,我为此指定了哪个 gpu,并且应该遵守该规范。
当两个设备都需要使用时,一个与另一个完全分开,选择设备的正确方法是什么?
哎呀!我没有将 device_id 保存到静态变量中,而是开始从上面的代码返回并将其用作局部变量,一切都按预期工作,现在是线程安全的。
我有一个为 1 个 gpu 编写的函数,它 运行s 使用一组 args 持续 10 秒,我有一个很长的 args 列表要处理。我想同时使用我的 AMD gpus,所以我有一些启动 2 个线程的包装器代码,并且 运行s 我的函数在线程 0 上带有参数 gpu_idx 0,在线程 1 上带有参数 gpu_idx 1.
我有另一台机器的 cuda 版本,我只是 运行 checkCudaErrors(cudaSetDevice((unsigned int)device_id));
以获得我想要的行为。
我尝试使用 openCL 执行以下操作:
void createDevice(int device_idx)
{
cl_device_id *devices;
ret = clGetPlatformIDs(1, &platform_id, &ret_num_platforms);
HANDLE_CLERROR_G(ret);
ret = clGetDeviceIDs( platform_id, CL_DEVICE_TYPE_ALL, 0, NULL, &ret_num_devices);
HANDLE_CLERROR_G(ret);
devices = (cl_device_id*)malloc(ret_num_devices*sizeof(cl_device_id));
ret = clGetDeviceIDs( platform_id, CL_DEVICE_TYPE_ALL, ret_num_devices, devices, &ret_num_devices);
HANDLE_CLERROR_G(ret);
if (device_idx >= ret_num_devices)
{
fprintf(stderr, "Found %i devices but asked for device at index %i\n", ret_num_devices, device_idx);
exit(1);
}
device_id = devices[device_idx];
// usleep(((unsigned int)(500000*(1-device_idx)))); // without this line multithreaded 2 gpu execution does not work.
context = clCreateContext( NULL, 1, &device_id, NULL, NULL, &ret);
HANDLE_CLERROR_G(ret);
}
context 是我的 *c 文件中的一个静态变量,我稍后在创建内核时会再次使用它。
当我 运行 仅使用 device_idx 0,或仅使用 device_idx 1 时,此代码有效,即使我手动在两个终端 windows 运行 可执行文件与 device_idx 0 和 device_idx 1.
“同时”但是,线程“过于”并发导致此代码无法工作。事实上,根据睡眠量(上面评论),我得到不同的行为(有时两个线程都在 gpu 0 上工作,有时两个线程都在 gpu 1 上工作,有时线程在两个 gpu 上平衡)。如果我睡得太少,我会得到:CL_INVALID_CONTEXT
,如果我根本不睡觉,我会得到 CL_INVALID_KERNEL_NAME
.
就像我说的那样,当 运行 仅在 gpu 0 或 gpu 1 上运行时,我没有收到任何错误,只有在生成调用此代码的多个线程时(作为带有 extern C 函数的 *so)来自 go) 同时与线程 0 中的 device_idx 0 和线程 1 中的 device_idx 1.
我该如何解决我的问题?我认为我有一个可在 1 个 gpu 上运行的可执行文件,我为此指定了哪个 gpu,并且应该遵守该规范。
当两个设备都需要使用时,一个与另一个完全分开,选择设备的正确方法是什么?
哎呀!我没有将 device_id 保存到静态变量中,而是开始从上面的代码返回并将其用作局部变量,一切都按预期工作,现在是线程安全的。