pycuda

Question

我有一个非常简单的函数，我传入一个字符数组并进行简单的字符匹配。我想 return 一个 1/0 数组，具体取决于匹配的字符。

问题：虽然我可以看到数据结构中已经设置了值（因为我在赋值后在函数中打印了它），但当从设备复制回 int 数组时，值并不符合预期。

我确定这很愚蠢。

import pycuda.driver as cuda
import pycuda.autoinit
from pycuda.compiler import SourceModule
import numpy as np

mod = SourceModule("""
__global__ void test(const char *q, const int chrSize, int *d, const int intSize) {
    int v = 0;
    if( q[threadIdx.x * chrSize] == 'a' ||  q[threadIdx.x * chrSize] == 'c' ) {
        v = 1;
    }
    d[threadIdx.x * intSize] = v;
    printf("x=%d, y=%d, val=%c ret=%d\n", threadIdx.x, threadIdx.y, q[threadIdx.x * chrSize], d[threadIdx.x * intSize]);
}
""")
func = mod.get_function("test")

# input data
a = np.asarray(['a','b','c','d'], dtype=np.str_)
# allocate/copy to device
a_gpu = cuda.mem_alloc(a.nbytes)
cuda.memcpy_htod(a_gpu, a)

# destination array
d = np.zeros((4), dtype=np.int16)
# allocate/copy to device
d_gpu = cuda.mem_alloc(d.nbytes)
cuda.memcpy_htod(d_gpu, d)

# run the function
func(a_gpu, np.int8(a.dtype.itemsize), d_gpu, np.int8(d.dtype.itemsize), block=(4,1,1))

# copy data back and priint
cuda.memcpy_dtoh(d, d_gpu)
print(d)

输出：

x=0, y=0, val=a ret=1
x=1, y=0, val=b ret=0
x=2, y=0, val=c ret=1
x=3, y=0, val=d ret=0
[1 0 0 0]

预期输出：

x=0, y=0, val=a ret=1
x=1, y=0, val=b ret=0
x=2, y=0, val=c ret=1
x=3, y=0, val=d ret=0
[1 0 1 0]

Answer 1

你有两个主要问题，都与memcpy_dtoh无关：

您已将 d 和 d_gpu 声明为 dtype np.int16，但内核需要 C++ int，导致类型不匹配。您应该使用 np.int32 类型来定义数组。
内核中 d 的索引不正确。如果您已向编译器声明数组为 32 位类型，则将数组索引为 d[threadIdx.x] 将自动包含该类型的正确对齐方式。不需要向内核传递和使用 intSize 来索引 d，这样做是不正确的。

如果您解决了这两个问题，我怀疑代码会按预期运行。

pycuda - memcpy_dtoh，没有提供似乎已设置的内容

pycuda - memcpy_dtoh, not giving what appears to have been set

numpy

cuda