在 numba 中使用多线程

Question

我有一个函数可以在多边形测试中执行一个点。它需要两个 2D numpy 数组作为输入（一系列点和一个多边形）。函数 return 是一个布尔值作为输出（如果点位于多边形内则为 True，否则为 False）。代码借自。下面是一个例子：

from numba import jit
from numba.pycc import CC
cc = CC('nbspatial')
import numpy as np

@cc.export('array_tracing2', 'b1[:](f8[:,:], f8[:,:])')
@jit(nopython=True, nogil=True)
def array_tracing2(xy, poly):
    D = np.empty(len(xy), dtype=numba.boolean)
    n = len(poly)
    for i in range(1, len(D) - 1):
        inside = False
        p2x = 0.0
        p2y = 0.0
        xints = 0.0
        p1x,p1y = poly[0]
        x = xy[i][0]
        y = xy[i][1]
        for i in range(n+1):
            p2x,p2y = poly[i % n]
            if y > min(p1y,p2y):
                if y <= max(p1y,p2y):
                    if x <= max(p1x,p2x):
                        if p1y != p2y:
                            xints = (y-p1y)*(p2x-p1x)/(p2y-p1y)+p1x
                        if p1x == p2x or x <= xints:
                            inside = not inside
            p1x,p1y = p2x,p2y
        D[i] = inside
    return D


if __name__ == "__main__":
    cc.compile()

上面的代码可以由运行 python numba_src.py 编译并测试：

import numpy as np
# regular polygon for testing
lenpoly = 10000
polygon = np.array([[np.sin(x)+0.5,np.cos(x)+0.5] for x in np.linspace(0,2*np.pi,lenpoly)[:-1]])

# random points set of points to test 
N = 100000
# making a list instead of a generator to help debug
pp = np.array([np.random.random(N), np.random.random(N)]).reshape(N,2)


import nbspatial
nbspatial.array_tracing2(pp, polygon)

我的尝试是将上面的代码并行化，以便利用所有可用的 CPUs。

我尝试按照 numba official documentation 中的示例使用 @njit

import numba

@njit(parallel=True)
def array_tracing3(xy, poly):
    D = np.empty(len(xy), dtype=numba.boolean)
    n = len(poly)
    for i in range(1, len(D) - 1):
        inside = False
        p2x = 0.0
        p2y = 0.0
        xints = 0.0
        p1x,p1y = poly[0]
        x = xy[i][0]
        y = xy[i][1]
        for i in range(n+1):
            p2x,p2y = poly[i % n]
            if y > min(p1y,p2y):
                if y <= max(p1y,p2y):
                    if x <= max(p1x,p2x):
                        if p1y != p2y:
                            xints = (y-p1y)*(p2x-p1x)/(p2y-p1y)+p1x
                        if p1x == p2x or x <= xints:
                            inside = not inside
            p1x,p1y = p2x,p2y
        D[i] = inside
    return D

上面的代码在预编译串行版本的 55'' 与 1' 33'' 中针对 N=1000000 完成。系统监视器在 100% 时仅显示一个 CPU 运行。

我怎样才能尝试利用整个 CPU 可用，并且 return 结果在一个布尔数组中？

Answer 1

Numba 的 parallel=True 仅对某些函数启用自动并行性，而不是对所有循环。您应该将其中一个 range() 表达式替换为 numba.prange 以启用多核计算。

参见：https://numba.pydata.org/numba-doc/dev/user/parallel.html

在 numba 中使用多线程

use multithreading in numba

python

multithreading

multiprocessing

numba