用于简单数组更新的 Jax vmap

Question

我是 Jax 的新手，我正在努力转换其他人的代码，这些代码使用了 numba“fastmath”功能并依赖于许多嵌套的 for 循环，而没有太大的性能损失。我正在尝试使用 Jax 的 vmap 函数重新创建相同的行为。但是，我目前在一些基本问题上苦苦挣扎。这是我尝试使用 vmap 进行矢量化的简单示例：

import jax.numpy as jnp
from jax import vmap
import jax.ops

a = jnp.arange(20).reshape((4, 5))
b = jnp.arange(5)
c = jnp.arange(4)
d = jnp.zeros(20)
e = jnp.zeros((4, 5))

for i in range(a.shape[0]):
    for j in range(a.shape[1]):
        a = jax.ops.index_add(a, jax.ops.index[i, j], b[j] + c[i])
        d = jax.ops.index_update(d, jax.ops.index[i*a.shape[1] + j], b[j] * c[i])
        e = jax.ops.index_update(e, jax.ops.index[i, j], 2*b[j])

我如何使用 vmap 重写这样的代码？虽然这段代码相对容易手动矢量化，但我希望更好地理解 vmap 的工作原理，并希望任何答案都能对我有所帮助。这些文档现在似乎并没有真正帮助我。非常感谢您提供的任何帮助。

Answer 1

以下是使用 vmap:

可以实现大致相同计算的方法

from jax import vmap, partial

@partial(vmap, in_axes=(0, None, 0))
@partial(vmap, in_axes=(0, 0, None))
def f(a, b, c):
  return a + b + c, b * c, 2 * b

a, d, e = f(a, b, c)
d = d.ravel()

用于简单数组更新的 Jax vmap

Jax vmap for simple array update

python

jax