Softmax 矩阵到 0/1（One Hot）编码矩阵？

Question

假设我有以下张量 t 作为 softmax 函数的输出：

t = tf.constant(value=[[0.2,0.8], [0.6, 0.4]])
>> [ 0.2,  0.8]
   [ 0.6,  0.4]

现在我想将此矩阵 t 转换为类似于 OneHot 编码矩阵的矩阵：

Y.eval()
>> [   0,    1]
   [   1,    0]

我熟悉 c = tf.argmax(t)，它会给我每行 t 的索引应该是 1。但是从 c 到 Y 似乎相当难的。

我已经尝试过使用 c 将 t 转换为 tf.SparseTensor，然后使用 tf.sparse_tensor_to_dense() 获得 Y。但是这种转换涉及相当多的步骤，而且对于这项任务来说似乎有些过分了——我什至还没有完全完成它，但我相信它可以工作。

是否还有其他 appropriate/easy 方法可以进行我所缺少的这种转换。

我需要这个的原因是因为我在 Python 中有一个自定义的 OneHot 编码器，我可以在那里输入 Y。 tf.one_hot() 不够广泛 - 不允许自定义编码。

相关问题：

Answer 1

为什么不将 tf.argmax() 与 tf.one_hot() 结合起来。

Y = tf.one_hot(tf.argmax(t, dimension = 1), depth = 2)

Answer 2

我比较了在 TensorFlow 2.1.0 中使用输入形状 (20、256、256、4) 进行转换的五种方法，以及在 Quadro RTX 8000 中每次转换的平均时间如下。

one_hot-argmax（0.802 微秒）：

    y = tf.one_hot(tf.argmax(x, axis=3), x.shape[3])

cast-reduce_max (0.719 us):

y = tf.cast(tf.equal(x, tf.reduce_max(x, axis=3, keepdims=True)),
            tf.float32)

cast-tile-reduce_max（0.862 微秒）

y = tf.cast(tf.equal(x, tf.tile(tf.reduce_max(x, axis=3, keepdims=True),
                                [1, 1, 1, x.shape[3]])),
            tf.float32)

where-reduce_max (1.850 us):

y = tf.where(tf.equal(x, tf.reduce_max(x, axis=3, keepdims=True)),
             tf.constant(1., shape=x.shape),
             tf.constant(0., shape=x.shape))

where-tile-reduce_max (1.691 us):

y = tf.where(tf.equal(x, tf.tile(tf.reduce_max(x, axis=3, keepdims=True),
                                 [1, 1, 1, x.shape[3]])),
             tf.constant(1., shape=x.shape),
             tf.constant(0., shape=x.shape))

用于生成这些结果的代码如下：

import time
import tensorflow as tf

shape = (20, 256, 256, 4)
N = 1000

def one_hot():
    for i in range(N):
        x = tf.random.normal(shape)
        x = tf.nn.softmax(tf.random.normal(shape), axis=3)
        x = tf.one_hot(tf.argmax(x, axis=3), x.shape[3])
    return None
    
def cast_reduce_max():
    for i in range(N):
        x = tf.random.normal(shape)
        x = tf.nn.softmax(tf.random.normal(shape), axis=3)
        x = tf.cast(tf.equal(x, tf.reduce_max(x, axis=3, keepdims=True)),
                    tf.float32)
    return None

def cast_tile():
    for i in range(N):
        x = tf.random.normal(shape)
        x = tf.nn.softmax(tf.random.normal(shape), axis=3)
        x = tf.cast(tf.equal(x, tf.tile(tf.reduce_max(x, axis=3, keepdims=True), [1, 1, 1, x.shape[3]])),
                    tf.float32)
    return None    
    
def where_reduce_max():
    for i in range(N):
        x = tf.random.normal(shape)
        x = tf.nn.softmax(tf.random.normal(shape), axis=3)
        x = tf.where(tf.equal(x, tf.reduce_max(x, axis=3, keepdims=True)),
                     tf.constant(1., shape=x.shape),
                     tf.constant(0., shape=x.shape))
    return None

def where_tile():
    for i in range(N):
        x = tf.random.normal(shape)
        x = tf.nn.softmax(tf.random.normal(shape), axis=3)
        x = tf.where(tf.equal(x, tf.tile(tf.reduce_max(x, axis=3, keepdims=True), [1, 1, 1, x.shape[3]])),
                     tf.constant(1., shape=x.shape),
                     tf.constant(0., shape=x.shape))
    return None

def blank():
    for i in range(N):
        x = tf.random.normal(shape)
        x = tf.nn.softmax(tf.random.normal(shape), axis=3)
    return None

t0 = time.time()
one_hot()
print(f"one_hot:\t{time.time()-t0}")    

t0 = time.time()
cast_reduce_max()
print(f"cast_reduce_max:\t{time.time()-t0}")

t0 = time.time()
cast_tile()
print(f"cast_tile:\t{time.time()-t0}")

t0 = time.time()
where_reduce_max()
print(f"where_reduce_max:\t{time.time()-t0}")

t0 = time.time()
where_tile()
print(f"where_tile:\t{time.time()-t0}")

t0 = time.time()
blank()
print(f"blank:\t{time.time()-t0}")

Softmax 矩阵到 0/1（One Hot）编码矩阵？

Softmax matrix to 0/1 (OneHot) encoded matrix?

python

tensorflow

softmax