在 tensorflow 的 seq2seq 函数中使用预训练词嵌入

Question

我正在使用 tensorflow seq2seq.py 中的函数构建一个 seq2seq 模型，其中它们具有如下函数：

embedding_rnn_seq2seq(encoder_inputs, decoder_inputs, cell,
                          num_encoder_symbols, num_decoder_symbols,
                          embedding_size, output_projection=None,
                          feed_previous=False, dtype=dtypes.float32,
                          scope=None)

但是这个函数好像没有预训练词嵌入作为输入，请问有什么方法可以在这个函数中将预训练词嵌入作为输入吗？

Answer 1

没有你刚才交的参数。读入你的嵌入（确保词汇 ID 匹配）。然后，在初始化所有变量后，找到嵌入张量（遍历 tf.all_variables 以找到名称）。然后使用 tf.assign 用你的嵌入覆盖随机初始化的嵌入。