训练一些嵌入，固定其他嵌入
Train some embeddings, keep others fixed
我使用 Keras 进行序列分类，使用 RNN 和嵌入。我的序列有点奇怪。我的单词中混有特殊符号。单词与固定的、预训练的嵌入相关联，但特殊符号嵌入必须在训练期间进行修改。
在学习期间的嵌入层中，如何在更新其他嵌入的同时保持某些嵌入固定？有没有办法屏蔽那些不应修改的索引？或者这是自定义嵌入层的情况？
我认为现有的 Embedding 层无法实现这一点。为了解决这个问题，我只创建一个自定义层，在内部构建两个嵌入层，并且只将其中一个的嵌入矩阵放入 trainable_parameters.
我使用 Keras 进行序列分类，使用 RNN 和嵌入。我的序列有点奇怪。我的单词中混有特殊符号。单词与固定的、预训练的嵌入相关联，但特殊符号嵌入必须在训练期间进行修改。
在学习期间的嵌入层中，如何在更新其他嵌入的同时保持某些嵌入固定？有没有办法屏蔽那些不应修改的索引？或者这是自定义嵌入层的情况？
我认为现有的 Embedding 层无法实现这一点。为了解决这个问题，我只创建一个自定义层，在内部构建两个嵌入层，并且只将其中一个的嵌入矩阵放入 trainable_parameters.