使用 The Glove 方法时谈论 skip-gram 和 cbow 有意义吗?

Does it make sense to talk about skip-gram and cbow when using The Glove method?

我正在尝试不同的词嵌入方法,以便选择最适合我的方法。我试过 word2vec 和 FastText。现在,我想试试 Glove。在word2vec和FastText中,都有两个版本:Skip-gram(predict context from word)和CBOW(predict word from context)。但是在 Glove python 包中,没有参数可以让你选择是使用 skipg-gram 还是 Cbow。

鉴于 Glove 的工作方式与 w2v 不同,我想知道:在使用 Glove 方法时谈论 skip-gram 和 cbow 是否有意义?

提前致谢

不是,skip-gram 和 CBOW 只是两个 Word2vec 模型的名称。它们是浅层神经网络,通过从单词预测上下文来生成单词嵌入,反之亦然,然后将隐藏层的输出视为 vector/representation。 GloVe 使用不同的方法,通过在共现矩阵而不是局部上下文上进行训练来利用语料库的全局统计数据 windows.