手套中超参数的含义

Question

以下是demo.sh of glove中的超参数。 VERBOSE、MEMORY、WINDOW_SIZE 和 BINARY 是什么意思。

WINDOW_SIZE是15，是说从右边选了15个词，从左边选了15个词吗？

VERBOSE=2        ?
MEMORY=4.0       ?
VOCAB_MIN_COUNT=5
VECTOR_SIZE=128
MAX_ITER=15
WINDOW_SIZE=15   ?
BINARY=2         ?
NUM_THREADS=8
X_MAX=100

Answer 1

VERBOSE是现在模型训练的常规参数，它的值告诉函数在训练模型时打印多少信息。通常 0 表示没有中间信息，1 表示最少，2 表示更多细节。（检查：https://github.com/stanfordnlp/GloVe/blob/master/src/cooccur.c）了解有关打印内容的更多详细信息。

MEMORY：这个我不太确定，但我认为这与模型训练的内存使用有关。（随时更正和更新）

WINDOW_SIZE：是的，它是上下文大小（检查：https://github.com/stanfordnlp/GloVe/blob/master/src/cooccur.c）

BINARY：文件输出类型的切换选项。 0 用于文本文件，1 用于二进制文件，2 用于两者（检查：https://github.com/stanfordnlp/GloVe/blob/master/src/glove.c）。

手套中超参数的含义

The meaning of hyperparameters in glove

nlp

hyperparameters

glove