如何 return Keras 验证丢失的历史

Question

使用 Anaconda Python 2.7 Windows 10.

我正在使用 Keras 示例训练语言模型：

print('Build model...')
model = Sequential()
model.add(GRU(512, return_sequences=True, input_shape=(maxlen, len(chars))))
model.add(Dropout(0.2))
model.add(GRU(512, return_sequences=False))
model.add(Dropout(0.2))
model.add(Dense(len(chars)))
model.add(Activation('softmax'))

model.compile(loss='categorical_crossentropy', optimizer='rmsprop')

def sample(a, temperature=1.0):
    # helper function to sample an index from a probability array
    a = np.log(a) / temperature
    a = np.exp(a) / np.sum(np.exp(a))
    return np.argmax(np.random.multinomial(1, a, 1))


# train the model, output generated text after each iteration
for iteration in range(1, 3):
    print()
    print('-' * 50)
    print('Iteration', iteration)
    model.fit(X, y, batch_size=128, nb_epoch=1)
    start_index = random.randint(0, len(text) - maxlen - 1)

    for diversity in [0.2, 0.5, 1.0, 1.2]:
        print()
        print('----- diversity:', diversity)

        generated = ''
        sentence = text[start_index: start_index + maxlen]
        generated += sentence
        print('----- Generating with seed: "' + sentence + '"')
        sys.stdout.write(generated)

        for i in range(400):
            x = np.zeros((1, maxlen, len(chars)))
            for t, char in enumerate(sentence):
                x[0, t, char_indices[char]] = 1.

            preds = model.predict(x, verbose=0)[0]
            next_index = sample(preds, diversity)
            next_char = indices_char[next_index]

            generated += next_char
            sentence = sentence[1:] + next_char

            sys.stdout.write(next_char)
            sys.stdout.flush()
        print()

根据 Keras 文档，model.fit 方法 return 是一个历史回调，它有一个包含连续损失列表和其他指标的历史属性。

hist = model.fit(X, y, validation_split=0.2)
print(hist.history)

训练我的模型后，如果我运行 print(model.history) 我得到错误：

 AttributeError: 'Sequential' object has no attribute 'history'

使用上述代码训练我的模型后，如何return我的模型历史记录？

更新

问题是：

必须首先定义以下内容：

from keras.callbacks import History 
history = History()

必须调用回调选项

model.fit(X_train, Y_train, nb_epoch=5, batch_size=16, callbacks=[history])

但现在如果我打印

print(history.History)

它returns

{}

尽管我运行进行了一次迭代。

Answer 1

包含 "acc"、"loss" 等历史的字典可用并保存在 hist.history 变量中。

Answer 2

已解决

损失只能留给时代的历史。我正在运行ning 迭代而不是使用 Keras 内置的 epochs 选项。

所以我现在有

而不是进行 4 次迭代

model.fit(......, nb_epoch = 4)

现在 returns 每个时期的损失运行:

print(hist.history)
{'loss': [1.4358016599558268, 1.399221191623641, 1.381293383180471, 1.3758836857303727]}

Answer 3

只是一个例子，开始于

history = model.fit(X, Y, validation_split=0.33, nb_epoch=150, batch_size=10, verbose=0)

您可以使用

print(history.history.keys())

列出历史中的所有数据。

然后，您可以像这样打印验证损失的历史记录：

print(history.history['val_loss'])

Answer 4

另一个选项是 CSVLogger：https://keras.io/callbacks/#csvlogger。它创建一个 csv 文件附加每个纪元的结果。即使你中断训练，你也会看到它是如何演变的。

Answer 5

我还发现你可以使用 verbose=2 让 keras 打印出损失：

history = model.fit(X, Y, validation_split=0.33, nb_epoch=150, batch_size=10, verbose=2)

这将打印出像这样的漂亮线条：

Epoch 1/1
 - 5s - loss: 0.6046 - acc: 0.9999 - val_loss: 0.4403 - val_acc: 0.9999

根据他们documentation:

verbose: 0, 1, or 2. Verbosity mode. 0 = silent, 1 = progress bar, 2 = one line per epoch.

Answer 6

以下简单代码对我来说非常有用：

    seqModel =model.fit(x_train, y_train,
          batch_size      = batch_size,
          epochs          = num_epochs,
          validation_data = (x_test, y_test),
          shuffle         = True,
          verbose=0, callbacks=[TQDMNotebookCallback()]) #for visualization

确保将拟合函数分配给输出变量。然后你可以很容易地访问那个变量

# visualizing losses and accuracy
train_loss = seqModel.history['loss']
val_loss   = seqModel.history['val_loss']
train_acc  = seqModel.history['acc']
val_acc    = seqModel.history['val_acc']
xc         = range(num_epochs)

plt.figure()
plt.plot(xc, train_loss)
plt.plot(xc, val_loss)

希望这对您有所帮助。来源：https://keras.io/getting-started/faq/#how-can-i-record-the-training-validation-loss-accuracy-at-each-epoch

Answer 7

其实用迭代的方法也可以。因为有时我们可能需要使用迭代方法而不是内置的epochs方法来可视化每次迭代后的训练结果。

history = [] #Creating a empty list for holding the loss later
for iteration in range(1, 3):
    print()
    print('-' * 50)
    print('Iteration', iteration)
    result = model.fit(X, y, batch_size=128, nb_epoch=1) #Obtaining the loss after each training
    history.append(result.history['loss']) #Now append the loss after the training to the list.
    start_index = random.randint(0, len(text) - maxlen - 1)
print(history)

这种方式可以让你在保持迭代方法的同时得到你想要的损失。

Answer 8

为了直接绘制损失，以下工作：

import matplotlib.pyplot as plt
...    
model_ = model.fit(X, Y, epochs= ..., verbose=1 )
plt.plot(list(model_.history.values())[0],'k-o')

Answer 9

和我一样报错的朋友：

将model.fit_generator()转换为model.fit()

Answer 10

感谢 Alloush，

model.fit() 中必须包含以下参数：

validation_data = (x_test, y_test)

如果没有定义，val_acc和val_loss就不会存在于输出。

Answer 11

您可以获得如下损失和指标：返回的历史对象是字典，您可以访问模型损失（val_loss）或准确性（val_accuracy），如下所示：

model_hist=model.fit(train_data,train_lbl,epochs=my_epoch,batch_size=sel_batch_size,validation_data=val_data)

acc=model_hist.history['accuracy']

val_acc=model_hist.history['val_accuracy']

loss=model_hist.history['loss']

val_loss=model_hist.history['val_loss']

不要忘记，要获得 val_loss 或 val_accuracy，您应该在“fit”函数中指定验证数据。

如何 return Keras 验证丢失的历史

How to return history of validation loss in Keras

python

nlp

neural-network

deep-learning

keras