根据 TENSORFLOW 中的 if 语句使用不同的优化器

Question

我目前正在尝试通过两个训练步骤实现一个神经网络。首先我想减少 loss_first_part 函数然后我想减少 loss_second_part.

tf.global_variable_initializer().run()

for epoch in range(nb_epochs)
    if epoch < 10 : 
       train_step = optimizer.minimize(loss_first_part)
    else :
       train_step = optimizer.minimize(loss_second_part)

问题是初始化器应该在optimizer.minimize调用之后定义。事实上，我有以下错误 Attempting to use unintialized value betal_power。

考虑到我希望我的优化器依赖于纪元，我该如何解决这个问题...

非常感谢您的帮助！

Answer 1

我找到了！如此简单...

train_step1 = optimizer.minimize(loss_first_part)
train_step2 = optimizer.minimize(loss_second_part)
tf.global_variable_initializer().run()

if ... :
   sess.run(train_step1)
else :
   sess.run(train_step2)

根据 TENSORFLOW 中的 if 语句使用不同的优化器

Use different optimizers depending on a if statement in TENSORFLOW

optimization

initializer

loss

neural-network

tensorflow