Keras 上的 clipnorm 和 clipval 有什么区别
What is the difference between clipnorm and clipval on Keras
clipnorm 和 clipval 有什么区别。
例如:opt = SGD(lr=0.01, momentum=0.9, clipnorm=1.0)
在 clipnorm
的情况下,梯度的 l2 范数上限为指定值。
同时 clipvalue
限制梯度值,使其不超过指定值
clipnorm 和 clipval 有什么区别。
例如:opt = SGD(lr=0.01, momentum=0.9, clipnorm=1.0)
在 clipnorm
的情况下,梯度的 l2 范数上限为指定值。
同时 clipvalue
限制梯度值,使其不超过指定值