AutoEncoder 是否推荐使用特征缩放?

Is Feature Scaling recommended for AutoEncoder?

问题:

Staked Auto Encoder 正在应用于具有 25K 行和 18 列且所有浮点值的数据集。 SAE 用于通过编码和解码进行特征提取。

当我在没有特征缩放的情况下训练模型时,损失约为 50K,即使在 200 个 epoch 之后。但是,当应用缩放时,第一个时期的损失约为 3。

我的问题:

  1. 是否推荐使用SAE进行特征提取时应用特征缩放

  2. 解码时会影响精度吗?

  1. 除了少数例外,您应该始终在机器学习中应用特征缩放,尤其是在 SAE 中使用梯度下降时。缩放您的功能将确保更平滑的成本函数,从而更快地收敛到全局(希望)最小值。

还值得注意的是,在 1 个 epoch 之后,你的损失小得多,这应该是用于计算损失的值小得多的结果。

  1. 没有