Python Tflearn 机器学习优化器、损失和参数

Python Tflearn machine learning Optimiser, loss and parameters

修复我的代码并准备我的训练数据后,我发现自己面临 2 个问题。

背景: 我有第一列的日期(每分钟一个条目)和第二列的拥塞(值,在 0 到 200 之间)的数据。我的目标是将它提供给我的神经网络,以便能够预测下周每分钟的拥塞情况(我的数据集超过 10M 的条目,我不应该有缺乏训练数据的问题)。

问题: 我现在有两个问题。首先是关于损失、优化器和线性。似乎有一定数量的人,他们都有一个比另一个更好的领域,你会为这个项目推荐哪个? (目前在我的测试中,我使用 Adam 作为优化器,mean_square 作为损失和线性激活)。

我的第二个问题更像是我遇到的一个错误(可能与我使用错误loss/optimizer有关)。当使用我的代码(目前有 10 000 个训练数据)时,我的准确度为 0,损失很低 (0.00X) 并且预测很差(甚至不接近现实)。你知道它可能来自哪里吗?

你要做的是时间序列预测(给定时间 t-n, t-(n+1) ... t-1 的数据:预测状态在时间 t) 并且通常是循环神经网络的任务。 Here 是 Andrej Karpathy 撰写的精彩博客 post,内容涉及您应该查看的主题。

关于你的两个问题:

  1. 这很难回答,因为使用什么优化器的问题在很大程度上取决于输入数据。一般来说,无论您使用什么优化器,网络都会收敛。然而,收敛所需的时间会有所不同。自适应学习率方法,如 Adagrad、Adadelta 和 Adam,收敛速度会稍快一些。 Here 是一篇关于不同优化器的好文章。

  2. 基本神经网络 (MLP) 在时间序列预测方面表现不佳。这将是对低准确性的解释。但是我不知道为什么损失会是0.