Conv1D 作为 LSTM 的降维

Question

我希望使用 CNN 作为我的 LSTM 层的降维。

我有一个面板数据集如下：

sequence of days = 5065
lags = 14 days (those are time series lags)
features = 2767

因此，[5065, 14, 2767]

如您所见，我的特征数量是数据点数量的一半以上，我想减少它。理想情况下，我想为我的 LSTM 层提供包含 32 个特征的压缩特征信息，希望是以下形状：

[5065, 14, 32]

但是，在设置 CNN 时，我知道过滤器应该是 32，但是我的内核大小呢？我不确定我做的是否正确。

Answer 1

在 CNN 中，通常使用 1x1 的内核大小进行降维。因此只有 filter/feature 地图维度受到影响，空间信息保持不变，因为输入是 1:1 映射到输出。

Inception 架构就是一个很好的例子，它使用 1x1 卷积来减少初始模块中的维数。

Conv1D as dimensionality reduction for LSTM