使用 LSTM 进行多元二进制序列预测
Multivariate binary sequence prediction with LSTM
我正在研究序列预测问题，我在这方面没有太多经验，所以下面的一些问题可能很幼稚。
仅供参考： 我创建了一个关注 CRF 的后续问题 here
我有以下问题：
我想预测多个非自变量的二进制序列。
输入：
我有一个包含以下变量的数据集：
- 时间戳
- A 组和 B 组
- 特定时间戳对应于每个组的二进制信号
此外，假设如下：
- 我们可以从时间戳中提取额外的属性（例如一天中的小时），这些属性可以用作外部预测因子
- 我们认为 A 组和 B 组不是独立的，因此最好共同模拟他们的行为
binary_signal_group_A 和 binary_signal_group_B 是我想使用 (1) 他们过去的行为和 (2) 从每个时间戳中提取的附加信息来预测的 2 个非独立变量。
到目前为止我做了什么：
# required libraries
import re
import numpy as np
import pandas as pd
from keras import Sequential
from keras.layers import LSTM
data_length = 18 # how long our data series will be
shift_length = 3 # how long of a sequence do we want
df = (pd.DataFrame # create a sample dataframe
.from_records(np.random.randint(2, size=[data_length, 3]))
.rename(columns={0:'a', 1:'b', 2:'extra'}))
# NOTE: the 'extra' variable refers to a generic predictor such as for example 'is_weekend' indicator, it doesn't really matter what it is
# shift so that our sequences are in rows (assuming data is sorted already)
colrange = df.columns
shift_range = [_ for _ in range(-shift_length, shift_length+1) if _ != 0]
for c in colrange:
for s in shift_range:
if not (c == 'extra' and s > 0):
charge = 'next' if s > 0 else 'last' # 'next' variables is what we want to predict
formatted_s = '{0:02d}'.format(abs(s))
new_var = '{var}_{charge}_{n}'.format(var=c, charge=charge, n=formatted_s)
df[new_var] = df[c].shift(s)
# drop unnecessary variables and trim missings generated by the shift operation
df.dropna(axis=0, inplace=True)
df.drop(colrange, axis=1, inplace=True)
df = df.astype(int)
df.head() # check it out
# a_last_03 a_last_02 ... extra_last_02 extra_last_01
# 3 0 1 ... 0 1
# 4 1 0 ... 0 0
# 5 0 1 ... 1 0
# 6 0 0 ... 0 1
# 7 0 0 ... 1 0
# [5 rows x 15 columns]
# separate predictors and response
response_df_dict = {}
for g in ['a','b']:
response_df_dict[g] = df[[c for c in df.columns if 'next' in c and g in c]]
# reformat for LSTM
# the response for every row is a matrix with depth of 2 (the number of groups) and width = shift_length
# the predictors are of the same dimensions except the depth is not 2 but the number of predictors that we have
response_array_list = []
col_prefix = set([re.sub('_\d+$','',c) for c in df.columns if 'next' not in c])
for c in col_prefix:
current_array = df[[z for z in df.columns if z.startswith(c)]].values
response_array_list.append(current_array)
# reshape into samples (1), time stamps (2) and channels/variables (0)
response_array = np.array([response_df_dict['a'].values,response_df_dict['b'].values])
response_array = np.reshape(response_array, (response_array.shape[1], response_array.shape[2], response_array.shape[0]))
predictor_array = np.array(response_array_list)
predictor_array = np.reshape(predictor_array, (predictor_array.shape[1], predictor_array.shape[2], predictor_array.shape[0]))
# feed into the model
model = Sequential()
model.add(LSTM(8, input_shape=(predictor_array.shape[1],predictor_array.shape[2]), return_sequences=True)) # the number of neurons here can be anything
model.add(LSTM(2, return_sequences=True)) # should I use an activation function here? the number of neurons here must be equal to the # of groups we are predicting
model.summary()
# _________________________________________________________________
# Layer (type) Output Shape Param #
# =================================================================
# lstm_62 (LSTM) (None, 3, 8) 384
# _________________________________________________________________
# lstm_63 (LSTM) (None, 3, 2) 88
# =================================================================
# Total params: 472
# Trainable params: 472
# Non-trainable params: 0
model.compile(loss='binary_crossentropy', optimizer='adam', metrics=['accuracy']) # is it valid to use crossentropy and accuracy as metric?
model.fit(predictor_array, response_array, epochs=10, batch_size=1)
model_preds = model.predict_classes(predictor_array) # not gonna worry about train/test split here
model_preds.shape # should return (12, 3, 2) or (# of records, # of timestamps, # of groups which are a and b)
# (12, 3)
model_preds
# array([[1, 0, 0],
# [0, 0, 0],
# [1, 0, 0],
# [0, 0, 0],
# [1, 0, 0],
# [0, 0, 0],
# [0, 0, 0],
# [0, 0, 0],
# [0, 0, 0],
# [0, 0, 0],
# [1, 0, 0],
# [0, 0, 0]])
问题：
这里的主要问题是：我如何让它工作，以便模型预测两组的下 N 个序列？
另外，我想请教以下问题：
- A 组和 B 组应该是互相关的，但是，尝试通过单个模型同时输出 A 和 B 序列是否有效，或者我应该拟合 2 个单独的模型，一个预测 A，另一个预测 A预测 B 但都使用历史 A 和 B 数据作为输入？
- 虽然我在模型中的最后一层是形状为 (None, 3, 2) 的 LSTM，但预测输出的形状为 (12, 3)，而我预期它是 (12 , 2) -- 我是不是做错了什么，如果是，我该如何解决？
- 就输出 LSTM 层而言，在这里使用激活函数（例如 sigmoid）是否是个好主意？ Why/why 不是吗？
- 使用分类类型损失（二元交叉熵）和度量（准确性）来优化序列是否有效？
- LSTM 模型是这里的最佳选择吗？有人认为 CRF 或某种 HMM 类型的模型在这里会更好吗？
非常感谢！
我会依次回答所有问题
how do I get this working so that the model would forecast the next N
sequences for both groups?
我建议对您的模型进行两处修改。
first 对最后一层使用 sigmoid 激活。
为什么??考虑二元交叉熵损失函数（我借用了here的方程）
%20-(1-y)%5Cln(1-p))
其中L是计算损失，p是网络预测，y是目标值。
损失是为 )
定义的。
如果 p 在这个开区间范围之外，那么损失是不确定的。 keras is tanh 中 lstm 层的默认激活及其输出范围为 (-1, 1)。这意味着模型的输出不适合二元交叉熵损失。如果您尝试训练模型，您最终可能会得到 nan 的损失。
第二个修改（是第一个修改的一部分）要么在最后一层之前添加sigmoid激活。为此，您有三个选择。
- 在你的输出和最后一个 lstm 层之间添加带有 sigmoid 激活的密集层。
- 或者把lstm层的激活改成sigmoid。
- 或者在输出层之后添加带有sigmoid激活的激活层。
即使所有情况都可行，我还是建议使用带有 sigmoid 激活的密集层，因为它几乎总能更好地工作。
现在建议更改的模型将是
model = Sequential()
model.add(LSTM(8, input_shape=(predictor_array.shape[1],predictor_array.shape[2]), return_sequences=True))
model.add(LSTM(2, return_sequences=True))
model.add(TimeDistributed(Dense(2, activation="sigmoid")))
model.summary()
... is it valid to attempt to output both A and B sequences by a single
model or should I fit 2 separate models ... ?
理想情况下，这两种情况都可以。但是最新的研究是这样的this one show that the former case(where you use a single model for both groups) tends to perform better. The approach is generally called as Multi Task Learning。 Multi-Task learning 背后的想法非常广泛，为简单起见，它可以被认为是通过强制模型学习多个任务常见的隐藏表示来添加归纳偏差。
... the prediction output is of shape (12, 3) when I would have expected
it to be (12, 2) -- am I doing something wrong here ... ?
你得到这个是因为你正在使用 predict_classes 方法。与预测方法不同，predict_classes 方法 returns 通道轴的最大索引（在您的情况下是第三个索引）。正如我上面所解释的，如果你对最后一层使用 sigmoid 激活并将 predict_classes 替换为预测，你将得到你所期望的。
As far as the output LSTM layer is concerned, would it be a good idea
to use an activation function here, such as sigmoid? Why/why not?
我希望我已经在上面解释过了。答案是肯定的。
Is it valid to use a classification type loss (binary cross-entropy)
and metrics (accuracy) for optimizing a sequence?
由于您的目标是二元信号（分布是 Bernoulli distribution), Yes it is valid to use binary loss and accuracy metrics. 有关为什么二元交叉熵对此类目标变量有效的更多详细信息。
Is an LSTM model an optimal choice here? Does anyone think that a CRF
or some HMM-type model would work better here?
这取决于可用数据和您选择的网络的复杂程度。 CRF 和 HMM 网络很简单，如果可用数据很小，效果会更好。但如果可用数据集很大，LSTM 几乎总是会优于 CRF 和 HMM。我的建议是如果你有大量数据使用 LSTM。但是，如果您的数据量较小或正在寻找简单的模型，则可以使用 CRF 或 HMM。
我正在研究序列预测问题，我在这方面没有太多经验，所以下面的一些问题可能很幼稚。
仅供参考： 我创建了一个关注 CRF 的后续问题 here
我有以下问题：
我想预测多个非自变量的二进制序列。
输入：
我有一个包含以下变量的数据集：
- 时间戳
- A 组和 B 组
- 特定时间戳对应于每个组的二进制信号
此外，假设如下：
- 我们可以从时间戳中提取额外的属性（例如一天中的小时），这些属性可以用作外部预测因子
- 我们认为 A 组和 B 组不是独立的，因此最好共同模拟他们的行为
binary_signal_group_A 和 binary_signal_group_B 是我想使用 (1) 他们过去的行为和 (2) 从每个时间戳中提取的附加信息来预测的 2 个非独立变量。
到目前为止我做了什么：
# required libraries
import re
import numpy as np
import pandas as pd
from keras import Sequential
from keras.layers import LSTM
data_length = 18 # how long our data series will be
shift_length = 3 # how long of a sequence do we want
df = (pd.DataFrame # create a sample dataframe
.from_records(np.random.randint(2, size=[data_length, 3]))
.rename(columns={0:'a', 1:'b', 2:'extra'}))
# NOTE: the 'extra' variable refers to a generic predictor such as for example 'is_weekend' indicator, it doesn't really matter what it is
# shift so that our sequences are in rows (assuming data is sorted already)
colrange = df.columns
shift_range = [_ for _ in range(-shift_length, shift_length+1) if _ != 0]
for c in colrange:
for s in shift_range:
if not (c == 'extra' and s > 0):
charge = 'next' if s > 0 else 'last' # 'next' variables is what we want to predict
formatted_s = '{0:02d}'.format(abs(s))
new_var = '{var}_{charge}_{n}'.format(var=c, charge=charge, n=formatted_s)
df[new_var] = df[c].shift(s)
# drop unnecessary variables and trim missings generated by the shift operation
df.dropna(axis=0, inplace=True)
df.drop(colrange, axis=1, inplace=True)
df = df.astype(int)
df.head() # check it out
# a_last_03 a_last_02 ... extra_last_02 extra_last_01
# 3 0 1 ... 0 1
# 4 1 0 ... 0 0
# 5 0 1 ... 1 0
# 6 0 0 ... 0 1
# 7 0 0 ... 1 0
# [5 rows x 15 columns]
# separate predictors and response
response_df_dict = {}
for g in ['a','b']:
response_df_dict[g] = df[[c for c in df.columns if 'next' in c and g in c]]
# reformat for LSTM
# the response for every row is a matrix with depth of 2 (the number of groups) and width = shift_length
# the predictors are of the same dimensions except the depth is not 2 but the number of predictors that we have
response_array_list = []
col_prefix = set([re.sub('_\d+$','',c) for c in df.columns if 'next' not in c])
for c in col_prefix:
current_array = df[[z for z in df.columns if z.startswith(c)]].values
response_array_list.append(current_array)
# reshape into samples (1), time stamps (2) and channels/variables (0)
response_array = np.array([response_df_dict['a'].values,response_df_dict['b'].values])
response_array = np.reshape(response_array, (response_array.shape[1], response_array.shape[2], response_array.shape[0]))
predictor_array = np.array(response_array_list)
predictor_array = np.reshape(predictor_array, (predictor_array.shape[1], predictor_array.shape[2], predictor_array.shape[0]))
# feed into the model
model = Sequential()
model.add(LSTM(8, input_shape=(predictor_array.shape[1],predictor_array.shape[2]), return_sequences=True)) # the number of neurons here can be anything
model.add(LSTM(2, return_sequences=True)) # should I use an activation function here? the number of neurons here must be equal to the # of groups we are predicting
model.summary()
# _________________________________________________________________
# Layer (type) Output Shape Param #
# =================================================================
# lstm_62 (LSTM) (None, 3, 8) 384
# _________________________________________________________________
# lstm_63 (LSTM) (None, 3, 2) 88
# =================================================================
# Total params: 472
# Trainable params: 472
# Non-trainable params: 0
model.compile(loss='binary_crossentropy', optimizer='adam', metrics=['accuracy']) # is it valid to use crossentropy and accuracy as metric?
model.fit(predictor_array, response_array, epochs=10, batch_size=1)
model_preds = model.predict_classes(predictor_array) # not gonna worry about train/test split here
model_preds.shape # should return (12, 3, 2) or (# of records, # of timestamps, # of groups which are a and b)
# (12, 3)
model_preds
# array([[1, 0, 0],
# [0, 0, 0],
# [1, 0, 0],
# [0, 0, 0],
# [1, 0, 0],
# [0, 0, 0],
# [0, 0, 0],
# [0, 0, 0],
# [0, 0, 0],
# [0, 0, 0],
# [1, 0, 0],
# [0, 0, 0]])
问题：
这里的主要问题是：我如何让它工作，以便模型预测两组的下 N 个序列？
另外，我想请教以下问题：
- A 组和 B 组应该是互相关的，但是，尝试通过单个模型同时输出 A 和 B 序列是否有效，或者我应该拟合 2 个单独的模型，一个预测 A，另一个预测 A预测 B 但都使用历史 A 和 B 数据作为输入？
- 虽然我在模型中的最后一层是形状为 (None, 3, 2) 的 LSTM，但预测输出的形状为 (12, 3)，而我预期它是 (12 , 2) -- 我是不是做错了什么，如果是，我该如何解决？
- 就输出 LSTM 层而言，在这里使用激活函数（例如 sigmoid）是否是个好主意？ Why/why 不是吗？
- 使用分类类型损失（二元交叉熵）和度量（准确性）来优化序列是否有效？
- LSTM 模型是这里的最佳选择吗？有人认为 CRF 或某种 HMM 类型的模型在这里会更好吗？
非常感谢！
我会依次回答所有问题
how do I get this working so that the model would forecast the next N sequences for both groups?
我建议对您的模型进行两处修改。
first 对最后一层使用 sigmoid 激活。
为什么??考虑二元交叉熵损失函数（我借用了here的方程）
其中L是计算损失，p是网络预测，y是目标值。
损失是为 定义的。
如果 p 在这个开区间范围之外，那么损失是不确定的。 keras is tanh 中 lstm 层的默认激活及其输出范围为 (-1, 1)。这意味着模型的输出不适合二元交叉熵损失。如果您尝试训练模型，您最终可能会得到
nan 的损失。
第二个修改（是第一个修改的一部分）要么在最后一层之前添加sigmoid激活。为此，您有三个选择。
- 在你的输出和最后一个 lstm 层之间添加带有 sigmoid 激活的密集层。
- 或者把lstm层的激活改成sigmoid。
- 或者在输出层之后添加带有sigmoid激活的激活层。
即使所有情况都可行，我还是建议使用带有 sigmoid 激活的密集层，因为它几乎总能更好地工作。 现在建议更改的模型将是
model = Sequential()
model.add(LSTM(8, input_shape=(predictor_array.shape[1],predictor_array.shape[2]), return_sequences=True))
model.add(LSTM(2, return_sequences=True))
model.add(TimeDistributed(Dense(2, activation="sigmoid")))
model.summary()
... is it valid to attempt to output both A and B sequences by a single model or should I fit 2 separate models ... ?
理想情况下，这两种情况都可以。但是最新的研究是这样的this one show that the former case(where you use a single model for both groups) tends to perform better. The approach is generally called as Multi Task Learning。 Multi-Task learning 背后的想法非常广泛，为简单起见，它可以被认为是通过强制模型学习多个任务常见的隐藏表示来添加归纳偏差。
... the prediction output is of shape (12, 3) when I would have expected it to be (12, 2) -- am I doing something wrong here ... ?
你得到这个是因为你正在使用 predict_classes 方法。与预测方法不同，predict_classes 方法 returns 通道轴的最大索引（在您的情况下是第三个索引）。正如我上面所解释的，如果你对最后一层使用 sigmoid 激活并将 predict_classes 替换为预测，你将得到你所期望的。
As far as the output LSTM layer is concerned, would it be a good idea to use an activation function here, such as sigmoid? Why/why not?
我希望我已经在上面解释过了。答案是肯定的。
Is it valid to use a classification type loss (binary cross-entropy) and metrics (accuracy) for optimizing a sequence?
由于您的目标是二元信号（分布是 Bernoulli distribution), Yes it is valid to use binary loss and accuracy metrics.
Is an LSTM model an optimal choice here? Does anyone think that a CRF or some HMM-type model would work better here?
这取决于可用数据和您选择的网络的复杂程度。 CRF 和 HMM 网络很简单，如果可用数据很小，效果会更好。但如果可用数据集很大，LSTM 几乎总是会优于 CRF 和 HMM。我的建议是如果你有大量数据使用 LSTM。但是，如果您的数据量较小或正在寻找简单的模型，则可以使用 CRF 或 HMM。