Tensorflow 数据集 API - 将 windows 应用于多个序列

Question

我想设置一个处理顺序数据的数据管道。序列中的每个数据点都有固定的维度，例如64x64。我有多个长度可变的序列。所以我的数据集可以简化为：

seq1 = np.arange(5)[:, None, None]
seq2 = np.arange(8)[:, None, None]
seq3 = np.arange(7)[:, None, None]
sequences = [seq1, seq2, seq3]

现在，我想对序列中的一系列时间帧进行操作，得到 3 维数据立方体 [N_frames、data_dim1、data_dim2]。

对于单个序列，我在 TF 的 Dataset API 中找到了 window，这使我可以使用窗口来构建数据立方体：

window = 3
shift = 1
ds = tf.data.Dataset.from_tensor_slices(seq1)
ds = ds.window(size=window , shift=shift, drop_remainder=True).flat_map(lambda x: x.batch(window))
for d in ds:
    print(d)

结果

tf.Tensor(
[[[0]]

 [[1]]

 [[2]]], shape=(3, 1, 1), dtype=int32)
tf.Tensor(
[[[1]]

 [[2]]

 [[3]]], shape=(3, 1, 1), dtype=int32)
tf.Tensor(
[[[2]]

 [[3]]

 [[4]]], shape=(3, 1, 1), dtype=int32)

现在，我正在努力将此操作转移到我的全套序列中。如何从我的序列集中获取所有数据立方体？

Answer 1

我自己找到了答案。我分别对每个序列使用 window 函数。我将此过程包装在一个小函数中，然后通过 flat_map:

将其应用于我的序列集

sequences = [np.arange(5)[:, None, None], np.arange(20, 24)[:, None, None]]

def get_data_cubes(sequence, size, shift=None, stride=1, drop_remainder=False):
    ds = tf.data.Dataset.from_tensor_slices(sequence)
    ds = ds.window(size=size, shift=shift, stride=stride, drop_remainder=drop_remainder)
    ds = ds.flat_map(lambda x: x.batch(size))
    return ds

window = 3
shift = 1
dataset = tf.data.Dataset.from_generator(lambda: sequences, tf.as_dtype(sequences[0].dtype), tf.TensorShape([None, 1, 1]))
dataset = dataset.flat_map(lambda x: get_data_cubes(x, window, shift=shift, drop_remainder=True))

for d in dataset:
    print(d)

结果

tf.Tensor(
[[[0]]

 [[1]]

 [[2]]], shape=(3, 1, 1), dtype=int32)
tf.Tensor(
[[[1]]

 [[2]]

 [[3]]], shape=(3, 1, 1), dtype=int32)
tf.Tensor(
[[[2]]

 [[3]]

 [[4]]], shape=(3, 1, 1), dtype=int32)
tf.Tensor(
[[[20]]

 [[21]]

 [[22]]], shape=(3, 1, 1), dtype=int32)
tf.Tensor(
[[[21]]

 [[22]]

 [[23]]], shape=(3, 1, 1), dtype=int32)

这正是我搜索的结果。顺便说一句：这个数据集可以像一个标准的 TF 数据集一样处理，包括洗牌、批处理等。

Tensorflow 数据集 API - 将 windows 应用于多个序列

Tensorflow dataset API - Apply windows to multiple sequences

python

tensorflow

tensorflow-datasets