什么是神经网络序列到序列学习

What is Sequence to Sequence Learning with Neural Networks

可以使用 Sequence to Sequence Learning with Neural Networks 创建聊天机器人,我有训练聊天数据,但如何使用它?

Sequence to Sequence Learning using Neural networks 是一种使用神经网络翻译序列的方法。总的目标是你有一个源序列(说一个英文句子),一个目标序列(它是法语翻译),任务是生成目标序列查看源序列。

传统前馈神经网络面临的挑战是不同的源和目标长度。 In this paper,他们使用递归神经网络(RNN)对源序列进行编码,即 RNN 逐个读取源序列中的各个元素。一旦完成,编码器就会清楚地知道源序列是什么。

您使用编码器的最后状态并将此附加信息提供给解码器(它基本上是一个语言模型)以逐个元素生成目标序列。

对于您的情况,您可以使用它来生成响应。假设您有两个用户之间的聊天消息。现在用户 1 的聊天消息将是源序列,用户 2 的相应回复将是目标序列。培训是按照论文中的说明进行的。训练后的模型将尝试模仿用户 2 的响应。