深度学习涉及哪些算法?

Which algorithms involves in deep learning?

到目前为止,我知道深度学习是机器学习的一个子集。我知道一些算法及其在机器学习中的实现,如 KNN、朴素贝叶斯等。是否有任何特定的算法集来表示和实现深度学习?

混合特定 ML 概念的 "algorithm"、"method"、"model" 和 "implementation" 的概念是一种常见的误解。 ML 社区中定义的大多数东西是模型或方法,而不是算法或实现。粗略地说:

  • 模型以数学equations/formulas形式表示实际、真实过程的一种形式。其中一个模型可以是最近邻分类器或线性分类器
  • 方法通常是一种解决寻找模型[=61=参数的问题的形式] 使用一些数据(例如 梯度方法 优化,通常用于训练 ML 模型)
  • 算法是一组指令集,通常在一些伪代码中显示了为了创建一个人需要做的确切操作给定 方法 .
  • 的一些 实现
  • 最终实现是一个,特别是一段代码实现了一些抽象算法

所以现在,深度学习只是ML中的一个笼统概念,还没有明确的定义,虽然它经常被用来与模型相关涉及数据表示的分层抽象 以及 训练此类模型的方法

最常见的深度学习模型是深度神经网络,换句话说神经网络有多个(多少?它是一个公开辩论,有人说 5,其他 10 或 30)非线性隐藏层。部分型号包括:

  • 深度玻尔兹曼机 (DBM)
  • 深度自动编码器 (DAE)
  • 深度卷积神经网络 (DCNN)
  • 循环神经网络 (RNN)

一般models可以deep,可以有方法,算法for深度学习或算法深度学习的实现。其中一些算法是

  • 对比发散 (CD)
  • 持续对比发散 (PCD)

用于训练 DBM

深度学习是受人脑工作启发的机器学习的一个子集。它涉及训练大量神经元,这些神经元建立起来形成一个模型,然后使用该模型来预测一些新的观察结果。 深度学习有两类学习,涉及各种类型的模型(不应称为算法)如下所述:

  1. 监督深度学习:在监督下学习,即提供大量输入和输出数据集并训练模型,然后使用该训练模型来预测新观察数据的输出。 主要有三种深度学习模型

人工神经网络:用于回归和分类。示例简单文本数据。

卷积神经网络:用于图像分类和计算机视觉。

递归神经网络:用于时间序列分析和长短期记忆。从一种语言到另一种语言的翻译示例。

  1. 无监督深度学习:自行学习。主要有三种型号:

自组织映射:用于特征检测

深度玻尔兹曼机:用于推荐系统

自动编码器:用于推荐系统

深度学习涉及以下算法:

深度学习可以定义为在四种基本网络架构之一中具有大量参数和层的神经网络。

  • 无监督预训练网络。
  • 卷积神经网络。
  • 递归神经网络。
  • 递归神经网络。