递归神经网络（RNN）原理和模型概述
rnn是最强大的模型之一，它使我们能够开发如分类、序列数据标注、生成文本序列（例如预测下一输入词的swiftkey keyboard应用程序），以及将一个序列转换为另一个序列（比如从法语翻译成英语的语言翻译）等应用程序。大多数模型架构（如前馈神经网络）都没有利用数据的序列特性。例如，我们需要数据呈现出向量中每个样例的特征，如表示句子、段落或文档的所有token。前馈网络的设计只是为了一次性地查看所有特征并将它们映射到输出。让我们看一个文本示例，它显示了为什么顺序或序列特性对文本很重要。i had cleaned my car和i had my car cleaned两个英文句子，用同样的单词，但只有考虑单词的顺序时，它们才意味着不同的含义。
人类通过从左到右阅读词序列来理解文本，并构建了可以理解文本数据中所有不同内容的强大模型。rnn的工作方式有些许类似，每次只查看文本中的一个词。rnn也是一种包含某特殊层的神经网络，它并不是一次处理所有数据而是通过循环来处理数据。由于rnn可以按顺序处理数据，因此可以使用不同长度的向量并生成不同长度的输出。图6.3提供了一些不同的表示形式。
图6.3
图6.3来自关于rnn一个著名博客（http://karpathy.github.io/2015/05/21/rnn-effectiveness），其中作者andrej karpathy写明了如何使用python从头开始构建rnn并将其用作序列生成器。
6.4.1 通过示例了解rnn如何使用
假设我们已经构建了一个rnn模型，并且尝试了解它提供的功能。当了解了rnn的作用后，就可以来探讨一下rnn内部发生了什么。
让我们用thor的评论作为rnn模型的输入。我们正在看的示例文本是the action scenes were top notch in this movie... .首先将第一个单词the传递给模型；该模型生成了状态向量和输出向量两种不同的向量。状态向量在处理评论中的下一个单词时传递给模型，并生成新的状态向量。我们只考虑在最后一个序列中生成的模型的输出。图6.4概括了这个过程。
图6.4
图6.4演示了以下内容：
rnn如何通过展开和图像来工作；
状态如何以递归方式传递给同一模型。
到现在为止，我们只是了解了rnn的功能，但并不知道它是如何工作的。在了解其工作原理之前来看一些代码片段，它会更详细地展示我们学到的东西。仍然将rnn视为黑盒：
在上述代码中，hidden变量表示状态向量，有时也称为隐藏状态。到现在为止，我们应该知道了如何使用rnn。现在来看一下实现rnn的代码，并了解rnn内部发生的情况。以下代码包含rnn类：
除了上述代码中的单词rnn之外，其他一切听起来与在前面章节中使用的非常类似，因为pytorch隐藏了很多反向传播的复杂度。让我们通过init函数和forward函数来了解发生了什么。
__init__函数初始化了两个线性层，一个用于计算输出，另一个用于计算状态或隐藏向量。
forward函数将input向量和hidden向量组合在一起，并将其传入两个线性层，从而生成输出向量和隐藏状态。对于output层，我们应用log_softmax函数。
inithidden函数有助于创建隐藏向量，而无需在第一次时声明调用rnn。让我们通过图6.5了解rnn类的作用。
图6.5
图6.5说明了rnn的工作原理。
浦发将发布手机支付产品 支持NFC支付技术
基于拓扑型微米叶传感电极的压力传感器设计
行业应用|光谱共焦在锂电池电极表面粗糙度测量
Panasonic、特斯拉携手在美生产太阳能！传已签10年约
大数据工程师的职业发展前景具体如何
递归神经网络（RNN）原理和模型概述
瑞萨电子推出面向4G/5G小说新型射频放大器产品
广凌校园安全整体解决方案：人、车、物、环境全方位管理
我国半导体产业城市“华山论剑”
碳材料在能量存储与转化器中起重要作用
薄膜电容如何拔高OBC性能？
串行背板技术面临新挑战 Xilinx推出串行背板解决方案
孟晚舟被捕事件未完 梁华将暂代华为CFO
东芝近日推出的一款基于windows10的分离式AR智能眼镜
如何将光学旋转编码器与Arduino连接
中国的芯片设计企业数量世界第一，实际水平也达到世界第二名
我国科学家正在进行柔性航天器的研究
抽油烟机自动控制电路图
MAX8982A/MAX8982X用于ICERA平台的电源管
OPPO和VIVO的手机处理器很一般，但是使用起来还是很流畅！
人类通过从左到右阅读词序列来理解文本，并构建了可以理解文本数据中所有不同内容的强大模型。rnn的工作方式有些许类似，每次只查看文本中的一个词。rnn也是一种包含某特殊层的神经网络，它并不是一次处理所有数据而是通过循环来处理数据。由于rnn可以按顺序处理数据，因此可以使用不同长度的向量并生成不同长度的输出。图6.3提供了一些不同的表示形式。
图6.3
图6.3来自关于rnn一个著名博客（http://karpathy.github.io/2015/05/21/rnn-effectiveness），其中作者andrej karpathy写明了如何使用python从头开始构建rnn并将其用作序列生成器。
6.4.1 通过示例了解rnn如何使用
假设我们已经构建了一个rnn模型，并且尝试了解它提供的功能。当了解了rnn的作用后，就可以来探讨一下rnn内部发生了什么。
让我们用thor的评论作为rnn模型的输入。我们正在看的示例文本是the action scenes were top notch in this movie... .首先将第一个单词the传递给模型；该模型生成了状态向量和输出向量两种不同的向量。状态向量在处理评论中的下一个单词时传递给模型，并生成新的状态向量。我们只考虑在最后一个序列中生成的模型的输出。图6.4概括了这个过程。
图6.4
图6.4演示了以下内容：
rnn如何通过展开和图像来工作；
状态如何以递归方式传递给同一模型。
到现在为止，我们只是了解了rnn的功能，但并不知道它是如何工作的。在了解其工作原理之前来看一些代码片段，它会更详细地展示我们学到的东西。仍然将rnn视为黑盒：
在上述代码中，hidden变量表示状态向量，有时也称为隐藏状态。到现在为止，我们应该知道了如何使用rnn。现在来看一下实现rnn的代码，并了解rnn内部发生的情况。以下代码包含rnn类：
除了上述代码中的单词rnn之外，其他一切听起来与在前面章节中使用的非常类似，因为pytorch隐藏了很多反向传播的复杂度。让我们通过init函数和forward函数来了解发生了什么。
__init__函数初始化了两个线性层，一个用于计算输出，另一个用于计算状态或隐藏向量。
forward函数将input向量和hidden向量组合在一起，并将其传入两个线性层，从而生成输出向量和隐藏状态。对于output层，我们应用log_softmax函数。
inithidden函数有助于创建隐藏向量，而无需在第一次时声明调用rnn。让我们通过图6.5了解rnn类的作用。
图6.5
图6.5说明了rnn的工作原理。
浦发将发布手机支付产品 支持NFC支付技术
基于拓扑型微米叶传感电极的压力传感器设计
行业应用|光谱共焦在锂电池电极表面粗糙度测量
Panasonic、特斯拉携手在美生产太阳能！传已签10年约
大数据工程师的职业发展前景具体如何
递归神经网络（RNN）原理和模型概述
瑞萨电子推出面向4G/5G小说新型射频放大器产品
广凌校园安全整体解决方案：人、车、物、环境全方位管理
我国半导体产业城市“华山论剑”
碳材料在能量存储与转化器中起重要作用
薄膜电容如何拔高OBC性能？
串行背板技术面临新挑战 Xilinx推出串行背板解决方案
孟晚舟被捕事件未完 梁华将暂代华为CFO
东芝近日推出的一款基于windows10的分离式AR智能眼镜
如何将光学旋转编码器与Arduino连接
中国的芯片设计企业数量世界第一，实际水平也达到世界第二名
我国科学家正在进行柔性航天器的研究
抽油烟机自动控制电路图
MAX8982A/MAX8982X用于ICERA平台的电源管
OPPO和VIVO的手机处理器很一般，但是使用起来还是很流畅！