双向循环神经网络 (bi-RNN) 是一种神经网络架构，旨在通过正向和反向分析序列数据来处理它。与标准 RNN 按照时间顺序（从过去到未来）处理序列不同，bi-RNN 使用两个独立的隐藏层：一个按自然顺序处理序列，另一个按反向处理序列。两个层的输出通常被组合起来（例如，通过连接或求和）以提供全面的表示，捕获序列中过去和未来元素的上下文。这使得 bi-RNN 特别适用于理解序列的完整上下文至关重要的任务，例如自然语言处理 (NLP) 或时间序列分析。
bi-RNN 的架构由两个独立的 RNN 层组成。前向层从头到尾处理输入序列，而后向层从尾到头处理序列。对于序列中的每个时间步长，最终输出通过合并来自两个方向的隐藏状态得出。例如，在词性标注等 NLP 任务中，一个词的含义可能取决于周围的词。bi-RNN 可以利用前面的词和后面的词来确定正确的标注。常见的实现方式是在每个方向使用长短期记忆 (LSTM) 或门控循环单元 (GRU) 单元来处理长期依赖关系并缓解梯度消失问题。这种双向方法使模型能够捕获单向 RNN 可能遗漏的模式。
bi-RNN 广泛应用于需要上下文感知预测的场景。例如，在语音识别中，音频信号通过分析过去和未来的音频帧来准确转录音素，从而受益。类似地，在机器翻译中，双向编码器有助于在生成翻译之前捕获句子的完整含义。然而，bi-RNN 也有权衡：由于需要处理序列两次，它们需要更多的计算资源，并且不能用于未来数据不可用的实时场景（例如，实时语音处理）。尽管存在这些限制，但像 TensorFlow 和 PyTorch 这样的框架提供了内置的双向 RNN 层，使开发者可以在上下文至关重要的任务中方便地实现它们。