语音识别中的延迟是指用户说话与系统产生可用输出（例如文本或命令响应）之间的时间延迟。此延迟从捕获音频输入（例如通过麦克风）的时刻开始测量，直到最终处理结果被传递为止。例如，如果您向语音助手提问，延迟包括传输音频、使用模型处理音频以及返回答案所需的时间。高延迟会使交互感觉迟钝，而低延迟则能创造流畅的实时体验。
有几个技术因素会影响延迟。首先，语音识别模型的复杂性是其中一个因素。循环神经网络 (RNN) 或 Transformer 等深度学习模型可以实现高精度，但需要更多的计算，从而增加处理时间。其次，流式处理与批量处理会影响延迟。流式处理系统会增量处理音频（例如逐字处理），这会减少感知到的延迟；而批量处理则会等待完整的音频片段后才开始处理，从而增加滞后。第三，在基于云的系统中，网络延迟也很重要：将音频发送到远程服务器会因往返通信而引入延迟。例如，依赖云 API 的智能家居设备可能会比设备上的模型具有更高的延迟。硬件限制（例如边缘设备上有限的 CPU/GPU 功率）也可能导致处理速度变慢。
延迟之所以重要，是因为它直接影响用户体验和系统可用性。在实时应用程序（如实时字幕或语音控制工具）中，超过 200-300 毫秒的延迟会变得明显且令人沮丧。例如，带延迟字幕的视频通话可能与语音不同步，从而降低可访问性。开发人员必须平衡准确性和速度：优化模型（例如模型剪枝、量化）或使用混合方法（部分设备端处理）可以减少延迟，而不会牺牲太多准确性。此外，基于云的系统中的高延迟由于资源使用时间延长而增加运营成本。对于需要即时性的应用程序（如语音助手、实时翻译或工业语音命令），优先考虑低延迟至关重要，因为响应速度决定了产品的有效性。