低功耗设备上的语音识别需要在计算效率和能源约束之间取得平衡。这些设备，如可穿戴设备或物联网传感器，通常依赖电池或能量收集，因此最大限度地降低功耗至关重要。主要的能源需求来自处理音频数据（例如，特征提取和神经网络推理）以及维持始终开启的麦克风。例如，唤醒词检测系统必须持续监听触发短语，即使在空闲状态下也会消耗功率。开发人员必须优化硬件和软件，以在不牺牲准确性的前提下减少能源消耗。
关键优化包括使用轻量级模型和高效的预处理。传统的语音识别模型，如深度神经网络（DNN），可能计算密集型，但诸如量化（将数值精度从 32 位降低到 8 位）、剪枝（删除冗余模型权重）和模型压缩（例如，转换为 TensorFlow Lite 格式）等技术可以显著降低能源消耗。例如，微控制器上的关键词识别模型在推理过程中可能使用 10-50 毫瓦，而完整的语音转文本系统可能需要 100+ 毫瓦。此外，诸如降噪或梅尔频率倒谱系数（MFCC）提取之类的预处理步骤应针对定点算术或硬件加速进行优化，以避免 CPU 瓶颈。诸如 Arm CMSIS-DSP 或专用数字信号处理器（DSP）之类的框架可以分担这些任务，从而降低整体能源消耗。
硬件选择和系统架构也起着重要作用。低功耗设备通常集成专用 AI 加速器（例如，谷歌的 Coral Edge TPU）或使用具有睡眠模式的微控制器，以最大限度地减少空闲功耗。例如，设备可能会使其主处理器保持深度睡眠状态（消耗微安），而低功耗协处理器则处理唤醒词检测。开发人员可以通过限制采样率（例如，语音命令使用 8 kHz 而不是 16 kHz）或批量推理以避免频繁的唤醒周期来进一步降低能源消耗。亚马逊 Echo 设备上的 Alexa 等实际应用展示了这种平衡：本地处理处理基本命令（节省云往返能源），而复杂的查询则被卸载。使用 Nordic Semiconductor 的 Power Profiler 或能量感知模拟器之类的工具进行测试有助于开发人员识别和解决管道中的耗电组件。