人工智能中的黑盒模型是指内部决策过程不透明或难以解释的系统。与白盒模型不同，白盒模型的逻辑和数据转换是可见且可解释的，而黑盒模型的操作方式会隐藏输入如何转换为输出。这种不透明性通常源于模型的复杂性，例如具有多层的深度神经网络，或源于隐藏实现细节的专有算法。开发人员主要通过模型的输入和输出来与其交互，而无法清楚地了解中间步骤或特定预测背后的推理。
黑盒模型的常见示例包括深度学习架构，如卷积神经网络 (CNN) 和大型语言模型 (LLM)。 例如，训练用于图像分类的 CNN 可能会将像素数据作为输入并输出诸如“猫”或“狗”之类的标签，但它用于区分类的特定特征或模式无法直接访问。 类似地，当数千个单独的树之间的交互变得过于复杂而无法追踪时，诸如梯度提升决策树（例如 XGBoost）之类的集成方法可能会表现为黑盒。 即使是更简单的模型，例如具有非线性核的支持向量机，当转换为高维空间使得难以可视化决策边界时，也会失去可解释性。
对于开发人员来说，黑盒模型带来了实践和伦理方面的挑战。 当出现错误时，调试变得困难，因为没有直接的方法可以将错误的预测追溯到特定的模型组件。 这种缺乏透明度也使得遵守 GDPR 等法规变得复杂，因为这些法规可能需要对自动化决策做出解释。 为了缓解这些问题，通常使用 LIME（局部可解释模型无关解释）或 SHAP（SHapley 加性解释）等工具，通过生成简化的事后解释来近似模型行为。 虽然黑盒模型通常因其在图像识别或自然语言处理等任务中的卓越性能而被选中，但开发人员必须权衡准确性和可解释性之间的权衡，尤其是在医疗保健或金融等问责制至关重要的高风险领域。