SHAP (Shapley Additive Explanations，沙普利加和解释) 是一种用于解释机器学习模型输出的方法，它为每个特征分配一个重要性值，用于特定的预测。 它基于 Shapley 值，这是合作博弈论中的一个概念，用于衡量每个参与者对集体结果的贡献。 在机器学习中，特征被视为游戏中的“玩家”，其中预测是结果。 SHAP 计算每个特征对特定实例的模型预测与数据集的平均预测之间的差异贡献了多少。 例如，在信用评分模型中，SHAP 可以显示申请人的低收入对他们的贷款拒绝贡献了 -10%，而不良信用记录贡献了 +15%，帮助开发人员了解模型做出该决定的原因。
SHAP 通过系统过程评估每个特征的影响来工作。 对于给定的预测，它会考虑所有可能的特征组合，并计算它们的边际贡献。 这涉及测试当包含或排除某个特征时预测如何变化，并在所有可能的特征排序中进行平均。 虽然这种方法在理论上是合理的，但对于具有许多特征的模型来说，计算成本可能很高。 为了解决这个问题，SHAP 提供了优化的实现，例如 Kernel SHAP（模型无关的近似）和 Tree SHAP（用于基于树的模型的有效计算）。 例如，在预测患者风险的医疗保健模型中，Tree SHAP 可能会揭示年龄和胆固醇水平是高风险预测的主要贡献者，而运动习惯的影响较小。 SHAP 值还遵守局部准确性等属性，确保所有特征贡献的总和等于预测与基线（例如，数据集平均值）之间的差异。
开发人员经常使用 SHAP，因为它提供了跨不同模型类型的一致、可解释的结果。 例如，Python shap 库提供了诸如摘要图（显示全局特征重要性）和力图（可视化单个预测）之类的工具。 SHAP 优于 LIME（局部可解释的模型无关解释）等方法的一个关键优势是它的理论基础——它保证特征归因是公平分配的，避免了解释中的矛盾。 但是，对于大型模型或数据集，SHAP 可能会很慢，需要在准确性和速度之间进行权衡。 实际应用包括调试模型（例如，识别意外的特征依赖性）、审计以符合法规或向非技术利益相关者传达模型行为。 通过量化特征影响，SHAP 帮助开发人员确保模型是透明、可靠且与领域知识对齐的。