可解释性 AI (XAI) 方法对模型性能的影响因方法和实现而异。一些 XAI 技术对性能的影响很小或没有直接影响，而另一些技术可能会在可解释性和准确性之间进行权衡。 例如，诸如 SHAP (SHapley Additive exPlanations) 或 LIME (Local Interpretable Model-agnostic Explanations) 等事后解释方法在训练后分析模型，而不改变其架构或权重。 这些方法本质上不会降低性能，因为它们与模型的核心功能分开运行。 但是，它们需要额外的计算时间来生成解释，如果需要在运行时进行解释，这可能会影响实时应用程序。
相比之下，修改模型本身的 XAI 技术（例如，使用诸如决策树或线性模型等固有可解释的架构）通常会牺牲预测能力来换取透明度。 例如，与决策树相比，深度神经网络可能在诸如图像识别等复杂任务上获得更高的准确性，但后者更容易解释。 类似地，诸如transformer中的注意力机制等技术可以通过突出显示相关的输入特征来增强可解释性，但它们可能会在训练或推理期间增加计算开销。 在某些情况下，XAI 施加的约束（例如，强制特征选择中的稀疏性）甚至可以通过减少过度拟合来改善泛化，尽管这取决于问题和数据。
XAI 的影响还取决于开发人员如何将其集成到工作流程中。 例如，使用 XAI 调试或完善模型（例如，识别有偏差的特征）可能会通过解决训练数据或架构中的缺陷来间接提高性能。 但是，如果 XAI 方法应用不当（例如，添加过多的正则化来强制简化），它们可能会降低准确性。 一个实际的例子是在神经网络中使用逐层相关性传播 (LRP)：虽然它阐明了哪些输入特征会影响预测，但实施 LRP 需要仔细调整以避免误解相关性分数，这可能会导致错误的模型调整。 最终，XAI 与性能之间的关系取决于上下文，需要开发人员在透明度目标与技术约束之间取得平衡。