评估可解释人工智能 (XAI) 方法的有效性，需要衡量它们在多大程度上帮助用户理解模型的行为、验证其正确性以及信任其输出。这一过程通常侧重于三个核心标准：**解释的准确性**、**目标受众的可用性**以及**计算效率**。每个标准都需要特定的评估技术，这些技术通常结合了定量指标和定性反馈。
首先，**准确性**衡量 XAI 方法是否正确识别了影响模型决策的因素。例如，在图像分类中，突出显示对预测至关重要的像素的显著性图应与模型的实际推理过程一致。测试这一点可能涉及扰动突出显示的区域，并检查模型输出是否如预期发生变化。对于表格数据，可以通过将特征重要性得分与合成数据集中的真实贡献进行比较来验证 SHAP 或 LIME 等方法。如果 XAI 方法始终错误地表示特征重要性——例如，过度强调不相关的变量——则说明它未能通过准确性测试。开发人员还可以使用诸如健全性检查之类的基准测试，在这些测试中，当模型参数随机化时，解释应可预测地退化。
其次，**可用性**评估解释对于目标用户是否具有可操作性。为开发人员设计的方法可能会优先考虑技术细节（例如，Transformer 模型中的注意力权重），而为最终用户设计的方法可能需要简化的可视化。用户研究在此至关重要：开发人员可以衡量任务成功率，例如领域专家使用解释纠正模型错误的效率。例如，在医疗诊断中，有助于临床医生识别虚假相关性（例如，依赖于扫描仪伪影的模型）的 XAI 工具比产生不透明输出的工具表现出更高的可用性。调查和 A/B 测试也可以揭示解释是否提高了信任度或减少了困惑。
最后，**计算效率**决定了实用性。集成梯度或反事实解释等 XAI 方法必须在速度和资源使用与价值之间取得平衡。对于实时应用，生成解释需要几分钟的方法（例如，复杂的特征交互）可能无法使用，而更快的近似方法（例如，SHAP 用于基于树的模型的 TreeSHAP）更可取。开发人员应在不同数据量下对运行时、内存使用和可伸缩性进行基准测试。例如，LIME 的局部代理模型对于高维数据可能效率低下，而像 Grad-CAM 这样的基于梯度的方法对于卷积神经网络的伸缩性则更可预测。
总之，有效的 XAI 评估结合了技术验证（准确性）、以用户为中心的测试（可用性）和性能分析（效率）。通过在这些维度上迭代，开发人员可以选择与模型要求和用户需求都一致的方法。