可解释人工智能 (Explainable AI, XAI) 中的模型可问责性确保了 AI 系统具有透明度、可审计性，并对其决策负责。它要求开发者记录模型的构建、测试和部署过程，并为其输出提供清晰的解释。这一点至关重要，因为 AI 系统日益影响着医疗保健、金融和刑事司法等高风险领域。如果没有可问责性，模型中的错误或偏差可能无法被发现，从而导致有害的结果。例如，如果一个贷款审批模型不公平地拒绝了申请，可问责性确保开发者可以追溯到特定的数据或逻辑缺陷并进行纠正。
可问责性还有助于在开发者、用户和监管机构之间建立信任。当模型的行为可解释时，利益相关者可以验证其是否符合道德和法律标准。例如，在医学诊断中，一个突出显示用于肿瘤分类特征（如大小、形状）的模型，可以让医生验证其推理过程。SHAP (SHapley Additive exPlanations) 或 LIME (Local Interpretable Model-agnostic Explanations) 等工具通过量化输入特征如何影响预测来实现这一点。然而，可问责性不仅仅是工具的问题——它还需要严格记录训练数据来源、模型假设和测试协议。例如，一个基于有偏历史数据训练的信用评分模型必须披露这一局限性，以便用户可以相应地调整对其输出的信任度。
最后，模型可问责性对于遵守欧盟 GDPR 等法规至关重要，该法规要求对自动化决策拥有“解释权”。开发者必须设计不仅能产生准确结果，还能记录决策路径以供审计的系统。例如，如果一个 AI 招聘工具拒绝了某位候选人，公司必须提供一个具有法律效力的理由。如果没有可追溯的可问责机制，组织将面临罚款或声誉受损的风险。通过模型版本控制、输入/输出日志记录和偏差监控等技术主动嵌入可问责性，可以确保 AI 系统长期与社会价值观和运营要求保持一致。