人机协作 (Human-in-the-loop, HITL) 在可解释人工智能 (Explainable AI, XAI) 中扮演着关键角色，它确保人类专业知识能够指导人工智能系统的开发、验证和改进，从而使其决策变得可理解且值得信赖。HITL 将人类判断整合到关键阶段——例如数据标注、模型训练和输出解释——以弥合复杂人工智能行为与实际可解释结果之间的鸿沟。这种协作有助于开发者识别模型逻辑中的不足、验证解释，并使人工智能的行为符合现实世界的预期，这对于医疗保健或金融等高风险应用至关重要。
HITL 增强 XAI 的一个关键领域是验证模型解释。例如，医疗诊断人工智能可能会突出显示 X 光片中用于预测肿瘤的特征。放射科医生可以审查这些解释，以确认高亮区域（例如，肺组织 vs. 成像伪影）是否具有医学相关性。如果模型关注了不相关的区域，开发者可以调整训练数据或修改解释算法。类似地，在信用评分中，信贷员可能会测试人工智能拒绝贷款的理由（例如，“低收入”）是否符合机构政策。如果没有人工监督，模型可能会生成听起来合理但具有误导性的解释，例如将邮政编码与风险相关联，而不是与收入相关联。
HITL 还支持人工智能系统的迭代改进。开发者可以利用领域专家的反馈来改进模型性能和解释的清晰度。例如，在欺诈检测系统中，分析师可能会注意到人工智能根据购买时间标记交易为可疑，但未能解释时间与欺诈模式的关系。团队可以重新训练模型，使其侧重于更有意义的特征，如交易金额或频率，并更新解释界面以反映这些变化。此外，HITL 有助于平衡自动化与透明度——自动化处理日常决策，同时将复杂案例升级给人工审查。这种方法确保系统既高效又可审计，从而增强最终用户对人工智能提供清晰、可操作洞察的信任。