用户反馈在提高可解释性 AI (XAI) 系统的清晰度、准确性和可用性方面起着关键作用。 这些系统旨在让用户能够理解 AI 的决策，但其有效性取决于解释是否符合用户需求。 反馈有助于识别系统提供的和用户实际需要的之间的差距。 例如，一个医疗诊断工具可能会使用患者难以理解但医生可以理解的技术术语来生成解释。 通过收集两组用户的反馈，开发人员可以调整解释以匹配受众的专业知识——简化患者的语言，同时保留专业人员的详细信息。 这个迭代过程确保解释既准确又易于理解。
反馈还有助于完善 XAI 系统的技术组件。 解释通常依赖于诸如特征重要性评分或决策树之类的方法，这些方法可能并不总是能捕捉到用户关心的细微之处。 例如，在贷款审批系统中，用户可能会质疑为什么他们的申请被拒绝。 如果解释引用“信用评分低”，但用户认为他们的评分足够高，则反馈可以揭示模型逻辑与现实世界背景之间的不匹配。 然后，开发人员可以审核模型是否存在偏差、调整特征权重或提高数据质量。 在一个案例中，一个零售推荐系统最初强调购买历史作为建议的主要因素，但用户反馈显示，季节性趋势同样重要。 这导致重新训练模型以平衡这两个特征，使解释更加准确。
最后，用户反馈可以培养对 AI 系统的信任和采用。 当解释不清楚或不相关时，用户可能会不信任该技术。 例如，一个将交易标记为“高风险”但没有上下文的欺诈检测工具可能会让客户和支持团队都感到沮丧。 通过征求反馈，开发人员可以向解释添加特定细节（如地理异常或消费模式），从而减少混淆。 反馈循环还支持自定义。 开发人员可以创建一个仪表板，用户可以在其中对解释进行评分或建议缺失的因素，然后系统会将其纳入其中。 随着时间的推移，这会创建一个循环，其中解释会不断发展以解决用户的疑虑，使 AI 更加可靠和透明。 从本质上讲，反馈弥合了技术透明度和实际可用性之间的差距，确保 XAI 系统在现实场景中交付价值。