AI 中的内在可解释性方法指的是模型的结构或设计本身使其决策过程易于理解的技术。 与事后方法（在模型做出预测后应用解释）不同，内在方法从一开始就优先考虑透明度。 这些模型是使用架构或算法构建的，这些架构或算法自然地揭示了输入如何与输出相关联，从而使开发人员无需其他工具即可追踪预测背后的逻辑。 示例包括决策树、线性模型和基于规则的系统，其中内部机制（如特征权重或决策拆分）可以直接解释。
内在方法的一个主要优势是它们与调试和验证工作流程的一致性。 例如，决策树明确显示了如何使用特征将数据拆分为分支，使开发人员能够审核诸如“如果年龄 > 30，则预测类别 A”之类的标准。 同样，线性回归系数量化了每个特征对输出的贡献，从而可以轻松识别有影响力的变量。 这种透明度在受监管的行业（例如，医疗保健或金融）中尤其有价值，在这些行业中，利益相关者需要验证合规性或公平性。 但是，这些模型通常会牺牲预测能力来换取可解释性——更简单的结构可能难以处理深度学习模型可以更好地处理的复杂模式。 开发人员必须根据用例要求权衡这种权衡。
内在可解释性的实际应用包括用于信用评分的逻辑回归（其中系数证明批准/拒绝是合理的）或用于医疗诊断的基于规则的系统（例如，“如果症状 X 和实验室结果 Y，建议治疗 Z”）。 最近的进展，例如 transformer 中的注意力机制，也通过突出显示模型在预测期间关注的输入片段来提供部分内在可解释性。 虽然不是完全透明，但这些混合方法提供了对复杂模型的见解。 对于开发人员来说，选择内在可解释的方法取决于在准确性需求与所需审查级别之间取得平衡。 当透明度不可协商时，具有清晰逻辑的更简单的模型通常优于“黑匣子”，即使它们的性能略低。