交叉验证是一种在预测分析中使用的评估机器学习模型在新数据上的泛化能力的方法。 交叉验证不是在单个训练-测试集上训练模型一次，而是系统地将数据分成多个子集，在这些子集的不同组合上训练模型，并在剩余部分上对其进行测试。 通过减少过度拟合特定数据分割的风险，这种方法提供了更可靠的模型性能估计。 例如，如果您正在构建一个预测房价的模型，交叉验证有助于确保其准确性不会因数据幸运（或不幸）地划分为训练集和测试集而倾斜。
一种常见的实现是 k 折交叉验证，其中数据集被分成k个大小相等的段（或“折叠”）。 模型被训练k次，每次使用k-1个折叠进行训练，并将剩余的折叠作为测试集。 例如，在 5 折交叉验证中，数据被分成五个部分。 模型在四个部分上进行训练，并在第五个部分上进行验证，重复此过程，直到每个折叠都被使用一次进行验证。 这种方法平衡了计算效率和可靠性，因为它平均了多个分割上的性能。 另一种变体是分层 k 折，它保留了每个折叠中的类分布——对于不平衡的数据集很有用，例如欺诈检测中欺诈交易很少见。 时间序列数据可能使用基于时间的交叉验证，其中分割尊重时间顺序，以避免将未来的数据泄露到过去的训练中。
交叉验证对于超参数调整和模型选择等任务尤其有价值。 例如，在决策树和随机森林之间进行选择时，交叉验证通过在相同的数据条件下测试两个模型来提供公平的比较。 然而，它在计算上是密集的——每个折叠都需要重新训练模型——因此开发人员通常会平衡折叠的数量 (k) 与可用资源。 较高的k（例如，10）会减少偏差，但会增加运行时间，而较低的k（例如，3）会更快，但可能会产生更高的方差。 诸如 scikit-learn 的 KFold 和 cross_val_score 等工具可以自动化此过程，使其可供开发人员使用。 通过使用交叉验证，团队可以自信地部署模型，因为他们知道其性能指标反映了真实的鲁棒性。