单一的训练集-测试集划分可能会产生误导。模型的拟合效果可能因样本被分配到哪个数据集而有所不同。交叉验证通过轮换使用不同的数据集作为测试集来降低这种风险。

在 k 折交叉验证中，数据被分成 k 个相等的部分。模型用 k-1 个部分进行训练，并用剩余的一部分进行验证。重复 k 次，每次验证都使用一个部分。取平均值以获得更稳定的估计值。

常见变异

• K 折，通常为五折或十折
• 分层k折交叉验证，保持类别比例
• 留一法，k 等于样本数
• 时间序列按时间顺序分割

交叉验证的成本是可以计算的。训练 k 个模型所需的时间是训练一个模型的 k 倍。对于大型数据集，通常只需一个保留集就足够了。对于小型数据集，交叉验证的成本是值得的。