Uma única divisão entre conjuntos de treino e teste pode ser enganadora. O modelo pode ter sorte ou azar, dependendo de quais os exemplos que vão parar a cada conjunto. A validação cruzada reduz este risco ao alternar os dados que servem como conjunto de teste.

Na validação cruzada k-fold, os dados são divididos em k partes iguais. O modelo é treinado em k-1 partes e validado na parte restante. O processo repete-se k vezes, com cada dobra a servir como validação. A média dos resultados é então calculada para obter uma estimativa mais estável.

variantes comuns

• Dobra K, tipicamente cinco ou dez dobras
• k-fold estratificado, preservando as proporções das classes
• Validação de um elemento excluído, em que k é igual ao número de amostras.
• Divisão de séries temporais, respeitando a ordem temporal.

Os custos da validação cruzada são calculados. Treinar k modelos demora k vezes mais tempo do que treinar um. Em conjuntos de dados grandes, um único conjunto de validação externa é geralmente suficiente. Em conjuntos pequenos, a validação cruzada compensa o custo.