En enda tåg-test-delning kan vara vilseledande. Modellen kan ha tur eller otur beroende på vilka exempel som hamnar i varje uppsättning. Korsvalidering minskar den risken genom att rotera vilka data som fungerar som testuppsättning.

Vid k-faldig korsvalidering delas data in i k lika delar. Modellen tränas på k-1 delar och validerar på den återstående. Upprepa k gånger, där varje vikning fungerar som validering. Medelvärdet av resultaten för en mer stabil uppskattning.

Vanliga varianter

• K-vikning, vanligtvis fem eller tio vikningar
• Stratifierad k-fald, bevarar klassproportioner
• Utelämna ett, k är lika med antalet prover
• Tidsserieuppdelning, med respekt för tidsordning

Korsvalideringskostnaderna beräknas. Att träna k modeller tar k gånger längre tid än att träna en enda. På stora datamängder räcker det ofta med en enda holdout-mängd. På små datamängder är korsvalidering värt kostnaden.