Việc chỉ sử dụng một phép chia dữ liệu thành tập huấn luyện và tập kiểm tra duy nhất có thể gây hiểu lầm. Mô hình có thể gặp may mắn hoặc không may mắn, tùy thuộc vào việc ví dụ nào được đưa vào mỗi tập dữ liệu. Phương pháp kiểm định chéo giảm thiểu rủi ro đó bằng cách luân phiên dữ liệu nào được sử dụng làm tập kiểm tra.

Trong phương pháp kiểm định chéo k-fold, dữ liệu được chia thành k phần bằng nhau. Mô hình được huấn luyện trên k-1 phần và kiểm định trên phần còn lại. Lặp lại k lần, mỗi fold được sử dụng một lần để kiểm định. Tính trung bình các kết quả để có ước tính ổn định hơn.

Các biến thể phổ biến

• Gấp K, thường là năm hoặc mười lần gấp.
• Phân tích k-fold phân tầng, bảo toàn tỷ lệ các lớp.
• Phương pháp loại trừ từng mẫu, k bằng số lượng mẫu.
• Phân tách chuỗi thời gian, tuân theo thứ tự thời gian.

Chi phí của việc kiểm định chéo được tính toán. Huấn luyện k mô hình mất thời gian gấp k lần so với huấn luyện một mô hình. Trên các tập dữ liệu lớn, một tập dữ liệu kiểm định duy nhất thường là đủ. Trên các tập dữ liệu nhỏ, kiểm định chéo đáng để đầu tư.