Eğitim verilerini ezberleyen bir model yeni örneklerde başarısız olur. Nüansları göz ardı eden bir model ise kalıpları tamamen kaçırır. Bu başarısızlık biçimleri arasındaki gerilim, önyargı-varyans dengesidir ve makine öğrenimindeki neredeyse her kararı şekillendirir.

Önyargı, aşırı basit varsayımlardan kaynaklanan hatayı ölçer. Yüksek önyargı, yetersiz uyum anlamına gelir. Varyans, eğitim verilerindeki küçük dalgalanmalara karşı duyarlılığı ölçer. Yüksek varyans, aşırı uyum anlamına gelir. Toplam hata, her ikisini ve indirgenemez gürültüyü birleştirir.

Tipik sinyaller

• Yüksek eğitim hatası, yüksek test hatası, yetersiz uyum
• Düşük eğitim hatası, yüksek test hatası, aşırı uyum
• Hem alçak, hem de iyi oturan bir model.
• Hem yüksek, hem de yanlış model ailesi

Modern uygulamalar klasik eğriyi karmaşıklaştırıyor. Büyük sinir ağları, eski teorinin öngörmediği şekilde, aynı anda düşük sapma ve düşük varyans elde edebiliyor. Düzenleme, daha fazla veri ve topluluk oluşturma, bu dengeyi yönetmek için standart araçlar olmaya devam ediyor.