En modell som memorerar träningsdata misslyckas på nya exempel. En modell som ignorerar nyanser missar mönster helt och hållet. Spänningen mellan dessa fellägen är avvägningen mellan bias och varians, och den formar nästan alla beslut inom maskininlärning.

Bias mäter fel från alltför enkla antaganden. Hög bias betyder underanpassning. Varians mäter känslighet för små fluktuationer i träningsdata. Hög varians betyder överanpassning. Totalt fel kombinerar båda, plus oreducerbart brus.

Typiska signaler

• Högt träningsfel, högt testfel, underanpassning
• Lågt träningsfel, högt testfel, överanpassning
• Både låg, välsittande modell
• Båda höga, fel modellfamilj

Modern praxis komplicerar den klassiska kurvan. Stora neurala nätverk kan uppnå låg bias och låg varians samtidigt, vilket äldre teori inte förutspådde. Regularisering, mer data och ensemblering är fortfarande standardverktyg för att hantera avvägningen.