En model, der forudsiger den gennemsnitlige pris for hvert hus, uanset størrelse, beliggenhed eller alder, er underfitting. Den har ikke lært nok struktur til at være nyttig. Underfitting sker, når modellen er for simpel, træningstiden for kort, eller funktionerne for svage til at indfange mønsteret i dataene.

Symptomet er let at få øje på: dårlig ydeevne på selve træningssættet. I modsætning til overfitting, hvor en model husker støj og fejler på nye data, fejler underfitting overalt. En ret linje, der forsøger at tilpasse en kurve, vil misse både træningspunkterne og testpunkterne.

Typiske årsager

• Modelkapaciteten er for lav i forhold til problemets kompleksitet
• For få træningsperioder eller en indlæringshastighed, der går i stå
• Manglende eller dårligt udviklede inputfunktioner
• Overdreven regularisering, der begrænser vægtene for meget

Løsningen er normalt at øge kapaciteten, træne længere eller give modellen bedre input. Nogle gange er problemet slet ikke modellen, men dataene: hvis signalet er begravet i støj, vil ingen arkitektur kunne redde det. Tidlig diagnosticering af undertilpasning sparer uger med spildt tuning.