Egy olyan modell, amely 99 százalékos eredményt ér el a betanítási adatokon és 60 százalékosat az új adatokon, rossz leckét tanult meg. A túlillesztés azt jelenti, hogy a rendszer zajt és sajátosságokat jegyez meg a mögöttes minta helyett, és ez a leggyakoribb hiba az alkalmazott gépi tanulásban.

A jelek könnyen észrevehetők. A betanítási veszteség folyamatosan csökken, míg az érvényesítési veszteség növekszik. A modell jól teljesít a már látott példákon, de rosszul minden máson. A komplexitás, a kis adathalmazok és a hosszú betanítási idő mind növeli a kockázatot.

Gyakori ellenintézkedések

• További edzésadatok
• Regularizáció, például súlycsökkenés
• Kiesés a képzés során
• Korai leállítás érvényesítési veszteség alapján
• Egyszerűbb modellarchitektúrák
• Adatkiegészítés

Az alulilleszkedés az ellenkező probléma, ahol a modell túl egyszerű ahhoz, hogy egyáltalán leképezze a mintázatot. A cél az arany középút, ahol a modell általánosít anélkül, hogy memorizálna.