Model, který dosahuje 99 procent výsledků na trénovacích datech a 60 procent na nových datech, se poučil špatně. Přeučení znamená zapamatování si šumu a zvláštností místo základního vzorce a je to nejčastější selhání v aplikovaném strojovém učení.

Signály lze snadno rozpoznat. Ztráty při trénování neustále klesají, zatímco ztráty při validaci rostou. Model si vede dobře na příkladech, které viděl, a špatně na všech ostatních. Složitost, malé datové sady a dlouhé trénování – to vše zvyšuje riziko.

Běžná protiopatření

• Více tréninkových dat
• Regularizace, jako je úbytek hmotnosti
• Výpadek během tréninku
• Předčasné zastavení z důvodu ztráty validace
• Jednodušší architektury modelů
• Rozšíření dat

Opačným problémem je nedostatečné přizpůsobení, kdy je model příliš jednoduchý na to, aby vůbec zachytil daný vzorec. Cílem je střední cesta, kdy model zobecňuje bez memorování.