Un model care obține un scor de 99% pe datele de antrenament și 60% pe datele noi a învățat lecția greșită. Supraadaptarea înseamnă memorarea zgomotului și a idiosincraziilor în loc de modelul subiacent și este cea mai frecventă eroare în învățarea automată aplicată.

Semnalele sunt ușor de observat. Pierderile din antrenament continuă să scadă, în timp ce pierderile din validare cresc. Modelul are performanțe bune pe exemplele pe care le-a văzut și slabe pe orice altceva. Complexitatea, seturile de date mici și antrenamentul lung cresc riscul.

Contramăsuri comune

• Mai multe date de antrenament
• Regularizare, cum ar fi descreșterea greutății
• Abandon în timpul antrenamentului
• Oprire anticipată bazată pe pierderea validării
• Arhitecturi de model mai simple
• Augmentarea datelor

Subadaptarea este problema opusă, în care modelul este prea simplu pentru a surprinde deloc tiparul. Scopul este găsirea unei soluții intermediare, unde modelul generalizează fără a memora.