Model zapamiętujący dane treningowe zawodzi w nowych przykładach. Model ignorujący niuanse całkowicie pomija wzorce. Napięcie między tymi trybami awarii to kompromis między odchyleniem a wariancją, który wpływa na niemal każdą decyzję w uczeniu maszynowym.
Błąd systematyczny mierzy błąd wynikający ze zbyt prostych założeń. Wysoki błąd systematyczny oznacza niedopasowanie. Wariancja mierzy wrażliwość na niewielkie fluktuacje w danych treningowych. Wysoka wariancja oznacza przeuczenie. Błąd całkowity łączy oba te czynniki, a także nieredukowalny szum.
Typowe sygnały
- Wysoki błąd szkolenia, wysoki błąd testowania, niedopasowanie
- Niski błąd szkolenia, wysoki błąd testowania, nadmierne dopasowanie
- Oba modele niskie i dobrze dopasowane
- Oba wysokie, zły model rodziny
Współczesna praktyka komplikuje klasyczną krzywą. Duże sieci neuronowe mogą jednocześnie osiągać niskie odchylenie i niską wariancję, czego nie przewidywała starsza teoria. Regularyzacja, większa ilość danych i zestawianie wyników pozostają standardowymi narzędziami zarządzania kompromisem.
Comments
No comments yet. Be the first to share a thought.
Leave a comment