Model, który osiąga 99% w danych treningowych i 60% w nowych danych, wyciągnął błędną lekcję. Nadmierne dopasowanie oznacza zapamiętywanie szumu i idiosynkrazji zamiast wzorca leżącego u ich podstaw, i jest to najczęstsza wada w stosowanym uczeniu maszynowym.
Sygnały są łatwe do wykrycia. Strata w procesie uczenia stale spada, a strata w procesie walidacji rośnie. Model działa dobrze na przykładach, które już widział, ale słabo na wszystkich innych. Złożoność, małe zbiory danych i długi czas uczenia zwiększają ryzyko.
Typowe środki zaradcze
- Więcej danych szkoleniowych
- Regularyzacja, taka jak utrata wagi
- Rezygnacja z treningu
- Wczesne zatrzymanie na podstawie utraty walidacji
- Prostsze architektury modeli
- Rozszerzanie danych
Niedopasowanie to odwrotny problem, gdzie model jest zbyt prosty, aby w ogóle uchwycić wzorzec. Celem jest rozwiązanie pośrednie, gdzie model generalizuje bez zapamiętywania.
Comments
No comments yet. Be the first to share a thought.
Leave a comment