Модель, которая показывает 99 процентов результатов на обучающих данных и 60 процентов на новых данных, усвоила неверный урок. Переобучение означает запоминание шума и особенностей вместо скрытых закономерностей, и это наиболее распространенная ошибка в прикладном машинном обучении.

Сигналы легко заметить. Ошибка обучения постоянно снижается, в то время как ошибка валидации растет. Модель хорошо работает на примерах, которые она уже видела, и плохо на всех остальных. Сложность, небольшие наборы данных и длительное обучение — все это повышает риск.

Общие контрмеры

• Больше обучающих данных
• Регуляризация, например, снижение веса.
• Прекратил обучение во время тренировки
• Досрочная остановка на основе потерь при валидации
• Более простые архитектуры моделей
• Расширение данных

Недостаточное обучение — это противоположная проблема, когда модель слишком проста, чтобы вообще уловить закономерность. Цель — найти золотую середину, когда модель обобщает, не запоминая ничего.