Модель, которая предсказывает среднюю цену каждого дома, независимо от его размера, местоположения или возраста, является недообученной. Она не изучила достаточно структур, чтобы быть полезной. Недообучение происходит, когда модель слишком проста, время обучения слишком короткое или признаки слишком слабые, чтобы уловить закономерности в данных.

Симптом легко заметить: низкая производительность на самом обучающем наборе данных. В отличие от переобучения, когда модель запоминает шум и терпит неудачу на новых данных, недообучение терпит неудачу везде. Прямая линия, пытающаяся подогнать кривую, пропустит как обучающие, так и тестовые точки.

Типичные причины

• Возможности модели слишком малы для сложности задачи.
• Слишком мало эпох обучения или темп обучения, который останавливается
• Отсутствующие или плохо спроектированные входные элементы
• Чрезмерная регуляризация, которая слишком сильно ограничивает веса.

Решение обычно заключается в увеличении пропускной способности, продлении обучения или предоставлении модели более качественных входных данных. Иногда проблема заключается не в модели, а в данных: если сигнал скрыт в шуме, ни одна архитектура не сможет его спасти. Ранняя диагностика недообучения позволяет избежать недель, потраченных на настройку.