Un modèle qui prédit le prix moyen de chaque maison, indépendamment de sa taille, de son emplacement ou de son âge, est sous-ajusté. Il n'a pas suffisamment appris de structure pour être utile. Le sous-ajustement se produit lorsque le modèle est trop simple, le temps d'entraînement trop court ou les caractéristiques trop faibles pour capturer la tendance dans les données.

Le symptôme est facile à repérer : de mauvaises performances sur l’ensemble d’entraînement. Contrairement au surapprentissage, où un modèle mémorise des données erronées et échoue sur de nouvelles données, le sous-apprentissage échoue partout. Une droite tentant d’ajuster une courbe manquera à la fois les points d’entraînement et les points de test.

Causes typiques

• La capacité du modèle est insuffisante compte tenu de la complexité du problème.
• Trop peu d'époques d'entraînement ou un taux d'apprentissage qui stagne
• Fonctionnalités d'entrée manquantes ou mal conçues
• Une régularisation excessive qui contraint trop les poids

La solution consiste généralement à augmenter la capacité du modèle, à allonger la durée de l'entraînement ou à lui fournir de meilleures données d'entrée. Parfois, le problème ne vient pas du modèle lui-même, mais des données : si le signal est noyé dans le bruit, aucune architecture ne pourra le récupérer. Diagnostiquer rapidement le sous-apprentissage permet d'éviter des semaines de réglages inutiles.