Un modelo que obtiene un 99 % de aciertos con los datos de entrenamiento y un 60 % con los datos nuevos ha aprendido la lección equivocada. El sobreajuste consiste en memorizar el ruido y las peculiaridades en lugar del patrón subyacente, y es el fallo más común en el aprendizaje automático aplicado.

Las señales son fáciles de detectar. La pérdida de entrenamiento disminuye mientras que la pérdida de validación aumenta. El modelo funciona bien con los ejemplos que ya ha visto y mal con los demás. La complejidad, los conjuntos de datos pequeños y el entrenamiento prolongado aumentan el riesgo.

Contramedidas comunes

• Más datos de entrenamiento
• Regularización como la decaimiento de peso
• Abandono durante la formación
• Detención temprana basada en la pérdida de validación
• Arquitecturas de modelos más simples
• Aumento de datos

El subajuste es el problema opuesto, donde el modelo es demasiado simple para capturar el patrón. El objetivo es encontrar un punto intermedio, donde el modelo generalice sin memorizar.