Los modelos complejos memorizan. La regularización penaliza la complejidad, impulsando al modelo hacia soluciones más simples que generalizan mejor. Es una de las herramientas más fiables para evitar el sobreajuste.
La regularización L2 añade una penalización proporcional al cuadrado de los pesos, reduciéndolos hacia cero. La regularización L1 fomenta la dispersión penalizando los valores absolutos. El abandono aleatorio desactiva neuronas durante el entrenamiento, lo que obliga a la red a ser robusta. La parada temprana detiene el entrenamiento cuando la pérdida de validación deja de mejorar.
Métodos de regularización comunes
- Penalizaciones de peso L1 y L2
- Abandonar
- Parada temprana
- Aumento de datos
- Normalización por lotes
Un exceso de regularización provoca un ajuste insuficiente del modelo. Este se vuelve demasiado simple para capturar patrones reales. Ajustar la intensidad es fundamental, y la validación cruzada suele guiar la elección.
Comments (2)
Leave a comment