Modelos complexos memorizam. A regularização penaliza a complexidade, levando o modelo para soluções mais simples que generalizam melhor. É uma das ferramentas mais fiáveis ​​contra o sobreajuste.

A regularização L2 adiciona uma penalização proporcional ao quadrado dos pesos, reduzindo-os para zero. A regularização L1 incentiva a esparsidade penalizando valores absolutos. O dropout desativa os neurónios aleatoriamente durante o treino, forçando a rede a ser robusta. O early stopping interrompe o treino quando a perda de validação deixa de melhorar.

Métodos comuns de regularização

• Penalidades de peso L1 e L2
• Cair fora
• Interrupção precoce
• Aumento de dados
• Normalização em lote

A regularização em excesso causa subajuste. O modelo torna-se muito simples para captar padrões reais. Ajustar a intensidade da regularização faz parte do processo, e a validação cruzada geralmente orienta esta escolha.