Entrenar una red neuronal requiere saber cómo ajustar cada peso. La retropropagación se encarga de ello. Aplica la regla de la cadena del cálculo para propagar el error desde la capa de salida hacia atrás a través de la red, asignando un gradiente a cada peso en el proceso.
El algoritmo funciona en dos fases. Una fase hacia adelante calcula las predicciones y la pérdida. Una fase hacia atrás calcula los gradientes con respecto a cada parámetro. Un optimizador como el descenso de gradiente estocástico actualiza los pesos en la dirección que reduce la pérdida.
Pasos clave
- Recorrer todas las capas hacia adelante
- Calcular la pérdida frente a los objetivos
- Paso hacia atrás aplicando la regla de la cadena
- Actualizar los pesos usando gradientes
Esta técnica se popularizó en la década de 1980 e hizo que el aprendizaje profundo fuera práctico al combinarse con hardware más rápido y mejores funciones de activación. Sin ella, entrenar redes multicapa requeriría una búsqueda intratable en el espacio de pesos.
Comments (2)
Leave a comment