Mejoras al aprendizaje del perceptrón multicapa mediante retropropagación. Aprendizaje por descenso más pronunciado. Entrenamiento de una red neuronal con patrones de XOR.

El método de descenso más pronunciado consiste en el siguiente procedimiento: El factor de aprendizaje es el mismo para todos los pesos. Iniciar el factor de aprendizaje con un valor y doblarlo cada época. Esto conduce a una actualización preliminar de los pesos. El Error medio cuadrático MSE se calcula para los pesos actualizados que corresponden a la tasa de aprendizaje actual. Si el MSE no decrece con esta tasa de aprendizaje, los pesos retornan a sus valores originales, la tasa de aprendizaje se reduce a la mitad y se continúa el entrenamiento. Si el MSE todavía no decrece, se parte el factor de aprendizaje a la mitad repetidamente hasta encontrar una tasa de aprendizaje que reduzca el MSE. En este punto el factor de aprendizaje es doblado otra vez y se inicia un nuevo paso. El proceso se repite una y otra vez. La búsqueda continua en esta forma y termina dentro de un número predefinido de épocas de entrenamiento. Si la disminución en el error con respecto al paso previo es más pequeña que un nivel especificado Emin o si el valor del factor de aprendizaje cae bajo un límite especificado Nmin el proceso se detiene. 


0 comentarios :

Publicar un comentario