Regla de entrenamiento
Delta: ADALINE
La fórmula de aproximación más simple es aquella basada
en el criterio del error cuadrático medio lineal. De hecho, uno
de los modelos pioneros de redes neuronales artificiales , llamado ADALINE
(ADAptative LINear Element, Elemento lineal adaptativo), fue propuesto
por Widrow con estas características. Como se puede ver en esta
figura,
ADALINE es una red de una sola capa con un valor de red
-
donde 
es el número de nodos de entrada.
Sin pérdida de generalidad, es más conveniente reseñar
el umbral como un peso más, esto es, 
.
El valor de red se re escribe de la siguiente forma:
-
donde 
y 
. Nótese
que z es el patrón x escalado por los pesos.
Criterio del error cuadrático medio
El vector de pesos w se puede obtener minimizando el error cuadrático
medio:
-
La regla de entrenamiento adoptada en ADALINE es la técnica
de adaptación a los datos.
Se basa en el algoritmo de descenso del gradiente. El gradiente se define
como la primera derivada parcial de 
con respecto
a 
:
-
en forma vectorial:
-
Para minimizar E, los pesos deberían ser actualizados en
la dirección contraria al gradiente, esto es,
-
Redes Multicapa de Retropropagación no lineales
Contenido
Redes Neuronales Artificiales
Sobre este tutorial