3 Redes Recurrentes y Autnomas

El modelo de Hopfield discreto

Introducido en 1982 por el fsico norteamericano John Hopfield
Neural Networks and Physical Systems with Emergent Collective
Computational Abilities

Unidad de proceso bipolar:





pesos sinpticos w
1
,w
2
,,w
n
,
umbral o sesgo, u
potencial sinptico

h = w
1
x
1
+ w
2
x
2
+ + w
n
x
n

< + + +
> + + +
=
... si 1
... si 1
) ,..., , (
2 2 1
2 2 1
2 1
1
1
u
u
n n
n n
n
x w x w x w
x w x w x w
x x x f
El modelo de Hopfield discreto
x
1

x
2

x
3

y

<
>
=
0 1
0 1
) sgn(
h
h
h
u
h
{ } { } 1 , 1 1 , 1 :
n
f
-1
1
w
1

w
2

w
3

El modelo de Hopfield discreto
w
31

w
12
w
23

<
=
>
= +

=
=
=
N
j
i j ij
N
j
i j ij i
N
j
i j ij
i
k s w
k s w k s
k s w
k s
1
1
1
) ( si 1 -
) ( si ) (
) ( si 1
) 1 (
u
u
u
) ( ) ( ) (
2
1
) (
1 1 1
k s k s k s w k E
i
N
i
i j
N
i
N
j
i ij
= = =
+ = u
Funcin de Energa Computacional
Arquitectura (Topologa) Dinmica de la Computacin

=
= + = A
N
j
i j ij i i i
k s w k s k s k s
1
) ) ( sgn( 2 ) ( ) 1 ( ) ( u
El modelo de Hopfield discreto
Qu se pretende con esta dinmica de la computacin?

Dejarn de cambiar de estado alguna vez las unidades de
proceso cuando se actualizan? Es decir, se estabilizar la red en
algn momento.

Cmo son las configuraciones de la red cuando se estabiliza?

Para qu se puede utilizar esta red neuronal?
Qu se pretende?
Se pretende alcanzar concordancia entre los estados
de las unidades de proceso segn las conexiones sinpticas:

w
ij
> 0 s
i
s
j
= 1 (concordancia)
w
ij
< 0 s
i
s
j
= 1 (discordancia)


w
ij
s
i
s
j
sea mximo

= =
N
i
N
j
j i ij
s s w
1 1
Maximizar
Qu se pretende?
La correlacin entre la unidad de proceso i y la unidad j es igual a
la correlacin entre la unidad de proceso j y la i, por lo tanto

w
ij
=

w
ji
(simetra de los pesos)

= =
N
i
N
j
j i ij
s s w
1 1
2
1
Maximizar
Como cada conexin se ha contado dos veces,

Qu se pretende?
La correlacin entre la unidad de proceso i y ella misma siempre
vale 1, es decir, s
i
s
j
= 1. Por lo tanto, como

w
ij
s
i
s
j
= w
ij
,

dicho producto es constante (no depende de las variables de
estado). Por ello, se puede tomar

w
ii
=

0 (sin autoconexiones)

Qu se persigue?
Qu papel juega entonces el umbral?

= = =

N
i
i i
N
i
N
j
j i ij
s s s w
1 1 1
2
1
u Maximizar
Como seal externa (con valor 1) que llega a la unidad de proceso
(con peso u
i
) de manera que
si u
i
> 0 trata de desactivarla
si u
i
< 0 trata de activarla
Es decir, persigue que u
i
(1)s
i
sea mximo

= = =
+
N
i
i i
N
i
N
j
j i ij
s s s w
1 1 1
2
1
u
Minimizar
Evolucin en el modelo de Hopfield
discreto y secuencial (asncrono)
Teorema: Si en la iteracin k+1 actualizamos el estado de la unidad de
proceso r segn la regla de actualizacin anterior, manteniendo iguales
los estados de las unidades de procesos restantes, entonces la funcin de
energa decrece, es decir,

) ( ) 1 ( k E k E s +
Demostracin:


= = =
= = =
+
+ + + + + = +
N
i
i i
N
i
N
j
j i ij
N
i
N
j
N
i
i i j i ij
k s k s k s w
k s k s k s w k E k E
1 1 1
1 1 1
) ( ) ( ) (
2
1
) 1 ( ) 1 ( ) 1 (
2
1
) ( ) 1 (
u
u
( )( ) ( )
( )


= = =
= = =
+
+ A + + A + A + =
N
i
i i
N
i
N
j
j i ij
N
i
i i i j j
N
i
N
j
i i ij
k s k s k s w
k s k s k s k s k s k s w
1 1 1
1 1 1
) ( ) ( ) (
2
1
) ( ) ( ) ( ) ( ) ( ) (
2
1
u
u
Evolucin en el modelo de Hopfield
discreto y secuencial (asncrono)

=
= = = = = =
A +
+ A A A A =
N
i
i i
N
i
N
i
N
j
j i ij
N
j
j i ij
N
i
N
j
j i ij
k s
k s k s w k s k s w k s k s w
1
1 1 1 1 1 1
) (
) ( ) (
2
1
) ( ) (
2
1
) ( ) (
2
1
u

= = = = =
A + A A A =
N
i
i i
N
i
N
j
N
i
N
j
j i ij j i ij
k s k s k s w k s k s w
1 1 1 1 1
) ( ) ( ) (
2
1
) ( ) ( u
Como los pesos son simtricos

= = =
(

A + A =
N
i
N
j
j ij i j
N
j
ij i
k s w k s w k s
1 1 1
) (
2
1
) ( ) ( u
Evolucin en el modelo de Hopfield
discreto y secuencial (asncrono)
(

A + A =

=
N
j
r rr r j rj r
k s w k s w k s
1
) (
2
1
) ( ) ( u
Si slo actualizamos la unidad de proceso r entonces As
i
(k)=0 para todo i=r,
(

A =

=
N
j
r j rj r
k s w k s
1
) ( ) ( u

=
>
N
j
r j rj
k s w
1
) ( u

=
<
N
j
r j rj
k s w
1
) ( u
s 0 pues
entonces s
r
(k+1)=1 y As
r
(k ) > 0,
entonces s
r
(k+1)=-1 y As
r
(k ) s 0,

=
= + = A
N
j
i j ij i i i
k s w k s k s k s
1
) ) ( sgn( 2 ) ( ) 1 ( ) ( u
si
si
o porque
0
Evolucin en el modelo de Hopfield
discreto y secuencial
Corolario: La red recurrente bipolar alcanza un estado estable en un nmero
finito de pasos utilizando la regla de actualizacin secuencial y dicho estado
corresponde a un mnimo local de la funcin de energa.
Ejemplo: Biestable
Funcin de energa E(k) = s
1
s
2

Si la red parte de la configuracin (1,1) y
actualizamos la primera unidad de proceso, como el
potencial sinptico es 1 entonces se desactiva
Alcanza la configuracin (1,1). La red se estabiliza
en dicha configuracin.
El otro mnimo local corresponde a la configuracin
(1,-1)
w
12
=-1
w
21
=-1
Evolucin en el modelo de Hopfield
discreto y paralelo (sincronizado)
Teorema 2. Si la matriz de pesos sinpticos es simtrica y semidefinida positiva,
con todos los elementos de la matriz diagonal nulos, entonces la funcin de energa
decrece, o permanece igual, en cada actualizacin simultnea de las unidades de
proceso
) ( ) 1 ( k E k E s +
Demostracin:

= = = (
(

A + A = +
N
i
N
j
j ij i j
N
j
ij i
k s w k s w k s k E k E
1 1 1
) (
2
1
) ( ) ( ) ( ) 1 ( u

= = = =
A A
(

A =
N
i
N
j
j i ij
N
i
i j
N
j
ij i
k s k s w k s w k s
1 1 1 1
) ( ) (
2
1
) ( ) ( u
Corolario: La red recurrente bipolar alcanza un estado estable en un nmero
finito de pasos utilizando la regla de actualizacin paralela.
El modelo de Hopfield continuo
x
1

x
2

x
3

<
>
=
0 1
0 1
) sgn(
u
u
u
u
h
{ } { } 1 , 1 1 , 1 :
n
f
-1
1
Estado discreto s
i
e {-1, 1}
Tiempo (actualizacin) discreto, k = 1,2,3,
Estado continuo s
i
e [-1, 1]
Tiempo (actualizacin) continuo, t e (0, ]
u u
u u
e e
e e
u f
| |
| |

= ) (
El modelo de Hopfield continuo

=
= + = A
N
j
i j ij i i i
k x w k x k x k x
1
) ) ( sgn( 2 ) ( ) 1 ( ) ( u
Estado discreto s
i
e {-1, 1}
Tiempo (actualizacin) discreto, k = 1,2,3,
Estado continuo s
i
e [-1, 1]
Tiempo (actualizacin) continuo, t e (0, ]

=
+ A + A
=
A
A +
=
A
A
=
N
j
i j ij
i i
t
i
t
i
t x w f
t
t x t t x
t
t x
dt
t dx
1
0 0
) ) ( (
) ( ) (
lim
) (
lim
) (
u q
El modelo de Hopfield continuo

e
|
|
.
|

\
|

<
|
|
.
|

\
|
=
>
|
|
.
|

\
|
=
=

=
=
=

) 1 , 1 ( ) ( si ) (
0 ) ( y 1 ) ( si 0
0 ) ( y 1 ) ( si 0
) (
1
1
1
t x t x w f
t x w f t x
t x w f t x
dt
t dx
i
N
j
i j ij
N
j
i j ij i
N
j
i j ij i
i
u q
u
u

= = =
+ =
N
i
N
j
N
i
i i j i ij
t x t x t x w t E
1 1 1
) ( ) ( ) (
2
1
) ( u
Dinmica de la computacin
Funcin de energa computacional
Evolucin en el modelo de Hopfield continuo
Teorema 3 (de convergencia)
En una red recurrente continua guiada por la regla de actualizacin anterior la
funcin de energa computacional disminuye, o por lo menos no cambia, en
cada actualizacin y alcanza un estado estable en un mnimo local de dicha
funcin.
Demostracin:
t
t E t t E
dt
t dE
t
A
A +
=
+ A
) ( ) (
lim
) (
0

=
|
.
|

\
|
|
|
.
|

\
|
=
N
i
i
i
dt
t dx
t dx
t dE
dt
t dE
1
) (
) (
) ( ) (
s 0
0
) (
) (
) (
= |
.
|

\
|
|
|
.
|

\
|
dt
t dx
t dx
t dE
i
i

=
+ =
N
j
i j ij
i
t x w
t dx
t dE
1
) (
) (
) (
u
s 0

0
) (
>
dt
t dx
i

=
>
N
j
i j ij
t x w f
1
0 ) ) ( ( u
0
) (
<
dt
t dx
i

=
<
N
j
i j ij
t x w f
1
0 ) ) ( ( u

0
) (
=
dt
t dx
i
N i
dt
t dx
t dx
t dE
i
i
,..., 2 , 1 , 0
) (
) (
) (
= s |
.
|

\
|
|
|
.
|

\
|

=
>
N
j
i j ij
t x w
1
0 ) ( u

=
<
N
j
i j ij
t x w
1
0 ) ( u
Evolucin en el modelo de Hopfield continuo
0
) (
=
dt
t dE
N i
dt
t dx
i
,..., 2 , 1 , 0
) (
= =

=
|
.
|

\
|
|
|
.
|

\
|
=
N
i
i
i
dt
t dx
t dx
t dE
dt
t dE
1
) (
) (
) ( ) (
0 ) (
) (
) (
1
= + =

=
N
j
r j rj
r
t x w
t dx
t dE
u
0
) (
=
dt
t dx
r
pues
La red queda atrapada en los mnimos locales de la funcin de energa
Problemas de Optimizacin
Configuraciones posibles: (1,1), (1,-1), (-1,1) y (-1,-1)
Estados estables: (1,-1) y (-1,1)
w
12
=-1
w
21
=-1
w
12
= 1(-1) = -1
w
21
= (-1)1 = -1
w
11
= w
22
= 0.
Funcin de energa: E(k) = s
1
(k)s
2
(k).
(1,1) h
1
= (-1)1= -1 (-1,1)
(-1,1) estable
(-1,1) estable
Problemas de las N Torres

=
torre una hay no columna y fila la en si 0
torre una hay columna y fila la en si 1
) (
j i
j i
k s
ij








Problemas de las N Torres

=
torre una hay no columna y fila la en si 0
torre una hay columna y fila la en si 1
) (
j i
j i
k s
ij

=
= =

= + + +
= + + +
= + + +
N
j
ij
NN N N
N
N
N i s
s s s
s s s
s s s
1
2 1
2 22 21
1 12 11
, , 1 ; 1 decir, es
1
1
1

=
= =

= + + +
= + + +
= + + +
N
i
ij
NN N N
N
N
N j s
s s s
s s s
s s s
1
2 1
2 22 12
1 21 11
, , 1 ; 1 decir, es
1
1
1

Problemas de las N Torres

= = = =
|
.
|

\
|
+
|
|
.
|

\
|

N
j
N
i
ij
N
i
N
j
ij
s s
1
2
1 1
2
1
1 1
Funcin de energa:

= = = = = = (
(

+ |
.
|

\
|

|
|
.
|

\
|
=
|
|
.
|

\
|

N
i
N
j
ij
N
k
ik
N
j
ij
N
i
N
j
ij
s s s s
1 1 1 1 1
2
1
2 1 1

= = = = =
+ =
N
i
N
j
N
k
N
i
N
j
ij ik ij
s N s s
1 1 1 1 1
2

= = = = = =
=
=
+ + =
N
i
N
j
N
i
N
j
ij
N
i
N
j
ij
N
j k
k
ik ij
s N s s s
1 1 1 1 1 1
2
1
2

= = = =
=
=
+ =
N
i
N
j
ij
N
i
N
j
N
j k
k
ik ij
s N s s
1 1 1 1 1
.
s
ij

Problemas de las N Torres

= = = = =
=
=
= = =
=
=
+ + +
N
i
N
j
N
i
ij
N
j
N
i
N
i r
r
rj ij
N
j
ij
N
i
N
j
N
j k
k
ik ij
s N s s s N s s
1 1 1 1 1
1
1 1 1
1
E =

= = = =
=
=
= =
=
=
+ +
N
i
N
j
ij
N
i
N
j
N
i r
r
rj ij
N
i
N
j
N
j k
k
ik ij
N s s s s s
1 1 1 1
1
1 1
1
2 ) 2 ( ) 2 (
2
1
) 2 (
2
1
w
ij,ik
u
ij

w
ij,rj

Problemas de las N Torres
Problema del recubrimiento minimal
de los vrtices de un grafo
(servicios de vigilancia por vdeo)
Dado un grafo G=(V,E), se trata de encontrar un subconjunto X_V de
forma que cada arista de E tenga al menos un vrtice en dicho conjunto X,
y con mnima cardinalidad

=
caso otro en 0
dos selecciona los de uno es vrtice el si 1 i
s
i
Arquitectura de la red: N unidades de proceso
N vrtices
Problema del recubrimiento minimal
de los vrtices de un grafo
(servicios de vigilancia por vdeo)
El objetivo es Minimizar

=
N
i
i
s
1
Sujeto a

=
=
=
=
N
i
N
i j
j
j i ij
s s a
1 1
0 ) 1 )( 1 (
Al menos una de las dos unidades de proceso tiene que estar activa
a
ij

vale cero si no existe la arista (i,j) y vale uno si existe
Problema del recubrimiento minimal
de los vrtices de un grafo
(servicios de vigilancia por vdeo)
El objetivo es Minimizar
) 1 )( 1 (
1 1 1
j i
N
i
N
i
N
i j
j
ij i
s s a s +

= =
=
=

j
N
i
N
i j
j
ij
N
i
N
i j
j
i
N
i
N
i j
j
ij j i ij
N
i
N
i
N
i j
j
ij i
s a s a s s a a s

=
=
= =
=
= =
=
= = =
=
=
+ +
1 1 1 1 1 1 1 1 1

j
N
j
j
N
i
N
i j
j
i
N
i
i j i ij
N
i
N
i
i i
s n s n s s a n s

= =
=
= = = =
+ + =
1 1 1 1 1 1

| | constante 2 1 ) 2 (
2
1
1 1 1
+ + =

=
=
= =
N
i
N
i j
j
i
N
i
i j i ij
s n s s a
Problema del recubrimiento minimal
de los vrtices de un grafo
(servicios de vigilancia por vdeo)

j i a w
ij ij
= = , 2
,

, 0 =
ii
w

N i n
i i
,..., 2 , 1 , 2 1 = = u
Como el peso sinptico w
ij
es negativo favorece que una unidad est activada y
la otra desactivada (si ya hemos puesto una cmara de vdeo en un vrtice no
hay que poner otra en el otro vrtice pues la calle queda vigilada)
El problema de la biparticin de un grafo

=
2
1
conjunto al asigna se vrtice el si 1
conjunto al asigna se vrtice el si 1
V i
V i
s
i

=
=
=

N
i
N
i j
j
j i
ij
s s
a
2
1
2
1
2
) 1 (
Arquitectura: 2N unidades de proceso
Minimizar
Sujeto a
=
=
N
i
i
s
2
1
0
Minimizar
2
2
1
2
1
2
1
2
) 1 (
|
.
|

\
|
+

= =
=
=
N
i
i
N
i
N
i j
j
j i
ij
s
s s
a
vale 1 si s
i
= s
j

vale 0 si s
i
= s
j



El problema de la biparticin de un grafo


Minimizar
2
2
1
2
1
2
1
2
) 1 (
|
.
|

\
|
+

= =
=
=
N
i
i
N
i
N
i j
j
j i
ij
s
s s
a

= = =
=
= =
=
=
+ =
N
i
N
j
j i
N
i
N
i j
j
j i ij
N
i
N
i j
j
ij
s s s s a a
2
1 1
2
1
2
1
2
1
2
1
2 / 2 /

= =
=
= =
=
= =
=
=
+ + =
N
i
i
N
i
N
i j
j
j i
N
i
N
i j
j
j i ij
N
i
N
i j
j
ij
s s s s s a a
2
1
2
2
1
2
1
2
1
2
1
2
1
2
1
2 / 2 /

=
=
=
=
N
i
N
i j
j
j i ij
s s a E
2
1
2
1
) 2 (
2
1

j i a w
ij ij
= = ), 2 (
, 0 =
ii
w
N i
i
2 ,..., 2 , 1 , 0 = = u
El problema del viajante de comercio

=
caso. otro en 0
da el visita se ciudad la si 1 j i
s
ij
Arquitectura: N unidades de proceso
+
+
N
k j i
k j k j ik ij
s s s d
, ,
) 1 ( ) 1 (
) (
2
1
Minimizar

=
=
N
j
ij
,...,N , i= s
1
. 2 1 , 1

==
=
N
i
ij
,...,N , j= s
1
. 2 1 , 1
Sujeto a