Beruflich Dokumente
Kultur Dokumente
Pablo Roncagliolo B. N 20
Sistemas Inteligentes
ALGORITMOS GENETICOS METODOS ESTADISTICOS
prb@2007
LOGICA DIFUSA
Procesamiento de Imgenes
IMAGEN DISP. CAPTURA (Cmara) FORMATO ANALGICO (Ej. NTSC)
Ej. Cam. Cam. Ethernet
FORMATO DIGITAL
Filtros Bordes Binarizacin Op. Op. Morfolgicas Transformadas Compresin Deteccin de Trazos Etiquetado ... ...
PRE PROCESAMIENTO
PROCESAMIENTO INTELIGENTE
RESULTADO INESTABLE
RESULTADO ROBUSTO
4
prb@2007
Procesamiento de Imgenes
Pre - Procesamiento
Posible solucin: analizar la imagen de bordes
prb@2007
Pre - Procesamiento
Ecualizacin y Binarizacin
?
7
prb@2007
prb@2007
80 reexamen del trabajo de 80s : xitos mediocres los 60s en redes neuronales
Redes Neuronales
prb@2007
Redes Neuronales
> Inspiradas en el sistema nervioso biol biolgico.
> Al igual que las redes de neuronas biol biolgicas, una red neuronal artificial puede:
aprender luego de ser entrenada
Para:
prb@2007
encontrar soluciones, reconocer patrones, clasificar datos predecir predecir eventos futuros...
10
Redes Neuronales
> Las redes neuronales son una herramienta muy poderosa en aplicaciones en donde el an anlisis formal deber debera ser extremadamente dif difcil. cil.
prb@2007
11
Redes Neuronales:
algunos nombres relevantes...
(1936) Alan Turing, Turing, fue el primero en estudiar el cerebro como una forma de ver el mundo de la computaci computacin. (1943) McCulloch, McCulloch, neurofisi neurofisilogo y Pitts, Pitts, matem matemtico; los primeros te tericos que concibieron los fundamentos de la computaci computacin neuronal, lanzaron una teor teora acerca de la forma de trabajar de las neuronas, modelando una red neuronal simple mediante circuitos el elctricos. (Neuronas Binarias Binarias, funci funcin umbral...) (1949) Se lanza el libro La organizaci organizacin del comportamiento, de Donald Hebb, Hebb, donde se presenta un procedimiento de aprendizaje de las neuronas.
prb@2007
12
Redes Neuronales
(1951) Minsky, Minsky, primeros resultados pr prcticos en Redes Neuronales. Basada en tubos y rel rels, 40 neuronas, model model comportamiento de una rata en un laberinto. (1957) Se inicia el desarrollo del Perceptr Perceptrn, de Rosenblatt. Rosenblatt. El Perceptr Perceptrn es la red neuronal m ms antigua, y es muy utilizado hasta hoy en d da como reconocedor de patrones. (1959) El modelo ADALINE (ADAptative (ADAptative LINear Elements) Elements) desarrollado por Widrow& & Hoff. . Primera red neuronal aplicada a Widrow Hoff problema real, que eran filtros adaptativos para eliminar ecos en lneas telef telefnicas, usado durante varias d dcadas comercialmente. es un las
prb@2007
13
Redes Neuronales
(1967) Grossberg, Grossberg, de la Universidad de Boston, uno de los investigadores mas activos de las redes neuronales desde los aos 60. una red utilizada para reconocimiento continuo 60. Realiz Realiz del habla y aprendizaje del movimiento de los brazos de un robot. Adem Adems, Grossberg ha escrito muchos libros y desarrollado otros modelos neuronales. (1969) Numerosas cr crticas frenaron el crecimiento de las investigaciones sobre redes neuronales hasta 1982 debido a un libro publicado por Minsky & Papert, Papert, del MIT llamado Perceptrons, el cual conten contena un an anlisis matem matemtico del Perceptr Perceptrn en forma detallada, y en el que consideraban que la extensi extensin a Perceptrones multinivel era completamente est estril.
prb@2007
14
Redes Neuronales
(1977) Kohonen, Kohonen, extiende el modelo de memoria asociativa lineal. Mas tarde desarroll desarroll el LVQ un m mtodo de aprendizaje competitivo.
(1982) Resurge el inter inters por las redes neuronales a consecuencia de varios eventos. Hopfield presenta la red que lleva su nombre, que es una variaci variacin del Asociador lineal.
prb@2007
15
Redes Neuronales
Def: Def: Redes neuronales artificiales son redes interconectadas masivamente en paralelo de elementos simples (usualmente adaptativos) y con organizaci organizacin jer jerrquica, las cuales intentan interactuar con los objetos del mundo real del mismo modo que lo hace el sistema nervioso biol biolgico. gico.
prb@2007
16
Redes Neuronales
El comportamiento de una red neuronal es definido por la forma en que sus elementos est estn conectados entre s s, y por el peso de esas conexiones. conexiones.
> Los pesos son ajustados autom automticamente por el entrenamiento de la red de acuerdo con una regla espec especfica de aprendizaje, hasta que sta llegue al nivel de error deseado.
prb@2007
17
Neuronas Biolgicas
> Son el elemento m ms b bsico del cerebro humano. > Son un tipo espec especfico de c clula. > Cada una de stas, puede conectarse hasta con 200.000 otras neuronas. > Generalmente, una neurona recibe informaci informacin de miles de otras neuronas y, a su vez, env enva informaci informacin a miles de neuronas m ms. > El poder poder del cerebro se mide por la cantidad de neuronas y las mltiples conexiones entre ellas.
prb@2007
18
Neuronas Biolgicas
Todas las neuronas componentes, que son: las dendritas el cuerpo de la c clula (que contiene el n ncleo) el ax axn Bsicamente, las dendritas reciben se seales de entrada; el cuerpo celular las combina e integra y emite se seales de salida. El ax axn transporta las se seales de salida a los terminales, que luego distribuyen esta informaci informacin a un nuevo conjunto de neuronas, a trav travs de las conexiones sin sinpticas. biol biolgicas est estn formadas por tres
prb@2007
19
Neuronas Biolgicas
prb@2007
20
10
> Las se seales que llegan a las dentritas son las entradas a la neurona. > Estas se seales son ponderadas (aumentadas o disminuidas) a trav travs de un par parmetro llamado peso, asociado a la sinapsis (conexi (conexin) correspondiente. > Las se seales de entrada pueden excitar a la neurona (peso positivo) o inhibirla (peso negativo). > Se tiene como efecto la suma de las entradas ponderadas. Si sta suma es mayor o igual que el umbral de la neurona, sta se activa.
prb@2007
21
Redes Neuronales
Neuronas pesos entrada
umbral
activacin
pesos salida
Real
prb@2007
Modelo
22
11
Redes Neuronales
En cualquier sistema neuronal, se caracterizan tres tipos de neuronas: neuronas: entrada, salida y ocultas ocultas. Neuronas de Entrada: Reciben se seales desde el entorno, las que pueden ser provenientes de sensores o de otros sectores del sistema. Neuronas de Salida: Env Envan la se seal fuera del sistema. Pueden controlar directamente potencias u otros sistemas. Neuronas Ocultas: Aquellas cuyas entradas y salidas se encuentran dentro del sistema, sin contacto con el exterior. Se conoce como capa o nivel, al conjunto de neuronas cuyas entradas provienen de la misma fuente (pudiendo ser otra capa de neuronas), y cuyas salidas se dirigen al mismo destino (tambi (tambin pudiendo ser otra capa de neuronas).
prb@2007
23
Redes Neuronales
prb@2007
24
12
Redes Neuronales
Qu controla el flujo de informacin?
los umbrales
y la arquitectura
prb@2007
25
Redes Neuronales
Unidad de Proceso...
zi
activacin
prb@2007
(l )
n(l 1) (l ) (l 1) = f wij z j j =1
pesos
26
Funcin de activacin
13
Redes Neuronales
Ej...
-2 4 1 -3
1 1 6
1 2 5
2 1 4
3 2 3
1 1
3 2
prb@2007
24
27
Redes Neuronales
Ej... E
-2 4 1
Vector de entrada
-3
E = [[-2 4 1 -3]
1 1 6
1 2 5
2 1 4
3 2 3
1 1
3 2
S
24 8
1 1 w1 = 2 3
1 2 1 2
1 6 2 5 , 1 4 2 3
1 1 w2 = 2 1 3 2
r r V = E W 1 = [ 2
1 1 4 1 3] 2 3
6 5 = [ 5 1 3] 4 3
28
prb@2007
14
Redes Neuronales
Ej... E
-2 4 1 -3 1 1 6 1 2 5 2 1 4 3 2 3
1 1
3 2
r r V = E W 1 = [ 2
24
r r 1 S = f ( f ( E W )W 2 )
prb@2007 29
Redes Neuronales
Reconocimiento de voz
Dos personas dicen Hola Hacemos un anlisis de frecuencias Entrenamos una red con varios Hola
Voz1
Voz2 0 1 Resultados esperados: Discrimnacin de la red con voces conocidas Discriminacin de la red con voces desconocidas
prb@2007
30
15
Redes Neuronales
-2 4 1 -3
1 1 6
1 2 5
2 1 4
3 2 3
1 1
3 2
S
24 8
cmo determinar los pesos de una red para obtener un resultado determinado?
prb@2007
31
Redes Neuronales
Por aprendizaje se entiende: La modificaci modificacin del comportamiento inducido por la interacci interaccin con el entorno y como resultado de experiencias conducente al establecimiento de nuevos modelos de respuesta a est estmulos externos.
En las redes neuronales artificiales, el conocimiento se encuentra encuentra representado en los pesos de las conexiones existentes entre las neuronas. El proceso de aprendizaje implica cierto n nmero de cambios en estas conexiones. Se aprende modificando los valores de los pesos de la red. red. Cada modelo de red neuronal dispone de su propia t tcnica de aprendizaje. aprendizaje.
prb@2007 32
16
Redes Neuronales
Redes Neuronales supervisadas y no supervisadas
Las redes neuronales se clasifican comunmente en terminos de sus correspondientes algoritmos o mtodos de entrenamiento por: por: redes no supervisadas y redes de entrenamiento supervisado. supervisado.
prb@2007
33
Redes Neuronales
Entranamiento Supervisado
> Las redes de entranimiento supervisado han sido los modelos de redes ms desarrollados desde inicios de estos diseos. diseos. > Los datos para el entrenamiento estan constituidos por varios pares de patrones de entrenamiento de entrada y salida. salida. > El hecho de conocer la salida implica que el entrenamiento se beneficia por la supervision de su maestro. > Dado un patron de entrenamiento, entrenamiento, por ejemplo, ejemplo, (m +1)+1)-esimo, los pesos seran adaptados de la siguiente forma:
(m + 1) (m) (m)
wij
prb@2007
= wij
+ wij
34
17
Redes Neuronales
Se puede ver un diagrama esquematico de un sistema de entrenamiento supervisado en la siguiente manera: manera:
prb@2007
35
Redes Neuronales
Reglas de entrenamiento No Supervisado
Para los modelos de entrenamiento No Supervisado, Supervisado, el conjunto de datos de entrenamiento consiste solo en los patrones de entrada. entrada.
prb@2007
36
18
Redes Neuronales
La red aprende a adaptarse basada en las experiencias recogidas de los patrones de entrenamiento anteriores. anteriores.
prb@2007
37
19