Beruflich Dokumente
Kultur Dokumente
Las redes de neuronas artificiales (denominadas habitualmente como RNA o en ingls como: "ANN"1 ) son un paradigma de aprendizaje y procesamiento automtico inspirado en la orma en !ue unciona el sistema ner"ioso de los animales# $e trata de un sistema de intercone%i&n de neuronas en una red !ue colabora para producir un est'mulo de salida# (n inteligencia arti icial es recuente re erirse a ellas como redes de neuronas o redes neuronales#
Funcionamiento
Las redes neuronales consisten en una simulaci&n de las propiedades obser"adas en los sistemas neuronales biol&gicos a tra"s de modelos matemticos recreados mediante mecanismos arti iciales (como un circuito integrado) un ordenador o un conjunto de "l"ulas)# (l objeti"o es conseguir !ue las m!uinas den respuestas similares a las !ue es capaz de dar el cerebro !ue se caracterizan por su generalizaci&n y su robustez#
,na red neuronal se compone de unidades llamadas neuronas# -ada neurona recibe una serie de entradas a tra"s de intercone%iones y emite una salida# (sta salida "iene dada por tres unciones:
1. ,na unci&n de propagaci&n (tambin conocida como unci&n de
e%citaci&n)) !ue por lo general consiste en el sumatorio de cada entrada multiplicada por el peso de su intercone%i&n ("alor neto)# $i el peso es positi"o) la cone%i&n se denomina excitatoria. si es negati"o) se denomina inhibitoria# 2. ,na unci&n de acti"aci&n) !ue modi ica a la anterior# *uede no e%istir) siendo en este caso la salida la misma unci&n de propagaci&n# /# ,na unci&n de trans erencia) !ue se aplica al "alor de"uelto por la unci&n de acti"aci&n# $e utiliza para acotar la salida de la neurona y generalmente "iene dada por la interpretaci&n !ue !ueramos darle a dichas salidas# Algunas de las ms utilizadas son la unci&n sigmoidea (para obtener "alores en el inter"alo 01)12) y la tangente hiperb&lica (para obtener "alores en el inter"alo 031)12)#
Estructura
La mayor'a de de los cient' icos coinciden en !ue una 5NA es muy di erente en trminos de estructura de un cerebro animal# Al igual !ue el cerebro) una 5NA se compone de un conjunto masi"amente paralelo de unidades de proceso muy simples y es en las cone%iones entre estas unidades donde reside la inteligencia de la red# $in embargo) en trminos de escala) un cerebro es much'simo mayor !ue cual!uier 5NA creada hasta la actualidad) y las neuronas arti iciales tambin son ms simples !ue su contrapartida animal# 9iol&gicamente) un cerebro aprende mediante la reorganizaci&n de las cone%iones sinpticas entre las neuronas !ue lo componen# :e la misma manera) las 5NA tienen un gran n7mero de procesadores "irtuales interconectados !ue de orma simpli icada simulan la uncionalidad de las neuronas biol&gicas# (n esta simulaci&n) la reorganizaci&n de las cone%iones sinpticas biol&gicas se modela mediante un mecanismo de pesos) !ue son ajustados durante la ase de aprendizaje# (n una 5NA entrenada) el conjunto de los pesos determina el conocimiento de esa 5NA y tiene la propiedad de resol"er el problema para el !ue la 5NA ha sido entrenada# *or otra parte) en una 5NA) adems de los pesos y las cone%iones) cada neurona tiene asociada una unci&n matemtica denominada unci&n de trans erencia# :icha unci&n genera la se6al de salida de la neurona a partir de las se6ales de entrada# La entrada de la unci&n es la suma de todas las se6ales de entrada por el peso asociado a la cone%i&n de entrada de la se6al# Algunos ejemplos de entradas son la unci&n escal&n de ;ea"iside) la lineal o mi%ta) la sigmoide y la unci&n gaussiana) recordando !ue la unci&n de trans erencia es la relaci&n entre la se6al de salida y la entrada#
Ventajas
Las redes neuronales arti iciales (5NA) tienen muchas "entajas debido a !ue estn basadas en la estructura del sistema ner"ioso) principalmente el cerebro#
Aprendizaje: Las 5NA tienen la habilidad de aprender mediante una etapa !ue se llama etapa de aprendizaje# (sta consiste en proporcionar a la 5NA datos como entrada a su "ez !ue se le indica cul es la salida (respuesta) esperada# Auto organizacin: ,na 5NA crea su propia representaci&n de la in ormaci&n en su interior) descargando al usuario de esto# Tolerancia a fallos: :ebido a !ue una 5NA almacena la in ormaci&n de orma redundante) sta puede seguir respondiendo de manera aceptable aun si se da6a parcialmente#
Flexibilidad: ,na 5NA puede manejar cambios no importantes en la in ormaci&n de entrada) como se6ales con ruido u otros cambios en la entrada (ej# si la in ormaci&n de entrada es la imagen de un objeto) la respuesta correspondiente no su re cambios si la imagen cambia un poco su brillo o el objeto cambia ligeramente) Tiempo real: La estructura de una 5NA es paralela) por lo cul si esto es implementado con computadoras o en dispositi"os electr&nicos especiales) se pueden obtener respuestas en tiempo real#
*erceptr&n Adaline *erceptr&n multicapa <emorias asociati"as <!uina de 9olzman <!uina de -auchy *ropagaci&n hacia atrs (bac=propagation) 5edes de (lman 5edes de ;op ield 5ed de contrapropagaci&n 5edes de neuronas de base radial 5edes de neuronas de aprendizaje competiti"o <apas Autoorganizados (5NA) (5edes de >ohonen) -recimiento dinmico de clulas ?as Neuronal -reciente 5edes A5@ (Adaptative Resonance Theory) Topologa
,na primera clasi icaci&n de las redes de neuronas arti iciales !ue se suele hacer es en unci&n del patr&n de cone%iones !ue presenta# As' se de inen tres tipos bsicos de redes:
:os tipos de redes de propagacin hacia delante o ac'clicas en las !ue todas las se6ales "an desde la capa de entrada hacia la salida sin e%istir ciclos) ni cone%iones entre neuronas de la misma capa# o Monocapa# (jemplos: perceptr&n) Adaline#
o
Las redes recurrentes !ue presentan al menos un ciclo cerrado de acti"aci&n neuronal# (jemplos: (lman) ;op ield) m!uina de 9olzman#
Aprendi aje
,na segunda clasi icaci&n !ue se suele hacer es en unci&n del tipo de aprendizaje de !ue es capaz (si necesita o no un conjunto de entrenamiento super"isado)# *ara cada tipo de aprendizaje encontramos "arios modelos propuestos por di erentes autores:
Aprendizaje super"isado: necesitan un conjunto de datos de entrada pre"iamente clasi icado o cuya respuesta objeti"o se conoce# (jemplos de este tipo de redes son: el perceptr&n simple) la red Adaline) el perceptr&n multicapa y la memoria asociati"a bidireccional# Aprendizaje no super"isado o autoorganizado: no necesitan de tal conjunto pre"io# (jemplos de este tipo de redes son: las memorias asociati"as) las redes de ;op ield) la m!uina de 9olzman y la m!uina de -auchy) las redes de aprendizaje competiti"o) las redes de >ohonen o mapas autoorganizados y las redes de resonancia adaptati"a (A5@) 5edes h'bridas: son un en o!ue mi%to en el !ue se utiliza una unci&n de mejora para acilitar la con"ergencia# ,n ejemplo de este 7ltimo tipo son las redes de base radial# Aprendizaje re orzado: se sit7a a medio camino entre el super"isado y el autoorganizado#
Tipo de entrada
Ainalmente tambin se pueden clasi icar las 5NAs seg7n sean capaces de procesar in ormaci&n de distinto tipo en:
5edes anal&gicas: procesan datos de entrada con "alores continuos y) habitualmente) acotados# (jemplos de este tipo de redes son: ;op ield) >ohonen y las redes de aprendizaje competiti"o#
5edes discretas: procesan datos de entrada de naturaleza discreta. habitualmente "alores l&gicos booleanos# (jemplos de este segundo tipo de redes son: las m!uinas de 9olzman y -auchy) y la red discreta de ;op ield#
Aplicaciones
Las caracter'sticas de las 5NA las hacen bastante apropiadas para aplicaciones en las !ue no se dispone a priori de un modelo identi icable !ue pueda ser programado) pero se dispone de un conjunto bsico de ejemplos de entrada (pre"iamente clasi icados o no)# Asimismo) son altamente robustas tanto al ruido como a la dis unci&n de elementos concretos y son cilmente paralelizables# (sto incluye problemas de clasi icaci&n y reconocimiento de patrones de "oz) imgenes) se6ales) etc# Asimismo se han utilizado para encontrar patrones de raude econ&mico) hacer predicciones en el mercado inanciero) hacer predicciones de tiempo atmos rico) etc# @ambin se pueden utilizar cuando no e%isten modelos matemticos precisos o algoritmos con complejidad razonable. por ejemplo la red de >ohonen ha sido aplicada con un %ito ms !ue razonable al clsico problema del "iajante (un problema para el !ue no se conoce soluci&n algor'tmica de complejidad polin&mica)# Btro tipo especial de redes neuronales arti iciales se ha aplicado en conjunci&n con los algoritmos genticos (A?) para crear controladores para robots# La disciplina !ue trata la e"oluci&n de redes neuronales mediante algoritmos genticos se denomina 5ob&tica ("oluti"a# (n este tipo de aplicaci&n el genoma del A? lo constituyen los parmetros de la red (topolog'a) algoritmo de aprendizaje) unciones de acti"aci&n) etc#) y la adecuaci&n de la red "iene dada por la adecuaci&n del comportamiento e%hibido por el robot controlado (normalmente una simulaci&n de dicho comportamiento)
Algoritmo gen!tico
,n algoritmo es una serie de pasos organizados !ue describe el proceso !ue se debe seguir) para dar soluci&n a un problema espec' ico# (n los a6os 1CD1) de la mano de Eohn ;enry ;olland) surgi& una de las l'neas ms prometedoras de la inteligencia arti icial) la de los algoritmos genticos# $on llamados as' por!ue se inspiran en la e"oluci&n biol&gica y su base gentico3 molecular# (stos algoritmos hacen e"olucionar una poblaci&n de indi"iduos sometindola a acciones aleatorias semejantes a las !ue act7an en la e"oluci&n
biol&gica (mutaciones y recombinaciones genticas)) as' como tambin a una $elecci&n de acuerdo con alg7n criterio) en unci&n del cual se decide cules son los indi"iduos ms adaptados) !ue sobre"i"en) y cules los menos aptos) !ue son descartados# @ambin es denominado algoritmos e"oluti"os) e incluye las estrategias de e"oluci&n) la programaci&n e"oluti"a y la programaci&n gentica# :entro de esta 7ltima se han logrado a"ances curiosos: (n 1CCC) por primera "ez en la historia) se concedi& una patente a un in"ento no realizado directamente por un ser humano: se trata de una antena de orma e%tra6a) pero !ue unciona per ectamente en las condiciones a las !ue estaba destinada# No hay) sin embargo) nada injusto en el hecho de !ue el autor del algoritmo gentico del !ue sali& la orma de la antena se haya atribuido la autor'a de la patente) pues l escribi& el programa e ide& el criterio de selecci&n !ue condujo al dise6o patentado# ,n algoritmo gentico es un mtodo de b7s!ueda dirigida basada en probabilidad# 9ajo una condici&n muy dbil (!ue el algoritmo mantenga elitismo) es decir) guarde siempre al mejor elemento de la poblaci&n sin hacerle ning7n cambio) se puede demostrar !ue el algoritmo con"erge en probabilidad al &ptimo# (n otras palabras) al aumentar el n7mero de iteraciones) la probabilidad de tener el &ptimo en la poblaci&n tiende a 1 (uno)#
Funcionamiento
Los algoritmos genticos establecen una analog'a entre el conjunto de soluciones de un problema) llamado enotipo) y el conjunto de indi"iduos de una poblaci&n natural) codi icando la in ormaci&n de cada soluci&n en una cadena) generalmente binaria) llamada cromosoma# Los s'mbolos !ue orman la cadena son llamados los genes# -uando la representaci&n de los cromosomas se hace con cadenas de d'gitos binarios se le conoce como genotipo# Los cromosomas e"olucionan a tra"s de iteraciones) llamadas generaciones# (n cada generaci&n) los cromosomas son e"aluados usando alguna medida de aptitud# Las siguientes generaciones (nue"os cromosomas)) llamada descendencia) se orman utilizando dos operadores genticos) de sobrecruzamiento y de mutaci&n#
$i la unci&n a optimizar tiene muchos m%imos8m'nimos locales se re!uerirn ms iteraciones del algoritmo para "asegurar" el m%imo8m'nimo global# $i la unci&n a optimizar contiene "arios puntos muy cercanos en "alor al &ptimo) solamente podemos "asegurar" !ue encontraremos uno de ellos (no necesariamente el &ptimo)#
Algoritmo gentico i: inicializaci&n) (F): e"aluaci&n) G: condici&n de trmino) $e: selecci&n) -r: cruzamiento) <u: mutaci&n) 5e: reemplazo) FH: mejor soluci&n#
Inicializacin: $e genera aleatoriamente la poblaci&n inicial) !ue est constituida por un conjunto de cromosomas los cuales representan las posibles soluciones del problema# (n caso de no hacerlo aleatoriamente) es importante garantizar !ue dentro de la poblaci&n inicial) se tenga la di"ersidad estructural de estas soluciones para tener una representaci&n de la mayor parte de la poblaci&n posible o al menos e"itar la con"ergencia prematura# !aluacin: A cada uno de los cromosomas de esta poblaci&n se aplicar la unci&n de aptitud para saber !u tan "buena" es la soluci&n !ue se est codi icando# "ondicin de trmino (l A? se deber detener cuando se alcance la soluci&n &ptima) pero sta generalmente se desconoce) por lo !ue se
deben utilizar otros criterios de detenci&n# Normalmente se usan dos criterios: correr el A? un n7mero m%imo de iteraciones (generaciones) o detenerlo cuando no haya cambios en la poblaci&n# <ientras no se cumpla la condici&n de trmino se hace lo siguiente:
o
#eleccin :espus de saber la aptitud de cada cromosoma se procede a elegir los cromosomas !ue sern cruzados en la siguiente generaci&n# Los cromosomas con mejor aptitud tienen mayor probabilidad de ser seleccionados# #obrecruzamiento (l cruzamiento es el principal operador gentico) representa la reproducci&n se%ual) opera sobre dos cromosomas a la "ez para generar dos descendientes donde se combinan las caracter'sticas de ambos cromosomas padres# Mutacin modi ica al azar parte del cromosoma de los indi"iduos) y permite alcanzar zonas del espacio de b7s!ueda !ue no estaban cubiertas por los indi"iduos de la poblaci&n actual# Reemplazo una "ez aplicados los operadores genticos) se seleccionan los mejores indi"iduos para con ormar la poblaci&n de la generaci&n siguiente
Aplicaciones
:ise6o automatizado) incluyendo in"estigaci&n en dise6o de materiales y dise6o multiobjeti"o de componentes automo"il'sticos: mejor comportamiento ante cho!ues) ahorros de peso) mejora de aerodinmica) etc# :ise6o automatizado de e!uipamiento industrial# :ise6o automatizado de sistemas de comercio en el sector inanciero# -onstrucci&n de rboles ilogenticos# Bptimizaci&n de carga de contenedores# :ise6o de sistemas de distribuci&n de aguas# :ise6o de topolog'as de circuitos impresos# :ise6o de topolog'as de redes computacionales# (n @eor'a de juegos) resoluci&n de e!uilibrios# Anlisis de e%presi&n de genes# Aprendizaje de comportamiento de robots#
Aprendizaje de reglas de L&gica di usa# Anlisis lingI'stico) incluyendo inducci&n gramtica) y otros aspectos de *rocesamiento de lenguajes naturales) tales como eliminaci&n de ambigIedad de sentido# Jn raestructura de redes de comunicaciones m&"iles# Bptimizaci&n de estructuras moleculares# *lani icaci&n de producci&n multicriteria# *redicci&n# Aplicaci&n de Algoritmos ?enticos al :ilema del *risionero Jterado Bptimizaci&n de sistemas de compresi&n de datos) por ejemplo) usando 4a"elets# *redicci&n de *legamiento de prote'nas# Bptimizaci&n de Layout# *redicci&n de estructura de 5NA# (n bioin ormtica) Alineamiento m7ltiple de secuencias# Aplicaciones en plani icaci&n de procesos industriales) incluyendo plani icaci&n job3shop# $elecci&n optima de modelos matemticos para la descripci&n de sistemas biol&gicos# <anejo de residuos s&lidos# Jngenier'a de so t4are# -onstrucci&n de horarios en grandes uni"ersidades) e"itando con lictos de clases# *roblema del "iajante# ;allazgo de errores en programas# Bptimizaci&n de producci&n y distribuci&n de energ'a elctrica# :ise6o de redes geodsicas (*roblemas de dise6o)#
%engua natural
(l trmino lengua natural designa una "ariedad lingI'stica o orma de lenguaje humano con ines comunicati"os !ue est dotado de una sinta%is y !ue obedece supuestamente a los principios de econom'a y optimidad# Las lenguas naturales usualmente estn basadas en s'mbolos sonoros pero tambin pueden e%istir lenguas basadas en se6as# (n la sociolingI'stica) el trmino lengua natural tambin se utiliza a "eces de lengua tnica en contraposici&n a las lenguas plani icadas (como el esperanto)# La lengua tnica e"oluciona enmarcada por una cultura de hablantes nati"os !ue utilizan dicha lengua con una inalidad comunicati"a# :e esta orma) se distingue entre idiomas tales como el chino mandar'n) el espa6ol y el ingls) las cuales son lenguas tnicas. y el esperanto) ido) interlingua) a las cuales se les denomina lenguas plani icadas# $in embargo) una lengua plani icada tambin puede ad!uirir una cultura) como es el caso del esperanto# $in embargo) ormalmente las lenguas plani icadas y las lenguas tnicas pueden cumplir igualmente con los re!uisitos de poseer sinta%is y principios de econom'a !ue las hagan aptas para la comunicaci&n humana general#
o
(l lenguaje animal !ue tiene intencionalidad) e%presi"idad) representati"idad e incluso puede llegar a la simulaci&n y el ingimiento. pero en el !ue no se han encontrado presencia de algo !ue podamos llamar estructuras sintcticas# Los lenguajes ormales usadas por el hombre) entre los cuales estn la l&gica matemtica o los lenguajes de programaci&n# Kue son estructuras dotadas de algo similar a la sinta%is de las lenguas humanas) pero tienen un alcance ms reducido !ue las lenguas naturales humanas#
La lingI'stica es la rama del saber !ue se encarga del estudio del lenguaje) entendido como el conjunto de reglas !ue gobierna cual!uier proceso de comunicaci&n# Admitiendo la e%istencia de reglas de comunicaci&n) la lingI'stica estructural lleg& a de inir e%tensi"amente un determinada lengua natural como el conjunto de rases !ue se pueden emitir y utilizar en esa lengua# A inales de la dcada de los a6os 1CL1 Noam -homs=y propuso incorporar los lenguajes naturales al tipo de lenguajes susceptibles de ser estudiados por los sistemas ormales por medio de gramticas generati"as) !ue darn lugar a las cadenas o rases "lidas en un lenguaje dado#
D# #emanticidad: la se6al se corresponde con un signi icado en particular# (s un elemento undamental de cual!uier mtodo de comunicaci&n# O# Arbitrariedad: no e%iste correlaci&n entre la se6al y el signo# *or ejemplo) los onemas !ue crean la palabra nada en s' mismos no tienen relaci&n alguna con ese concepto. en croata) por ejemplo) nada signi ica esperanza# No hay raz&n alguna para !ue el concepto carencia de algo debiera ser "nada" y no cual!uier otra combinaci&n de onemas#
C# %iscreticidad: las unidades bsicas son separables) sin haber una transici&n gradual# ,n oyente puede o'r o "t" o "d") e independientemente de !ue lo escuche bien distinguir o una u otra) sin escuchar una mezcla de ambas# 11# %esplazamiento: puede hacerse re erencia a situaciones u objetos !ue no se sit7an por de'%is) en el "a!u' y ahora") es decir) separados por el tiempo o distancia) o incluso sobre cosas !ue no e%isten ni han e%istido# 11# %oble articulacin o dualidad: e%iste un ni"el o segunda articulacin en el !ue los elementos no poseen signi icado pero s' distinguen signi icado ( onema)) y otro ni"el o primera articulacin en el !ue estos elementos se agrupan para tener signi icado (mor ema)# Los elementos de la segunda articulacin son initos) pero pueden agruparse de in initas maneras#(- # ;jelmsle")# 1+# &roducti!idad: las reglas de la gramtica permiten la creaci&n de oraciones nue"as !ue jams han sido creadas) pero !ue pueden ser entendidas# (- # competencia lingI'stica) gramtica generati"a) -homs=y)# 1/# Transmisin cultural: el lenguaje humano es un producto de una e"oluci&n hist&rica y se transmite entre generaciones# - # cambio lingI'stico) gramtica hist&rica)#(s posible !ue no se d en el resto de ormas de comunicaci&n no humanas# 1M# &re!aricacin: el mensaje puede ser intencionadamente also#(- # m%imas con"ersacionales) ?rice)# 1L# Funcin metaling'(stica: el lenguaje humano permite re erirse a s' mismo. se puede decir !ue "altaz" es una palabra masculina) y no se est haciendo re erencia alguna al objeto) sino a la palabra en s'#
La monognesis o hip&tesis de !ue en 7ltima instancia todas las lenguas del mundo deri"an de una 7nica lengua ancestral) es decir) la hip&tesis de !ue las lenguas humanas surgieron por di"ersi icaci&n de una protolengua !ue surgi& en un determinado momento e"oluti"o de la especie) a partir del cual continuaron e%istiendo las lenguas humanas# (n la antigIedad) esta teor'a encuentra paralelismo con la bula de babel) contenida en la 9iblia# La polignesis) sostiene !ue el proceso !ue dio lugar a las lenguas humanas pudo suceder en di"ersos lugares y momentos# 1
(n ambos casos) despus de la aparici&n de una o ms lenguas actuaron procesos de di"ersi icaci&n o cambio lingI'stico !ue aumentaron el n7mero de lenguas) hasta llegar a los "arios miles de lenguas e%istentes en la actualidad#
La teor'a de lingI'stica de las lenguas criollas y los pidgins sugiere !ue el proceso de ormaci&n de una lengua natural genuina a partir de un input lingI'stico adecuado puede lle"ar tan poco tiempo como una generaci&n# (l caso del idioma de se6as de Nicaragua creada a partir de un sistema semi&tico inconsistente es un ejemplo paradigmtico de como puede ormarse una lengua consistente con una gramtica bien ijada) a partir de elementos inconsistentes#