ndice

1.- Damin Jorge Matich, Universidad Tecnolgica Nacional Facultad Regional Rosario Introduccin. ... Historia de las redes neuronales... Definiciones de una neuronal Ventajas que ofrecen las neuronal. 2 3

red 4 red 4

2.- Aplicaciones de las redes neuronales. El caso de la Bibliometra Sotolongo, G.*; Guzmn, Mara Victoria* Introduccin ............................................................................................................ ............................. 9

Redes Neuronales 1 Artificiales... 0 Estructura de una Red Artificial.. Neuronal 1 1

Modelo Kohonen............................................................. 1 . 3 Aplicaciones. . 1 5

3.-Nuevos modelos de redes neuronales evolutivas Tesis Doctoral de: Pedro Antonio Gutirrez Pea Redes Neuronales 2 Artificiales 0 Redes Neuronales de Sigmoide............ Modelo Funcional de La ... 4.- Introduccin a las Redes Neuronales de Ivn Martnez Introduccin... 2 ... 8 Redes 3 Artificiales 0 ... 1 Unidad 2 2 2 4

RNAs.

1.1 Introduccin. El hombre se ha caracterizado siempre por su bsqueda constante de nuevas vas para mejorar sus condiciones de vida. Estos esfuerzos le han servido para reducir el trabajo en aquellas operaciones en las que la fuerza juega un papel primordial. Los progresos obtenidos han permitido dirigir estos esfuerzos a otros campos, como por ejemplo, a la construccin de mquinas calculadoras que ayuden a resolver de forma automtica y rpida determinadas operaciones que resultan tediosas cuando se realizan a mano. Uno de los primeros en acometer esta empresa fue Charles Babbage, quien trat infructuosamente de construir una mquina capaz de resolver problemas matemticos. Posteriormente otros tantos intentaron construir mquinas similares, pero no fue hasta la Segunda Guerra Mundial, cuando ya se dispona de instrumentos electrnicos, que se empezaron a recoger los primeros frutos. En 1946 se construy la primera computadora electrnica, ENIAC. Desde entonces los desarrollos en este campo han tenido un auge espectacular. Estas mquinas permiten implementar fcilmente algoritmos para resolver multitud de problemas que antes resultaban engorrosos de resolver. Sin embargo, se observa una limitacin importante: qu ocurre cuando el problema que se quiere resolver no admite un tratamiento algortmico, como es el caso, por ejemplo, de la clasificacin de objetos por rasgos comunes? Este ejemplo demuestra que la construccin de nuevas mquinas ms verstiles requiere un enfoque del problema desde otro punto de vista. Los desarrollos actuales de los cientficos se dirigen al estudio de las capacidades humanas como una fuente de nuevas ideas para el diseo de las nuevas mquinas. As, la inteligencia artificial es un intento por descubrir y describir aspectos de la inteligencia humana que pueden ser simulados mediante mquinas. Esta disciplina se ha desarrollado fuertemente en los ltimos aos teniendo aplicacin en algunos campos como visin artificial, demostracin de teoremas, procesamiento de informacin expresada mediante lenguajes humanos... etc. Las redes neuronales son ms que otra forma de emular ciertas caractersticas propias de los humanos, como la capacidad de memorizar y de asociar hechos. Si se examinan con atencin aquellos problemas que no

pueden expresarse a travs de un algoritmo, se observar que todos ellos tienen una caracterstica en comn: la experiencia. El hombre es capaz de resolver estas situaciones acudiendo a la experiencia acumulada. As, parece claro que una forma de aproximarse al problema consista en la construccin de sistemas que sean capaces de reproducir esta caracterstica humana. En definitiva, las redes neuronales no son ms que un modelo artificial y simplificado del cerebro humano, que es el ejemplo ms perfecto del que disponemos para un sistema que es capaz de adquirir conocimiento a travs de la experiencia. Una red neuronal es un nuevo sistema para el tratamiento de la informacin, cuya unidad bsica de procesamiento est inspirada en la clula fundamental del sistema nervioso humano: la neurona.

2.1 Historia de las redes neuronales. 1936 - Alan Turing. Fue el primero en estudiar el cerebro como una forma de ver el mundo de la computacin. Sin embargo, los primeros tericos que concibieron los fundamentos de la computacin neuronal fueron Warren McCulloch, un neurofisilogo, y Walter Pitts, un matemtico, quienes, en 1943, lanzaron una teora acerca de la forma de trabajar de las neuronas (Un Clculo Lgico de la Inminente Idea de la Actividad Nerviosa - Boletn de Matemtica Biofsica 5: 115-133). Ellos modelaron una red neuronal simple mediante circuitos elctricos. 1949 - Donald Hebb. Fue el primero en explicar los procesos del aprendizaje (que es el elemento bsico de la inteligencia humana) desde un punto de vista psicolgico, desarrollando una regla de como el aprendizaje ocurra. Aun hoy, este es el fundamento de la mayora de las funciones de aprendizaje que pueden hallarse en una red neuronal. Su idea fue que el aprendizaje ocurra cuando ciertos cambios en una neurona eran activados. Tambin intent encontrar semejanzas entre el aprendizaje y la actividad nerviosa. Los trabajos de Hebb formaron las bases de la Teora de las Redes Neuronales. 1950 - Karl Lashley. En sus series de ensayos, encontr que la informacin no era almacenada en forma centralizada en el cerebro sino que era distribuida encima de l. 1956 - Congreso de Dartmouth. Este Congreso frecuentemente se menciona para indicar el nacimiento de la inteligencia artificial. 1957 - Frank Rosenblatt. Comenz el desarrollo del Perceptron. Esta es la red neuronal ms antigua; utilizndose hoy en da para aplicacin como identificador de patrones. Este modelo era capaz de generalizar, es decir, despus de haber aprendido una serie de patrones poda reconocer otros similares, aunque no se le hubiesen presentado en el entrenamiento. Sin

embargo, tena una serie de limitaciones, por ejemplo, su incapacidad para resolver el problema de la funcin OR-exclusiva y, en general, era incapaz de clasificar clases no separables linealmente. 1959 - Frank Rosenblatt: Principios de Neurodinmica. En este libro confirm que, bajo ciertas condiciones, el aprendizaje del Perceptron converga hacia un estado finito (Teorema de Convergencia del Perceptron). 1960 - Bernard Widroff/Marcian Hoff. Desarrollaron el modelo Adaline (ADAptative LINear Elements). Esta fue la primera red neuronal aplicada a un problema real (filtros adaptativos para eliminar ecos en las lneas telefnicas) que se ha utilizado comercialmente durante varias dcadas. 1961 - Karl Steinbeck: Die Lernmatrix. Red neuronal para simples realizaciones tcnicas (memoria asociativa). 1969 - Marvin Minsky/Seymour Papert. En este ao casi se produjo la muerte abrupta de las Redes Neuronales; ya que Minsky y Papert probaron (matemticamente) que el Perceptrons no era capaz de resolver problemas relativamente fciles, tales como el aprendizaje de una funcin no-lineal. Esto demostr que el Perceptron era muy dbil, dado que las funciones no-lineales son extensamente empleadas en computacin y en los problemas del mundo real. 1974 - Paul Werbos. Desarroll la idea bsica del algoritmo de aprendizaje de propagacin hacia atrs (backpropagation); cuyo significado qued definitivamente aclarado en 1985. 1977 - Stephen Grossberg: Teora de Resonancia Adaptada (TRA). La Teora de Resonancia Adaptada es una arquitectura de red que se diferencia de todas las dems previamente inventadas. La misma simula otras habilidades del cerebro: memoria a largo y corto plazo. 1985 - John Hopfield. Provoc el renacimiento de las redes neuronales con su libro: Computacin neuronal de decisiones en problemas de optimizacin. 1986 - David Rumelhart/G. Hinton. Redescubrieron el algoritmo de aprendizaje de propagacin hacia atrs (backpropagation). A partir de 1986, el panorama fue alentador con respecto a las investigaciones y el desarrollo de las redes neuronales. En la actualidad, son numerosos los trabajos que se realizan y publican cada ao, las aplicaciones nuevas que surgen (sobre todo en el rea de control) y las empresas que lanzan al mercado productos nuevos, tanto hardware como software (sobre todo para simulacin). 3.1 Definiciones de una red neuronal.

Existen numerosas formas de definir a las redes neuronales; desde las definiciones cortas y genricas hasta las que intentan explicar ms detalladamente qu son las redes neuronales. Por ejemplo: 1) Una nueva forma de computacin, inspirada en modelos biolgicos. 2) Un modelo matemtico compuesto por un gran nmero de elementos procesales organizados en niveles. 3) un sistema de computacin compuesto por un gran nmero de elementos simples, elementos de procesos muy interconectados, los cuales procesan informacin por medio de su estado dinmico como respuesta a entradas externas. 4) Redes neuronales artificiales son redes interconectadas masivamente en paralelo de elementos simples (usualmente adaptativos) y con organizacin jerrquica, las cuales intentan interactuar con los objetos del mundo real del mismo modo que lo hace el sistema nervioso biolgico. 3.2 Ventajas que ofrecen la red neuronal. Debido a su constitucin y a sus fundamentos, las redes neuronales artificiales presentan un gran nmero de caractersticas semejantes a las del cerebro. Por ejemplo, son capaces de aprender de la experiencia, de generalizar de casos anteriores a nuevos casos, de abstraer caractersticas esenciales a partir de entradas que representan informacin irrelevante, etc. Esto hace que ofrezcan numerosas ventajas y que este tipo de tecnologa se est aplicando en mltiples reas. Entre las ventajas se incluyen: _ Aprendizaje Adaptativo. Capacidad de aprender a realizar tareas basadas en un entrenamiento o en una experiencia inicial. _ Auto-organizacin. Una red neuronal puede crear su propia organizacin o representacin de la informacin que recibe mediante una etapa de aprendizaje. _ Tolerancia a fallos. La destruccin parcial de una red conduce a una degradacin de su estructura; sin embargo, algunas capacidades de la red se pueden retener, incluso sufriendo un gran dao. _ Operacin en tiempo real. Los cmputos neuronales pueden ser realizados en paralelo; para esto se disean y fabrican mquinas con hardware especial para obtener esta capacidad. _ Fcil insercin dentro de la tecnologa existente. Se pueden obtener chips especializados para redes neuronales que mejoran su capacidad en ciertas tareas. Ello facilitar la integracin modular en los sistemas existentes.

3.2.1 Aprendizaje adaptativo.

La capacidad de aprendizaje adaptativo es una de las caractersticas ms atractivas de redes neuronales. Esto es, aprenden a llevar a cabo ciertas tareas mediante un entrenamiento con ejemplos ilustrativos. Como las redes neuronales pueden aprender a diferenciar patrones mediante ejemplos y entrenamientos, no es necesario elaborar modelos a priori ni necesidad de especificar funciones de distribucin de probabilidad. Las redes neuronales son sistemas dinmicos autoadaptativos. Son adaptables debido a la capacidad de autoajuste de los elementos procesales (neuronas) que componen el sistema. Son dinmicos, pues son capaces de estar constantemente cambiando para adaptarse a las nuevas condiciones. En el proceso de aprendizaje, los enlaces ponderados de las neuronas se ajustan de manera que se obtengan ciertos resultados especficos. Una red neuronal no necesita un algoritmo para resolver un problema, ya que ella puede generar su propia distribucin de pesos en los enlaces mediante el aprendizaje. Tambin existen redes que continan aprendiendo a lo largo de su vida, despus de completado su perodo de entrenamiento. La funcin del diseador es nicamente la obtencin de la arquitectura apropiada. No es problema del diseador el cmo la red aprender a discriminar. Sin embargo, s es necesario que desarrolle un buen algoritmo de aprendizaje que le proporcione a la red la capacidad de discriminar, mediante un entrenamiento con patrones. 3.2.2 Auto-organizacin. Las redes neuronales emplean su capacidad de aprendizaje adaptativo para autoorganizar la informacin que reciben durante el aprendizaje y/o la operacin. Mientras que el aprendizaje es la modificacin de cada elemento procesal, la autoorganizacin consiste en la modificacin de la red neuronal completa para llevar a cabo un objetivo especfico. Cuando las redes neuronales se usan para reconocer ciertas clases de patrones, ellas autoorganizan la informacin usada. Por ejemplo, la red llamada backpropagation, crear su propia representacin caracterstica, mediante la cual puede reconocer ciertos patrones. Esta autoorganizacin provoca la generalizacin: facultad de las redes neuronales de responder apropiadamente cuando se les presentan datos o situaciones ha las que no haba sido expuesta anteriormente. El sistema puede generalizar la entrada para obtener una respuesta. Esta caracterstica es muy importante cuando se tiene que solucionar problemas en los cuales la informacin de entrada no es muy clara; adems permite que el sistema d una solucin, incluso cuando la informacin de entrada est especificada de forma incompleta. 3.2.3 Tolerancia a fallos.

Las redes neuronales fueron los primeros mtodos computacionales con la capacidad inherente de tolerancia a fallos. Comparados con los sistemas computacionales tradicionales, los cuales pierden su funcionalidad cuando sufren un pequeo error de memoria, en las redes neuronales, si se produce un fallo en un nmero no muy grande de neuronas y aunque el comportamiento del sistema se ve influenciado, no sufre una cada repentina. Hay dos aspectos distintos respecto a la tolerancia a fallos: a) Las redes pueden aprender a reconocer patrones con ruido, distorsionados o incompletos. Esta es una tolerancia a fallos respecto a los datos. b) Las redes pueden seguir realizando su funcin (con cierta degradacin) aunque se destruya parte de la red. La razn por la que las redes neuronales son tolerantes a los fallos es que tienen su informacin distribuida en las conexiones entre neuronas, existiendo cierto grado de redundancia en este tipo de almacenamiento. La mayora de los ordenadores algortmicos y sistemas de recuperacin de datos almacenan cada pieza de informacin en un espacio nico, localizado y direccionable. En cambio, las redes neuronales almacenan informacin no localizada. Por lo tanto, la mayora de las interconexiones entre los nodos de la red tendrn sus valores en funcin de los estmulos recibidos, y se generar un patrn de salida que represente la informacin almacenada. 3.2.4 Operacin en tiempo real. Una de las mayores prioridades, casi en la totalidad de las reas de aplicacin, es la necesidad de realizar procesos con datos de forma muy rpida. Las redes neuronales se adaptan bien a esto debido a su implementacin paralela. Para que la mayora de las redes puedan operar en un entorno de tiempo real, la necesidad de cambio en los pesos de las conexiones o entrenamiento es mnima. 3.2.5 Fcil insercin dentro de la tecnologa existente. Una red individual puede ser entrenada para desarrollar una nica y bien definida tarea (tareas complejas, que hagan mltiples selecciones de patrones, requerirn sistemas de redes interconectadas). Con las herramientas computacionales existentes (no del tipo PC), una red puede ser rpidamente entrenada, comprobada, verificada y trasladada a una implementacin hardware de bajo coste. Por lo tanto, no se presentan dificultades para la insercin de redes neuronales en aplicaciones especficas, por ejemplo de control, dentro de los sistemas existentes. De esta manera, las redes neuronales se pueden utilizar para mejorar sistemas en forma incremental y cada paso puede ser evaluado antes de acometer un desarrollo ms amplio. 4.1 Elementos bsicos que componen una red neuronal. A continuacin se puede ver, en la Figura 4.1, un esquema de una red neuronal:

La misma est constituida por neuronas interconectadas y arregladas en tres capas (esto ltimo puede variar). Los datos ingresan por medio de la capa de entrada, pasan a travs de la capa oculta y salen por la capa de salida. Cabe mencionar que la capa oculta puede estar constituida por varias capas. Antes de comenzar el estudio sobre las redes neuronales, se debe aprender algo sobre las neuronas y de cmo ellas son utilizadas por una red neuronal. En la Figura 4.2 se compara una neurona biolgica con una neurona artificial. En la misma se pueden observar las similitudes entre ambas (tienen entradas, utilizan pesos y generan salidas.

Mientras una neurona es muy pequea en s misma, cuando se combinan cientos, miles o millones de ellas pueden resolver problemas muy complejos. Por ejemplo el cerebro humano se compone de billones de tales neuronas. Bibliografa _ Neuronal Networks: Basics and Applications, by R. Lackes and D. Mack, in collaboration with J. Ziola and K. Ahern. CBT (Computer Based Training) Springer, Verlag Berlin Heidelberg 1998. _ Proyecto Final de la Carrera Ingeniera Electrnica, Facultad de Ciencias Exactas, Ingeniera y Agrimensura Universidad Nacional Rosario, por Daniel Giardina. Directora del proyecto: Marta Basualdo. Ao: 1995. Argentina. _ NOL Studio Applications Ruiz y Sonnet. (www.soteica.com.ar) _ Tutorial de Redes Neuronales. Universidad Politcnica de Madrid, Espaa (www.gc.ssr.upm.es/inves/neuronal/ann2/anntuto.htm). _ Introduccin a las redes neuronales artificiales, por Alfredo Catalina Gallego (www.gui.uva.es).

_ Control de procesos mediante redes neuronales, por Cristian F. Garrido Cisterna (http:\\melquiades.dic.udec.cl/cgarrido). Referencias: _ Frawley W., Piatetsky-Shapiro G., Matheus, C. (1992), "Knowledge Discovery in Databases: An Overview". AI Magazine, Fall 1992, 213-228. _ Leonides, C. T. (1998), "Neural Network Systems Techniques and Applications", Volumes 1 to 7, Academic Press, San Diego, California, USA. _ Gensym Corporation (1999), NeurOn-Line Studio Users Guide, Cambridge, Massachusetts.

Introduccin Las tcnicas computacionales, desde sus inicios, marcaron un paradigma en la creacin. Sus aplicaciones, hoy da, van desde la industria de los juegos hasta las cadenas de produccin de varias empresas. Para ello se han

desarrollado mltiples tcnicas como las relacionadas con la inteligencia artificial. Las ms conocidas son la lgica difusa (aprendizaje inductivo), algoritmos genticos y redes neuronales. En la dcada de los 50, existan grandes aspiraciones respecto a las investigaciones relacionadas con la inteligencia artificial, sobre todo con aquellas que tenan como objeto principal las redes neuronales artificiales (RNA). Los trabajos Principles of neurodynamic y The perceptron: A probabilistic model for information storage and organization in the brain, desarrollados por Rosenblatt1, abren nuevas perspectivas sobre la temtica. Sin embargo, las teoras desarrolladas durante este perodo son arruinadas por Minsky y Papert2, pues ambos publican una obra titulada Perceptrons donde se hace una crtica al modelo neural y se trata de plasmar lo estriles que eran las investigaciones en esta lnea [10]. Unos veinte aos despus, en la dcada de los 70, resurgen estas teoras y se despierta el inters en sus aplicaciones. Actualmente las redes neuronales se emplean en diferentes campos, estos se agrupan segn varios criterios. Uno de ellos es el propuesto por Deboeck [3], quien los agrupa en: Modelacin financiera y econmica. Perfiles de mercado y clientes. Aplicaciones mdicas. Gerencia del conocimiento y descubrimiento de datos. Optimizacin de procesos industriales y control de calidad. Investigacin cientfica.

El objetivo del presente trabajo es utilizar la base terica de las redes neuronales artificiales como una herramienta prctica que permita realizar anlisis exploratorios de datos o minera de datos vinculados con los indicadores bibliomtricos. Para el logro de este objetivo se utiliza y caracteriza un software llamado Viscovery SOMine [4] que retoma, para su funcionamiento, el concepto y los algoritmos de los mapas auto-organizativos.

1.

Redes neuronales artificiales.

Rosenblatt, F. The perceptron: A probabilistic model for information storage and organization in the brain. Psychol. Rev. 65(3):386-408.
2

Minsky, M.; Papert, S. Perceptrons. Massachusetts: Cambridge University; 1969; 226 p.

Una red neuronal, segn Freman y Skapura [5], es un sistema de procesadores paralelos conectados entre s en forma de grafo dirigido. Esquemticamente cada elemento de procesamiento (neuronas) de la red se representa como un nodo. Estas conexiones establecen una estructura jerrquica que tratando de emular la fisiologa del cerebro busca nuevos modelos de procesamiento para solucionar problemas concretos del mundo real. Lo importante en el desarrollo de la tcnica de las RNA es su til comportamiento al aprender, reconocer y aplicar relaciones entre objetos y tramas de objetos propios del mundo real. En este sentido, se uilizan las RNA como una herramientas que podr utilizarse para resolver problemas difciles. La posibilidad de resolver problemas difciles es dable gracias a los principios de las redes neuronales, los cinco ms importantes son citados por Hilera y Martnez [6]. Estos son enunciados a continuacin: Aprendizaje adaptativo: Esta es quizs la caracterstica ms importante de las redes neuronales, pueden comportarse en funcin de un entrenamiento con una serie de ejemplos ilustrativos. De esta forma, no es necesario elaborar un modelo a priori, ni establecer funciones probabilsticas. Una red neuronal artificial es adaptativa porque puede modificarse constantemente con el fin de adaptarse a nuevas condiciones de trabajo. Autoorganizacin: Mientras que el aprendizaje es un proceso donde se modifica la informacin interna de la red neuronal artificial, la autoorganizacin consiste en la modificacin de la red completa con el fin de llevar a cabo un objetivo especfico. Autoorganizacin significa generalizacin, de esta forma una red puede responder a datos o situaciones que no ha experimentado antes, pero que puede inferir sobre la base de su entrenamiento. Esta caracterstica es muy til sobre todo cuando la informacin de entrada es poco clara o se encuentra incompleta. Tolerancia a fallos: En la computacin tradicional la prdida de un fragmento pequeo de informacin puede acarrear comnmente la inutilizacin del sistema. Las redes neuronales artificiales poseen una alta capacidad de tolerancia a fallos. Se entiende por ello que las redes pueden reconocer patrones de informacin con ruido, distorsin o incompletos, pero que, adems, pueden seguir trabajando aunque se destruya parte de la red (con cierta degradacin). La explicacin de este fenmeno se encuentra en que mientras la computacin tradicional almacena la informacin en espacios nicos, localizados y direccionables, las redes neuronales lo hacen de forma distribuida y con un alto grado de redundancia. Operacin en tiempo real: Las redes neuronales artificiales, de todos los mtodos existentes, son las ms indicadas para el reconocimiento de patrones en tiempo real, debido a que trabajan en paralelo actualizando todas sus instancias simultneamente. Es importante destacar que esta caracterstica solo se aprecia cuando se implementan redes con hardware especialmente diseados para el procesamiento paralelo.

Fcil insercin en la tecnologa existente: Es relativamente sencillo obtener chips especializados para redes neuronales que mejoran su capacidad en ciertas tareas. Ello facilita la integracin modular en los sistemas existentes. Al profundizar en los principios de las RNA y observar continuamente el trmino neurona no es de extraar que se piense por analoga en el cerebro humano, este hecho quizs se deba a que las RNA estn basadas en la inspiracin biolgica. El hombre posee cerca de 10 000 000 000 de neuronas masivamente interconectadas, la neurona es una clula especializada que puede propagar una seal electroqumica. Las neuronas tienen una estructura ramificada de entrada (las dendritas) y una estructura ramificada de salida (los axones). Los axones de una clula se conectan con las dendritas de otra, por va de la sinapsis la neurona se activa y excita una seal electroqumica a lo largo del axn. Esta seal transfiere la sinapsis a otras neuronas, las que a su vez pueden excitase. Las neuronas se excitan slo s la seal total recibida en el cuerpo de las clulas, por conducto de las dendritas, es superior a cierto nivel (umbral de excitacin) [11]. Las redes neuronales artificiales tratan de imitar este principio de funcionamiento cerebral. 1.2. Estructura de una red neuronal artificial.

Las redes neuronales artificiales estn formadas por una gran cantidad de neuronas, estas no suelen denominarse neuronas artificiales sino nodos o unidades de salida. Un nodo o neurona cuenta con una cantidad variable de entradas que provienen del exterior (X1, X2, ......, Xm). A su vez dispone de una sola salida (Xj) que transmitir la informacin al exterior o hacia otras neuronas. Cada Xj o seal de salida tiene asociada una magnitud llamada peso este se calcular en funcin de las entradas, por lo cual cada una de ellas es afectada por un determinado peso (Wjo...Wjq+m) (13). Los pesos corresponden a la intensidad de los enlaces sinpticos entre neuronas y varan libremente en funcin del tiempo y en cada una de las neuronas que forman parte de la red. (Fig. 1).

El proceso de aprendizaje consiste en hallar los pesos que codifican los conocimientos. Una regla de aprendizaje hace variar el valor de los pesos de una red hasta que estos adoptan un valor constante, cuando esto ocurre se dice que la red ya "ha aprendido". [15] Al conectar varias neuronas de un determinado modo, se consigue una red. Existen variaciones de topologas, que se clasifican segn tres criterios: 1) Nmero de niveles o capas. 2) Nmero de neuronas por nivel. 3) Formas de conexin.

El diseo de una u otra tipologa depende del problema a solucionar por ejemplo para elaborar un programa de filtro digital en una computadora, se debe emplear un algoritmo en que todas las capas estn uniformemente interconectadas, o sea que todos lo nodos de una capa estn conectados con los nodos de otra capa. En la Figura 2 se muestra la arquitectura de una RNA clsica con variables de entrada, dos capas de neuronas intermedias y y una capa de salida. Todas ellas conectadas entre s.

Fig. 2. Esquema de una RNA de dos capas de neuronas intermedias. Otro algoritmo de RNA es el que aparece en la Figura 3, en este ejemplo las neuronas se organizan en una tipologa de capas diferentes. Solo incluye una capa neuronal oculta, este algoritmo es muy elemental y es muy utilizado a nivel acadmico para la construccin y prueba de diferentes tipos de modelos de red.

Fig. 3. Esquema de una RNA del tipo alimentacin directa (feed forward). Topologa con una capa de neuronas intermedias. Existe una gran variedad de modelos de redes neuronales estos dependen del objetivo para el cual fueron diseados y del problema prctico que solucionan. Hoy en da, su xito depende en, gran medida, del valor comercial que logren alcanzar sus aplicaciones. En dependencia de ello unos sern ms populares que otros, entre los ms conocidos estn el Adaline/Madaline (utilizado en el diseo y realizacin de filtros, para llevar a cabo la eliminacin del ruido en seales portadoras de informacin, modems, etc.), el back propagation (utilizado en el proyecto de la mquina de escribir neural fontica) y el modelo de los mapas auto-organizados (Self-Organizing Map, SOM). Este ltimo es conocido como modelo de Kohonen por ser este su creador, un anlisis ms detallado de este modelo aparece en el acpite siguiente. 2. Modelo Kohonen

Este modelo surge ante la curiosidad de Teuvo Kohonen, quien interesado en comprender la clasificacin natural que hace el cerebro en cuanto a su funcionalidad, ide el algoritmo SOM. Una definicin simplificada sobre los mapas topolgicos podra ser que, en una correspondencia que respecte la topologa, las unidades que se encuentran fsicamente prximas entre s van a responder a clase de vectores de entrada que, anlogamente, se encuentren cerca unos de otros. Los vectores de entrada de muchas dimensiones son representados sobre el mapa bidimensional, de tal manera que se mantenga el orden natural de los vectores de entrada. [3, 5, 9]. Estos mapas presentan la caracterstica de organizar la informacin de entrada, de entre un gran volumen de datos, clasificndola automticamente, esto permitir visualizar relaciones importantes entre datos. Este modelo es muy til para establecer relaciones desconocidas previamente Este modelo de RNA es del tipo aprendizaje autoorganizado que como se explic con anterioridad es un proceso donde las neuronas aprenden mediante la autoorganizacin. Durante el proceso de aprendizaje, al ingresar un dato solo una neurona que tenga una actividad positiva dentro de la vecindad ser activada en la capa de salida. La arquitectura SOM se ha extendido a infinidad de aplicaciones, es por ello que este algoritmo y sus modelos se han automatizado para dar vida a varios software como son el Viscovery SOMine y el WEBSOM (7). Ambos son utilizados en el anlisis y filtrado de informacin, el Viscovery ha sido validado tanto en estudios de mercado como anlisis financiero o proyecciones urbansticas. Actualmente est incursionando en el tratamiento de la informacin usando herramientas diseadas por la bibliometra. [13, 14]. 2.1. Los mapas autoorganizados aplicados a la Bibliometra. La Bibliometra es una disciplina que estudia los aspectos cuantitativos de la informacin registrada, para ello se han creado una serie de modelos estadsticos que aportan datos numricos sobre el comportamiento de la actividad cientfica. Tambin se han adaptado modelos de otras disciplinas para facilitar los anlisis y representar los resultados desarrollados a partir de la Bibliometra. Los mapas auto-organizados (SOM) o modelo de Kohonen (basado en las RNA) es una de estas herramientas. En los estudios mtricos la aplicacin de las redes neuronales, y especficamente los SOM, estn asociados en lo fundamental con la clasificacin de informacin, o sea, la formacin de cluster y su representacin en mapas bidimensionales de conceptos y ms especficamente con el descubrimiento de informacin (data mining). Este ltimo vinculado con la recuperacin de la informacin con "ruido" e incompleta o con el tratamiento de informacin que incluye diferentes tipos de datos (nmeros, texto, registros estructurados, etc.). Los SOM facilitan que el

conocimiento tcito se trivial (a partir de potencialmente tiles patrones o estructuras en

haga explcito, a partir de la extraccin nolos datos) de conocimientos implcitos desconocidos previamente. Se podrn encontrar el conocimiento tcito.

Las investigaciones bibliomtricas, a travs de la utilizacin de las redes neuronales, incursionan en: la seleccin de variables, clasificacin de informacin o formacin de cluster, regresin, relaciones entre variables, cambios y desviaciones, representacin de las variables.

Lo anterior se puede ejemplificar a partir de algunas aplicaciones prcticas relacionadas con la evaluacin de pginas web [8] y trabajos relacionados con la clasificacin de revistas en un determinado campo temtico [9]. Se conocen, adems, investigaciones relacionadas con la minera de textos (text mining) sobre todo aplicado a la asociacin de palabras o co-word. En todos estos ejemplos se utiliza como variante de las RNA el modelo de los mapas auto- organizativos (self-organizing map, SOM). En un anlisis, realizado por los autores sobre el tema, se examinaron cerca de 56 documentos sobre redes neuronales aplicadas al anlisis de informacin, con ello se constato que la mayora utilizaban el modelo SOM como herramienta de estudio. (2, 7, 8, 12,16). Un ejemplo de SOM podra ser.el estudio de una temtica determinada, para este caso en un mapa cada documento (artculo de revista, podra ser una patente, una tesis, etc.) Va a ocupar un lugar en el espacio, en funcin de su contenido temtico. Cada rea del mapa va a reflejar un contenido especfico y los tpicos van variando levemente a lo largo del mismo. Las diferentes tonalidades indican la densidad de documentos, cuanto ms oscura ms documentos se encuentran. Este uso frecuente de los SOM quizs se deba a lo amigable de la interfaz de los mapas para los usuarios finales y a la diversidad de sus utilidades prcticas, estas representaciones son vlidas para poder identificar, adems de los desarrollos temticos antes mencionados, relaciones entre reas temticas y publicaciones, alianzas estratgicas y caractersticas de la cooperacin. Permite, tambin, visualizar los avances tecnolgicos que tienen lugar en un perodo, conocer la evolucin de una tecnologa a travs del tiempo e identificar campos emergentes.

En el acpite anterior se mencion al Viscovery SOMine como un software que ha automatizado el modelo SOM. Este sistema es utilizado por un equipo de trabajo del Instituto Finlay para elaborar mapas cientficotecnolgicos. La lgica de funcionamiento del Viscovery SOMine se muestra en la Figura 4.

Clusters

El punto de partida, para el uso de esta herramienta, es la entrada de un conjunto de datos numricos (datos multivariables, variables, nodos ). Estos datos necesitan ser pre- procesados con el objetivo de organizarlos en forma de matrices. Los datos son convertidos hasta obtener una informacin visual en forma de mapa, para ello se aplica un nmero de tcnicas de evaluacin como coeficientes de correlacin entre variables o factores discriminantes [4, 13, 14]. Los mapas sern amigables a la vista del usuario final, en ellos se identificarn dependencias entre parametros, cluster y grficos que facilitarn diferentes predicciones o el proceso de monitoreo. Aplicaciones Se estima que a pesar de las limitaciones tcnicas, las redes neuronales aplicadas a la Bibliometra constituyen un campo de investigacin muy prometedor. Un ejemplo es presentado a continuacin. La disciplina muldidisciplinar de las redes neuronales es aplicada en esta seccin, donde se asume a la produccin de los documentos de patentes como indicador de la capacidad de desarrollo industrial. El objetivo es

identificar posibles tecnolgica, etc.

competidores,

alianzas

estratgicas, dependencia

Se escogi para el primer ejemplo la representacin de la situacin tecnolgica de la Neisseria meningitidis.3 Las diferentes instituciones en la primera hoja de sus patentes hacen referencias a otras patentes, a partir de estos datos se puede inferir el impacto que produce una tecnologa o institucin en otra. Con el objetivo de determinar la dependencia tecnolgica entre instituciones, se realiz un anlisis de citas, estas formaron los cluster que aparecen en la figura 5.

Fig. 5. Posicin citaciones.

tecnolgica

de

las

instituciones

segn

las

El mapa tecnolgico presentado en la figura anterior representa a tres cluster: cluster 1 formado solamente por la Merck & Co., un cluster 2 formado nicamente por el National Res. Council of Canada y el cluster 3 que incluye al resto de las instituciones. Este ltimo grupo est formado por una gran cantidad de instituciones que tienen igual estrategia de citacin, sobre todo las representadas con colores ms claros y sin lmites de separacin. Se presupone que estas firmas se basan para su desarrollo en su propia base tecnolgica, pues citan poco a otras instituciones. El cluster 2 evidencia un alto nivel de autocitacin, cuando

Entre las bacterias causantes de la meningitis cerebroespinal, la Neisseria meningitidis es el agente causal ms frecuentemente encontrado. La enfermedad se presenta en todo el mundo y se manifiesta de forma endmica o epidmica).

esto sucede, algunos investigadores [1] en el tema sealan que probablemente esta institucin tenga un nicho de proteccin cerrada sobre un espacio tecnolgico. Puede estar ocurriendo que exista una patente importante, la cual se ha rodeado de invenciones mejoradas. El cluster formado por la Merck & Co. indica un mayor nivel de citacin, esto presupone una estrategia balanceada: absorbe tecnologa externa y produce tecnologa propia. La cercana de los cluster tambin es una evidencia sobre las instituciones que tienen estrategias parecidas a la de otras. La Rockefeller University hace frontera con el cluster que incluye a North American Vaccine, y el National Res. Council de Canada; estas instituciones forman un colegio tecnolgico invisible que basa sus desarrollos en la misma innovacin tecnolgica.

Otro ejemplo Otra aplicacin se presenta en un campo diferente del conocimiento: la agricultura. En este ejemplo no solo se tom como elemento de entrada la produccin documental de determinados pases, tambin se consideraron otros tipos de variables como "gastos en I+D" en cada uno de los pases analizados, "personal dedicado a actividades de I+D", etc.

Fig. 6. Mapa de Amrica Latina y el Caribe (pases seleccionados) de acuerdo con la actividad en ciencia agrcola. En la figura 6 se presenta un mapa auto-organizado sobre la actividad en ciencia agrcola en Amrica Latina y el Caribe (se seleccionaron algunos pases segn los datos disponibles). Con ello se pretende lograr una representacin de la regin, teniendo en cuenta los indicadores de insumo y de resultados ms significativos. En la figura aparecen, en

dos dimensiones, 22 pases. La semejanza de los pases, considerando de forma simultnea los 20 indicadores, se expresa mediante la cercana de estos en el mapa. Los 22 pases se agrupan (autorganizan) en 3 clusters o grupos: El cluster C1, que aparece en la esquina inferior izquierda, es seguido por una banda de 4 pases correspondientes al cluster C2 (Cuba, Colombia, Chile y Venezuela) y otro cluster (C3) con el resto de los pases. En el mbito regional e internacional hay un grupo de pases formado por Brasil, Mxico y Argentina que tienen una investigacin en la temtica con mayor solidez y con parecidos niveles de desarrollo. Esto coincide con los pases que presentan mayor nivel regional en el desarrollo agrcola.

Consideraciones finales Ante los ejemplos expuestos, se hace evidente que las redes neuronales artificiales, especficamente las basadas en el modelo Kohonen, pueden ser aplicadas como una herramienta de anlisis con mltiples propsitos. Existen experiencias prcticas sobre estudios de mercado, anlisis financieros, lneas de procesos industriales, control de la calidad y sistemas de vigilancia tecnolgica. Existen anlisis macro-econmicos, por ejemplo, para representar datos coleccionados durante un perodo de 20 aos sobre un pas determinado, el Viscovery SOMine genera un mapa en el cual se representan el conjunto de los datos. Los cluster representan, entre otros resultados, las diferentes fases econmicas durante ese perodo de tiempo. El vnculo de la Bibliometra con las redes neuronales se muestra muy fructfero. Esta herramienta de anlisis debe ser estudiada no solo por la Bibliometra, sino tambin por otras disciplinas, las cuales pueden potenciar con ella su propio desarrollo. Referencias 1. Battelle Memorial Institute. Keeping abreast of science and technology: technical for business. Ashton, B., Klavans, R.A. Ohio: Battelle Memorial Institute, 1997, 557 p. 2. Campanario, J.M. Using neural scientific journals. Scientometrics. 33(1):23-40, 1995. networks to study networks of

3. Deboeck, Guido J. Pattern recognition and prediction with self-organizing maps and ork / AIabtext.html supporting software review: visualization through viscovery [en lnea]. < http://www.gordiand-knot.com >>. Gordian Institute Electronic NewsLetter. [Consulta: 20 de febrero 2000.] 4. Eudaptics Software Gmbh. Viscovery for CRM-applications (Viscovery White Paper) [en lnea]. <<http://www.eudatic.com>>. [Consulta: diciembre de 1999]. 5. Freeman, J.A.; Skapura, DM. Redes Neuronales. Algoritmos, aplicaciones y tcnicas de propagacin. Mxico: Addison-Wesley. 1993; 306 p. 6. Hilera Gonzlez, J.; Martnez Hernndez, V. Redes neuronales artificiales: fundamentos, modelos y aplicaciones. Madrid, RA-MA, 1995. 389 p. 7. Honkela, T. y otros. Newsgroup exploration with WEBSOM method and browsing interface. Espoo. Helsinki, University of Technology, Laboratories of Computer and Information Science. 1996. (Technical Report, A32). 8. Kaski, S. y otros. Creating an order in digital libraries with selftorganizing map. In: Proceeding of World Congress on Neural Networks, WCNN'96. Mahwah, NJ, INNS Press, 1996. 1996, pp. 814-817. 9. Kohonen, T. Self-Organizing-Maps. Springer, Berlin, Second edition. 1997, 362 p.

10. Kornilov, A.R. Intelligent technologies new opportunities for modern industry. Information Technology. 1997; 3(6):1-14. 11. Neurofisiologa [CD-ROM], Enciclopedia 99. (c) 1993-1998 Microsoft Corporation. Microsoft(R) Encarta(R)

12. Polanco, Xavier; Francois, C., Keim, JF. Artificial neural network technology for the classification and cartography of scientific and technical information. In: Periz, B., Egghe, L. Procceding Sixth International Conference of the International Society for Scientometrics and Informetrics; Jerusalem, Israel, 1997. Jerusalem, Universidad Hebrew of Jerusalem, 1997, pp. 319-330. 13. Sotolongo, G; Surez, CA.; Guzmn, MV. Modular Bibliometrics Information System with Propietary Software (MOBIS-ProSoft): a versatile approach to bibliometric research tools. Library and Information Science Electronic Journal (LIBRES). 2000; 10(2): http://libres.curtin.edu.au/ 14. Sotolongo, G; Surez, CA.; Guzmn, MV. Modular Bibliometrics Information System with Propietary Software: In: Macas-Chapula, C.

(Ed.). In: Proceedings of the Seventh International Society for Scientometrics and Informetrics. Universidad de Colima, Mxico. 1999; 313-322. 15. StatSoft, Inc. Neural Networks. Statistica for Windows [Computer program manual]. Tulsa, Oklahoma: StatSoft, Inc. <<http://www..statsoft.com>>. [Consulta: diciembre del 2000]. 16. Swanson, D. R. y N. R. Smalheiser. An interactive system for finding complementary literatures: a stimulus to scientific discovery. Artificial Intelligence. 91(3):183-203, 1997. Tambin disponible en <http://kiwi.uchicago.edu/web>>.

UNIVERSIDAD AUTONOMA DEL CARMEN

ALUMNOS: Chuina de Carmen Zapata Gmez Rosali Guadalupe Carbonell Prez

FACULTAD: Ciencias de la Informacin

MAESTRA: MCC. Abril Ayala Sanchez

TRABAJO: Antologa de Redes Neuronales

FECHA: 28/03/2011