Sie sind auf Seite 1von 22

Redes Neuronales.

Una Aplicación financiera


de series de tiempo.

Universidad Nacional Autónoma de Honduras.

El presente articulo es una investigación bibliográfica, de la clase Seminario de


Investigación del departamento de matemáticas y con la participación de:

Autor: Lester Armando Vallecillo

Tutor: Mr. Pablo Mejía

Supervisor: Dr. Jorge Arturo Destephen

Tegucigalpa, Honduras, C.A. 12 de Diciembre del 2019


Resumen

La importancia de generar inteligencia artificial permite abrir paso a una de las he-
rramientas mas importantes para el analisis de datos, denominada Redes Neuronales
Artificiales(ANS). Surge con la necesidad de modelar problemas reales del campo
científico, de ingeniera y la informática entre otros, para obtener resultados mas
precisos y automatizar los cálculos de la solución. Por su diversidad de aplicaciones
en problemas lineales y no lineales, dicha herramienta es una familia de algoritmos
de Machine Learning mas populares que se utiliza con frecuencia en problemas de
predicción, obteniendo un alto grado de precisión.

El propósito es comprender los fundamentos teóricos y prácticos de las Redes


Neuronales Artificiales, para modelar problemas lineales y no lineales, específica-
mente en series de tiempo, particularmente en una aplicación financiera conocida
como estimaciones de cartera de crédito 2019. De la misma manera, evaluar la ca-
pacidad de las Redes Neuronales Artificiales en la predicción de series de tiempo,
comparando el error con resultados obtenidos utilizando métodos estadísticos tra-
dicionales.

Palabras Clave: Inteligencia artificial, Machine Learning, Redes Neuronales Ar-


tificiales, Modelar problemas, Predicción, Series de tiempo.

Euclides:

Las leyes de la naturaleza no son más que los pensamientos matemáticos de Dios.
Introducción

Con el avance de la tecnología, las redes neuronales artificiales(ANS1 ) se vuelven


cada día mas importantes, es una herramienta popularmente conocida en Machine
Learning y en el analisis de datos. Sin embargo, esta herramientas surge de forma
paralela con la aparición de los primeros computadores, desde ese entonces son uti-
lizados para modelar neuronas individuales. En fin, hay muchas tareas que resultan
especialmente adecuadas para ser resueltas mediante computadores: resolución de
problemas matemáticos y científicos, bases de datos, comunicaciones electrónicas,
procesamiento de archivos, etc. Por eso, hay muchas aplicaciones que desearíamos
automatizar, pero esta necesidad se requiere en algunos casos generar inteligencia
artificial, en cuyo problema aparece como propuesta el modelo de la Red Neuro-
nal Artificial, que básicamente emula la inteligencia del sistema neuronal biológi-
co(BNS2 ) implícito en el cerebro humano.

Las redes neuronales son eficientes a la hora de esperar buenos resultados en mu-
chos tipos de problemas de predicción3 porque son capaces de modelar y predecir
series de tiempo y otros problemas lineales y no lineales con un alto grado de pre-
cisión, capturar cualquier tipo de correlación4 entre las variables de algún conjunto
de datos.
1
Por sus siglas en ingles, Artificial Neural Systems.
2
Por sus siglas en ingles, Biological Neural Systems.
3
La predicción es la estimación de un valor futuro en una sucesión
4
Es una proporcionalidad y la relación lineal entre dos variables de un conjunto de datos.

1
REDES NEURONALES

Esta investigación se centra en comprender los fundamentos teóricos de su es-


tructura y funcionalidad. De la misma manera, evaluar la capacidad que presentan
las redes neuronales artificiales en la predicción de series de tiempo, estudiando una
serie de tiempo particular del campo de las finanzas.

El resultado final de la aplicación sera capaz de predecir el siguiente periodo de


tiempo, para luego medir el error en cada periodo de tiempo estimado y de esta
manera determinar si las redes neuronales son mas precisas que los métodos tradi-
cionales o de analisis multivariante.

Palabras clave: Neurona Artificial, Inteligencia Neuronal Biológica.

2
1. Fundamentos Teóricos

El cerebro humano consiste en billones de neuronas biológicas interceptadas.


Su estructura esta definida de tal manera que, el axón(salida) de la neurona se
ramifica y está conectada a las dendritas(entradas) de otras neuronas a través de
uniones llamadas sinapsis5 . La teoría de las ANS esta basada en este modelo básico
del cerebro humano, denominado BNS. Para mostrar la relación existente entre
ambos modelos primero definimos los conceptos del modelo BNS, el cual sera el
prototipo6 para fundamentar la teoría del modelo ANS, su metodología se describe
en el diagrama siguiente:

Metodología de Definicion de Red Neuronal Artificial


5
es una aproximación funcional intercelular.
6
Se refiere a un objeto que sirve como modelo para la construcción de un nuevo objeto.

3
1.1. PROTOTIPO BNS REDES NEURONALES

1.1. Prototipo BNS

Utilizamos un prototipo descrito como anteriormente como BNS para construir


los fundamentos del ANS, basado en el echo que esta inspirado en la estructuración
del sistema del cerebro humano, es decir, el BNS. El sistema nervioso esta constituido
por neuronas interceptadas entre si, presenta una estructura compleja compuesta por
neuronas biológicas. El promedio de neuronas es de 101 1 y las conexiones promedio
entre ellas son de orden 101 5. Las neurona tienen propiedades particulares diferentes
como recibir, procesar y transmitir señales electro-químicas a través de todas las
conexiones del sistema de comunicación del cerebro.

Estructura de un par de neuronas biológicas

[2]

4
1.1. PROTOTIPO BNS REDES NEURONALES

Desde el cuerpo de una neurona se extienden las dendritas hacia otras neuronas
donde reciben las señales transmitidas por otras neuronas. El punto de contacto o de
conexión se llama sinapsis. Ahora definimos la componente principal del prototipo.

1.1.1. Neurona biológica

Son células nerviosas que constituyen los elementos primordiales del sistema ner-
vioso central. Una neurona es capaz de recibir información de miles de otras neuro-
nas, procesarla y luego generar una nueva información que enviará a otras neuronas
con las que está conectada. Se estima que el cerebro está compuesto por más de
10 billones de neuronas y que cada una está conectada a más de 10 mil neuronas.
Una neurona biológica está compuesta por: cuerpo celular o soma, axón y dendritas.

Esquema de una neurona biológica


Fuente: http://alojamientos.us.es/gtocoma/pid/pid10/RedesNeuronales.htm

Basado en nuestro prototipo, definimos el componente principal del ANS.

5
1.2. NEURONA ARTIFICIAL REDES NEURONALES

1.2. Neurona Artificial

Una neurona artificial es una abstracción de una neurona biológica que su fun-
ción principal es el procesamiento de información, el cual es fundamental para la
operación de una red neuronal artificial. Una neurona artificial está compuesta por:
un conjunto de entradas, un conjunto de pesos sinápticos, un “cuerpo celular” y una
salida, como se muestra en la figura siguiente:

Esquema de una neurona artificial


Fuente: http://www.cs.us.es/~fsancho/?e=72

Una representación del funcionamiento básico de una neurona artificial se describe


en la siguiente ecuación:

X
F (s) = x i wi

Donde xi las entradas, wi los pesos sinápticos y F (s) es la salida.


Con el objetivo de construir el modelo INA definamos una red compuesta por
neuronas artificiales y similar al sistema biológico, a continuación:

6
1.3. REDES NEURONALES ARTIFICIALES REDES NEURONALES

1.3. Redes Neuronales Artificiales

Una ANS es una red compuesta por neuronas artificiales que están interceptadas
de alguna manera y trabajan para poder simular un problema específico. General-
mente, están estructuradas por capas7 de nodos que envían y reciben respuestas
entre si, similar a la manera en que el cerebro procesa la información. El resultado
de la respuesta de salida es comparada con la esperada para calcular el error hasta
ser minimo, en la siguiente figura, se muestra su estructura, a continuación.

Una Red Neuronal es un conjunto de nodos interconectados, que realizan al me-


nos una de las siguientes funciones: Aprendizaje, Memorización, Generalización o
Abstracción de características a partir de un conjunto de datos.[3]

Esquema de una Red Neurona Artificial


Fuente: Artificial neuronal networks in Intensive Medicine.
An example of application with MPM II variables», 2005.

7
Son subconjuntos de una red que están jerárquicamente clasificados.

7
1.3. REDES NEURONALES ARTIFICIALES REDES NEURONALES

En el estudio de las ANS deben considerarse tres aspectos fundamentales: La


arquitectura, el aprendizaje y la capacidad de generalización de la red.[4]

Arquitectura de red

Es el diseño estructural de la red, relacionado al problema que se pretende mo-


delar y busca determinar los siguientes elementos:

Cantidad de entradas y salidas

Cantidad de nodos ocultos

La función de red

Activación de cada nodo

La forma en que los nodos están interconectados

La dirección que sigue la información

La selección de datos

Observación: Con la selección de un conjunto de datos adecuado se realizar el


entrenamiento8 y de esta manera se valida el modelo del problema.

Aprendizaje

Es el proceso9 en el cual los pesos sinápticos son modificados con el objetivo


de capturar la información que se presenta, y así obtener respuestas mas precisas.
Normalmente el proceso se realiza hasta que se produce un evento de los siguientes:

El error entre la salida de la red y la deseada alcance un valor aceptable.

Se alcance el número máximo de ciclos.


8
Significa seleccionar un modelo de la serie de modelos permitidos
9
Consiste en representar un conjunto de datos como conjunto de patrones de entrenamiento.

8
1.4. CLASIFICACIÓN DE REDES NEURONALES REDES NEURONALES

El aprendizaje se lleva a cabo mediante el uso de algoritmos de entrenamiento


que devuelve una respuesta de salida.

Capacidad de Generalización

La capacidad de generalización de una red esta asociada a la recuperación de


información que es almacenada en los pesos sinápticos de las conexiones durante el
entrenamiento, evaluando así, los resultados de un conjunto de datos utilizados en el
proceso de aprendizaje, en el que pueden existir patrones diferentes. Se espera que
cuando se presenten patrones que no han sido enseñados a la red, ésta sea capaz de
entregar una respuesta cercana a la deseada.

1.4. Clasificación de redes neuronales

1.4.1. Según su arquitectura

Consiste en la organización de las neuronas. Las neuronas se agrupan formando


capas de diferentes características.

Perceptrón simple Esta compuesta por una capa.

Perc. Multicapa Dispone de un conjunto de capas.

Convolucional Se une con un subconjunto de capaz.

Recurrente Permite conexiones arbitrarias.

Base radial Calculan la salida de la función.

1.4.2. Según su aprendizaje

Consiste en algoritmos basados en formulas matemáticas que usando técnicas


modifican el valor de los pesos sinápticos y con ello optimizan la respuesta de salida
de la red. Se subdivide en:

9
1.4. CLASIFICACIÓN DE REDES NEURONALES REDES NEURONALES

Aprendizaje Supervisado

Es el proceso en el cual se realiza un aprendizaje con un entrenamiento contro-


lado. Algunos ejemplos destacados, son los siguientes:

Corrección del error Ajusta los pesos de las conexiones en función del error. En-
tre los mas utilizados, tenemos los siguientes:

Perceptrón

Mínimo error cuadrado

Propagación hacia atrás

Estocástico Realiza cambios aleatorios, tomando los mejores resultados.

Aprendizaje No Supervisado

No requiere influencia externa para ajustar los pesos. Algunos ejemplos destaca-
dos, son los siguientes:

Hebbiano Extrae características de las entradas.

Comparativo Clasifica las entradas de la red.

Aprendizaje Por refuerzo

El usuario indica cuando los datos son aceptables o no, según sus propios cri-
terios al hacer observaciones. El proceso del aprendizaje por refuerzo consiste en
determinar las siguientes componentes:

Un conjunto de estados

Un conjunto de acciones

Reglas de la transición entre los estados

Reglas de recompensa escalar de una transición

10
1.5. ESTRUCTURA DE ALGUNAS REDES REDES NEURONALES

Reglas que describen lo que observa el agente

La observación implica típicamente la recompensa inmediata al escalar asociado


con la última transición.[8]

1.5. Estructura de algunas redes

1.5.1. Perceptrón y Adaline

Comparación de la estructura de la red Perceptrón y Adaline.

[4]

11
1.5. ESTRUCTURA DE ALGUNAS REDES REDES NEURONALES

1.5.2. Perceptrón multicapa

Perceptrón multicapa, utilizando una funciones de salida Sigmoide.

[4]

1.5.3. Backpropagatión(regla delta)

Corrige el valor de los pesos entre las conexiones de las neuronas mediante la
retropropagación del error, desde la capa de salida hacia la capa de entrada, a través
de las capas ocultas.

12
1.6. SERIES DE TIEMPO REDES NEURONALES

Neurona oculta conectada con la neurona de la capa de salida.

[4]

1.5.4. Proceso de entrenamiento: Backpropagatión

1. Se inician los pesos con valores aleatorios.

2. Se presenta un patrón n de entrenamiento {X(n), S(n)}, se evalúa en propa-


gación hacia adelante y se obtiene respuesta de la red Y (n).

3. Se evalúa el error que comete la red para cada neurona.

4. Se aplica la regla delta generalizada para modificar los pesos de la red con la
propagación hacia atras.

5. Se repite el proceso hasta alcanzar un mínimo de error.

1.6. Series de Tiempo

Una serie tiempo es una secuencia de observaciones, medidas en determinados


momentos del tiempo, ordenados cronológicamente y, espaciados entre sí de manera

13
1.6. SERIES DE TIEMPO REDES NEURONALES

uniforme, así los datos usualmente son dependientes entre sí. El principal objetivo
de una serie de tiempo es su análisis para hacer pronósticos.[7]

1.6.1. Componentes de una serie de tiempo

Los valores que toma la variable de observación es la consecuencia de tres com-


ponentes, cuya actuación conjunta da como resultado los valores medidos, estos
componentes son:

Tendencia

Es un cambio a largo plazo que se produce en la relación al nivel medio, o el


cambio a largo plazo de la media y se identifica con un movimiento suave de la serie.

Estacional

Es una variación de cierto período que sus efectos son fáciles de entender y se
pueden medir explícitamente o incluso se pueden eliminar de la serie de datos, a
este proceso se le llama desestacionalización10 de la serie.

Aleatoria

Es el resultado de factores aleatorios que inciden de forma aislada en una serie


de tiempo.

10
Consiste en subidas y bajadas periódicas que se presentan de forma regular en una serie de
tiempo.

14
2. Aplicación de Redes Neuronales a una se-
rie de tiempo

Según el Proceso de entrenamiento descrito en la sección anterior, podemos mo-


delar una serie de tiempo mediante ARN, definiendo así, su arquitectura.

2.1. Modelar una serie de tiempo

La aplicación de ARN a la predicción de series de tiempo se relaciona mediante


las siguientes etapas, que se describen a continuacion:

2.1.1. Búsqueda de las variables de entrada

Tiene como objetivo identificar los rezagos11 de la serie de tiempo que se consi-
deran entrada en la ARN.

2.1.2. Preparación del conjunto de datos

Su objetivo es realizar el escalamiento12 de los datos.

2.1.3. Creación de la red

Tiene como objetivo determinar cada elemento que compone la arquitectura de


la red.[1]
11
Período de Tiempo transcurrido entre el cambio en una variable y otras variables
12
El escalamiento consiste en la normalización de estos en el intervalo [0, 1].

15
2.2. ANÁLISIS DE DATOS REDES NEURONALES

2.1.4. Entrenamiento

Se define el algoritmo de entrenamiento y sus parámetros de configuración. En


este articulo se consideran un algoritmo de entrenamiento supervisado, que ajusta
los pesos sinápticos mediante la minimización del error aplicando Backpropagation.

2.1.5. Validación

En esta etapa se pretende realizar la validación del proceso de aprendizaje. Luego


de presentar a la red el conjunto de datos seleccionados se obtienen los valores del
siguiente periodo para cada patrón de datos.[1]

2.1.6. Calcular factores de comparación

Consiste en calcular los factores que serán utilizados en el análisis de los resulta-
dos al comparar los distintos modelos de redes neuronales obtenidos. Para realizar
esta etapa, se obtienen los factores siguientes: error Absoluto, coeficiente de corre-
lación, gráfica de las series.

2.2. Análisis de datos

16
3. Analisis de Resultados

3.1. Resultados

3.2. Conclusiones

17
Bibliografía

[1] Luis Escobar R, Julio Valdes H y Santiago Zapata C, Redes Neuronales Artifi-
ciales en predicción de Series de Tiempo, Universidad de Palermo, Argentina.

[2] Xabier Basogain Olabe, Redes Neuronales Artificiales y sus Aplicaciones, Es-
cuela Superior de Ingeniería de Bilbao, España.

[3] Requena y Ignacio, Introducción a las Redes Neuronales Artificiales. Neuro-


computación, Universidad de Granada, España.

[4] Correa y Rafael(2006), Redes Neuronales Artificiales en Ingeniería y Física


Nuclear. Caracterización de espectros PIXE, Universidad de Granada, España.

[5] Zhang y Peter(2004), Neural Networks in Business Forecasting, 1 edición, Idea


Group Publishing, E.U.A.

[6] James Freeman y David Skapura(1993), Redes Neuronales Algoritmos, aplica-


ciones y técnicas de programación, 1 edición, Addison-Wesley Iberoamericana,
E.U.A.

[7] John Villavicencio, Introducción a Series de Tiempo

[8] https://es.wikipedia.org/wiki, Aprendizaje por refuerzo

18
4. Anexos

4.1. Anexo 1

ESTADO DEL ARTE: REDES NEURONALES.


UNA APLICACIÓN FINANCIERA DE SERIES
DE TIEMPO.

Base de datos Titulo Archivo


Biblioteca UNAH Neural Networks. Algorithms, Aplications, and Program- Libro
ming Techniques
Google Académi- Redes Neuronales Artificiales en predicción de Series de Articulo
co Tiempo
Dialnet Introducción a las Redes Neuronales Artificiales. Neuro- Libro
computación
Open Access The- Redes Neuronales Artificiales en Ingeniería y Física Nuclear. Libro
ses and Disserta- Caracterización de espectros PIXE
tions
ResearchGate Neural Networks in Business Forecasting Articulo
Google académico Introducción a Series de Tiempo

19
4.2. ANEXO 2 REDES NEURONALES

4.2. Anexo 2

20