Redes Bayesianas

Alexandra Cueva
Juan Carlos Sarango
Redes Bayesianas
Son representaciones grficas de
dependencia de razonamiento
probabilstico.
Redes Bayesianas

En la RB los
nodos
representan
variables
aleatorias y los
arcos
representan
relaciones de
dependencia
directa entre las
variables
Teorema de Bayes

Fue enunciado por Thomas Bayes

en la teora de la probabilidad
Definiciones

Arco
X
Y

Grafo Acclico
a

b
c

d
e
Separacin D
En general, el conjunto de variables A es
independiente del conjunto B dado C si al remover
C hace que A y B se desconecten. Es decir, NO
existe una trayectoria entre A y B en que las
siguientes condiciones sean verdaderas.
1. Todos los nodos con flechas convergentes estn o
tiene descendientes en C.
2. Todos los dems nodos estn fuera de C.

A B

C
Inferencia y Propagacin de
Arboles
El razonamiento probabilstico o propagacin de
probabilidades consiste en propagar los efectos de
la evidencia a travs de la red para conocer la
probabilidad a posteriori de las variables.
Los algoritmos de propagacin dependen de la
estructura de la red:
rboles.
Poli-rboles.
Redes multi-conectadas.

rbol Polirbol
Propagacin de Redes
Multiconectadas
Una red multiconectada es un grafo
no conectado en forma sencilla, es
decir, en el que hay mltiples
trayectorias entre nodos (MCG).

1
Nuevas Tcnicas
2 3 Condicionamiento
Simulacin Estocstica
4 5 Agrupamiento
Red Multiconectada
Propagacin de Redes
Multiconectadas
Condicionamiento:
Si instanciamos una variable, esta bloquea las
trayectorias de propagacin.
Entonces asumiendo valores para un grupo
seleccionado de variables podemos descomponer la
grfica en un conjunto de SCG.
Propagamos para cada valor posible de dichas
variables y luego promediamos las probabilidades
ponderadas.
Simulacin Estocstica:
Se asignan valores aleatorios a las variables no
instanciadas.
Se calcula la distribucin de probabilidad y se
obtienen valores de cada variable dando una
muestra.
Se repite el procedimiento para obtener un numero
apreciable de muestras y en base al numero de
ocurrencias de cada valor se determina la
probabilidad de dicha variable.
Propagacin de Redes
Multiconectadas
Agrupamiento:
El mtodo de agrupamiento consiste en transformar la estructura
de la red para obtener un rbol, mediante agrupacin de nodos
usando la teora de grafos.
Pasos:
Elimina la direccin de los arcos.
Ordenamiento de los nodos por mxima cardinalidad.
Moraliza el grafo (arco entre nodos con hijos comunes).
Triangular el grafo.
Obtener los cliques y ordenar.
Construir el rbol.

1 1 C1 1,2,3

2 3 2 3 C2 2,3,4

4 5 C3 3,5
4 5
Aprendizaje de Clasicadores
Bayesianos.
Un clasificador, en general,
suministra una funcin que clasifica,
una instancia, especificada por una
serie de caractersticas o atributos,
en una o en diferentes clases
predefinidas.
Se mencionan dos tipos de
aprendizaje:
Aprendizaje estructural.
Aprendizaje paramtrico.
Aprendizaje de Clasicadores
Bayesianos.
Aprendizaje Estructural :
Obtiene la estructura de la red Bayesiana (o
topologa de red) a partir de bases de datos, es
decir, las relaciones de dependencia e
independencia entre las variables involucradas.
Aprendizaje Paramtrico:
Dada una estructura, obtiene las probabilidades
asociadas. El requisito primordial para poder
realizar la tarea de aprendizaje de redes
Bayesianas a partir de datos es disponer de
bases de datos muy amplia en las que este
detallado el valor de cada variable en cada uno
de los casos.
Clasicador Bayesiano Simple

Un clasificador es una funcin que

asigna una etiqueta clase a una
instancia descrita mediante un
conjunto de atributos.

A1 A2 An
Extensiones al Clasicador
Bayesiano
Se lo puede realizar de dos formas:
TAN:
Clasificador bayesiano simple al cual se le
aumenta con un rbol.
BAN:
Clasificador bayesiano simple al cual se le
aumenta con una red.
C
C

A1 A3
A1 A2 A3
A2
TAN BAN
Mejora Estructural de un
Clasicador Bayesiano
En este enfoque se combina conocimiento de
expertos con datos para encontrar la estructura de
una red bayesiana.
Un enfoque consiste en iniciar con una estructura
preliminar propuesta por un experto y utilizar datos
para validar y mejorar dicha estructura.
1. Validar la estructura de cada subrbol de la red
bayesiana:
1. Calcular la correlacin entre cada par de nodos dado
el padre:
1. Baja: es razonable asumir independencia, as que la
estructura no se modifica.
2. Alta: no son independientes, modificar la estructura.
2. Si se requiere modificar la estructura, se utiliza una
de las siguientes estrategias:
1. Eliminacin de nodo
2. Combinacin de nodos
3. Creacin de nodo.
Mejora Estructural de un
Clasicador Bayesiano

Z Z

X Y
W
1. Estructura Original

Z Z X Y

4. Insercin

X XY

2. Eliminacin 3. Unin
Herramientas de utilizan
Redes Bayesianas
KNIME:
Herramientas de utilizan
Redes Bayesianas
Weka
Herramientas de utilizan
Redes Bayesianas
Yale
Referencias
Felgaer, Britos, Sicre, Servetto, Garcia Martnez, Perichinsky,
"Optimizacion de Redes Bayesianas Basado en Tecnicas de Aprendizaje
por Induccion", http: // www.itba. edu. ar/ capis/ rtis/ rtis-6-2/optimizacion-
de-redes-bayesianas. pdf
Valdes, F., "Comprension y Uso de la Estadstica", Universidad Romulo
Gallegos, disponible en: http://www.cortland.edu/flteach/stats/glos-sp.html
Wikipedia, \Teorema de Bayes", mayo de 2008, se encuantra en:
http://es.wikipedia.org/wiki/Teorema_de_Bayes
Felgaer,"Redes Bayesianas", https://www.u-
cursos.cl/ingenieria/2008/1/CC52A/1/material_alumnos/objeto/13237
Felgaer, E., \Optimizacion de Redes Bayesianas Basado en Tecnicas de
Aprendizaje por Induccion", abril de 2008 disponible en:
www.fi.uba.ar/materias/7500/felgaer-tesisingenieriainformatica.pdf.
Lopez, C., "Clasicadores por Redes Bayesianas", Universidad de Puerto
Rico Mayaguez, http://grad.uprm.edu/tesis/lopezdecastilla.pdf.
Chow, C. and Liu, C. (1968). "Approximating Discrete Probability
Distributions with Dependence Trees". IEEE Transactions on
InformationTheory, vol 14, 462- 467.
Waikato, "Weka Data Mining Software in Java", Mayo 2008, disponible en:
http://www.cs.waikato.ac.nz/ml/weka/.
Knime.org, "Knime", University of Konstanz, Mayo 2008, disponible en:
http://www.knime.org/index.html.
Ingomierswa, "Yale", Mayo de 2008, disponible en:
http://sourceforge.net/projects/yale/