Mquinas con Vectores

de Soporte - SVM
Equipo:
Jos Alberto Alvares Prez
Venancio JR Celis Catarino
Jorge Luis Lpez cruz
Jos Gpe. Montero Jimnez

Introduccin

La forma ms sencilla de definir una SVM es como un

algoritmo que aprende mediante ejemplos a asignar
etiquetas a objetos.

Por ejemplo:
Se puede aprender a reconocer la actividad fraudulenta de una
tarjeta de crdito examinando cientos o miles de informes de
actividades para determinar si existe un fraude o no.

Jos Alberto

Un SVM puede prender a reconocer dgitos manuscritas

examinando una gran coleccin de imgenes digitalizadas
de manuscritos, y as sucesivamente. Las SVM se han
aplicado con xito a una cada vez mas amplia variedad de
aplicaciones biolgicas.

Una Mquina de Soporte Vectorial (SVM) aprende la superficie decisin de dos

clases distintas de los puntos de entrada.
Como un clasificador de una sola clase, la descripcin dada por los datos de
los vectores de soporte es capaz de formar una frontera de decisin alrededor
del dominio de los datos de aprendizaje con muy poco o ningn conocimiento
de los datos fuera de esta frontera.

+1
-1

Kernel

Las funciones Kernel son funciones matemticas que se emplean en las

Mquinas de Soporte Vectorial. Estas funciones son las que le permiten
convertir lo que sera un problema de clasificacin no-lineal en el espacio
dimensional original, a un sencillo problema de clasificacin lineal en un
espacio dimensional mayor.

Los datos son mapeados por medio de un kernel Gaussiano u otro tipo de
kernel a un espacio de caractersticas en un espacio dimensional ms alto,
donde se busca la mxima separacin entre clases.

Esta funcin de frontera, cuando es trada de regreso al espacio de entrada,

puede separar los datos en todas las clases distintas, cada una formando un
agrupamiento. El concepto de "Machine Learning" se refiere al aprendizaje de
una estructura proporcionada por un conjunto de datos.

Conceptos matemticos
Cuando los datos no se pueden separar linealmente se
hace un cambio de espacio mediante una funcin que
transforme los datos de manera que se puedan separar
linealmente. Tal funcin se llama Kernel.
Tambin hay mtodos para separar los datos (xi,yi)
directamente an no siendo separables linealmente,
mediante funciones polinmicas y otro tipo de
funciones, las Funciones de Base Radial (RBF).
7

Venancio

Conceptos matemticos

r ne
e
K

RBF

+1
-1

Conceptos matemticos
Algunos problemas con las SVM:
Overtraining:se han aprendido muy bien los datos de
entrenamiento pero no se pueden clasificar bien ejemplos
no vistos antes. Ej.: un botnico que conoce mucho.
La porcin n de los datos no conocidos que ser mal
calificada, est limitada por:
No. vectores de soporte
n
No. de ejemplos de entrenamie nto

Se aplica el principio de Ockham.

Conceptos matemticos
Algunos problemas con las SVM:
Overfitting: no se ha aprendido muy bien la
caracterstica de los datos de entrenamiento, por lo que se
hace una mala clasificacin. Ej.: el hermano del botnico.

el sobreajuste (overfitting) es el efecto de

sobreentrenar un algoritmo de aprendizaje con unos
ciertos datos para los que se conoce el resultado
deseado.

Interpretacin geomtrica
+1
-1

cmo clasificar estos

datos?

Interpretacin geomtrica
+1
-1

cmo clasificar estos

datos?

Jorge Luis

Interpretacin geomtrica
+1
-1

cmo clasificar estos

datos?

Interpretacin geomtrica
+1
-1

cmo clasificar estos

datos?

Interpretacin geomtrica
+1
-1

Cualquiera puede ser

buena, pero cul es la
mejor?

Interpretacin geomtrica
+1

wx+b=0

-1

Definimos el hiperplano

Interpretacin geomtrica
+1
-1

Definimos el margen

Jos Montero

Interpretacin geomtrica
+1
-1

La idea es maximizar el
margen.

Interpretacin geomtrica
+1
-1

El hiperplano que tenga

el mayor margen es el
mejor clasificador de los
datos.
Esta es la clase ms
simple de SVM, la
LSVM.

Interpretacin geomtrica
+1
-1

Los vectores de soporte

son los puntos que tocan
el lmite del margen.

Interpretacin geomtrica
+1
-1

Veamos los hiperplanos

positivo y negativo

Interpretacin geomtrica
+1
=
+b
-1
x

=
w
+b
x

+1
-1

hiperplano positivo: wx+b = +1

hiperplano negativo: wx+b = -1

d+

ma
rge
n

d-

Separacin polinmica y con RBF

23

Aplicaciones

24

Referencias:
http://svm.cs.rhul.ac.uk/pagesnew/GPat.shtml
http://svm.cs.rhul.ac.uk/pagesnew/1D-Reg.shtml
http://es.wikipedia.org/wiki/Sobreajuste
http://www.ecured.cu/index.php/M%C3%A1quinas_de_Sop
orte_Vectorial
http://ccc.inaoep.mx/~emorales/Cursos/Aprendizaje2/node
29.html
http://prezi.com/7pfsk8ns_l1j/maquinas-de-soporte-vectoria
l/
http://www.infor.uva.es/~isaac/doctorado/Cap07_SVM.pdf