Optimizacin, Mtodos Computacionales

Departamento de Ingeniera de Sistemas y Computacin Todos los derechos reservados

Qu vamos a aprender
Conceptos previos Justificacin Mtodos Computacionales Mtodos de bsqueda directa
Paradigma de mtodo de bsqueda Mtodo de bsqueda dicotmica Mtodo de bsqueda seccin urea

Mtodo de Newton-Rhapson Mtodos para optimizacin global

Mtodo de Random Search

Conceptos previos
Funcin unimodal
() ()

Cules son unimodales?

()

()

Conceptos previos
Funcin unimodal

Una funcin () es un funcin unimodal si para un valor de m, es monotonicamente creciente en todos los m y monotonicamente decreciente para m. En ese caso, el mximo valor de () es (m) y no existe otro mximo local. Aplica la misma idea para una funcin () unimodal con un mnimo local.
Solo tienen un mximo o un mnimo!

Conceptos previos
Funcin unimodal
() ()

Cules son unimodales?

()

()

Conceptos previos
Series de Taylor Objetivo : Aproximar una funcin, en la proximidad de un punto , a travs de una suma infinita de trminos.

Conceptos previos
Series de Taylor
=
0

Ejemplo : Aproximar = proximidad de = 0.

con una serie de Taylor en la

1 2 3 4 5 = 1 + + + + + 1! 2! 3! 4! 5!

Qu vamos a aprender
Conceptos previos Justificacin Mtodos Computacionales Mtodos de bsqueda directa
Paradigma de mtodo de bsqueda Mtodo de bsqueda dicotmica Mtodo de bsqueda seccin urea

Mtodo de Newton-Rhapson Mtodos para optimizacin global

Mtodo de Random Search

Justificacin Mtodos Computacionales

()

2 + + =

Cmo averiguamos el mximo?

Justificacin Mtodos Computacionales

()

Cmo averiguamos el mximo?

- Derivando e igualando a cero (ptos. crticos). - Con segunda derivada (max/min). - Revisar puntos extremos ( y ). - Revisar puntos donde no est definida la 1era derivada.

10

Justificacin Mtodos Computacionales

Cmo averiguamos el mximo?

No siempre se puede aplicar este procedimiento

Funciones no lineales. Funciones computacionales.

- Derivando e igualando a cero (ptos. crticos). - Con segunda derivada (max/min). - Revisar puntos extremos ( y ). - Revisar puntos donde no est definida la 1era derivada.

11

Justificacin Mtodos Computacionales

No siempre se puede aplicar este procedimiento

Funciones no lineales. Funciones computacionales. Usar mtodos computacionales

12

Qu vamos a aprender
Conceptos previos Justificacin Mtodos Computacionales Mtodos de bsqueda directa
Paradigma de mtodo de bsqueda Mtodo de bsqueda dicotmica Mtodo de bsqueda seccin urea

Mtodo de Newton-Rhapson Mtodos para optimizacin global

Mtodo de Random Search

13

Paradigma de los Mtodos de Bsqueda

()

Contexto: Optimizar una funcin unimodal. Sobre un intervalo definido ( [, ] ).

Algoritmos de Bsqueda, en general 1. Dividen la regin [, ] en dos intervalos que se sobrelapan.

()

Regin 1 [, 2 ] Regin 2 [1 , ]

14

Paradigma de los Mtodos de Bsqueda

()

Contexto: Optimizar una funcin unimodal. Sobre un intervalo definido ( [, ] ).

Algoritmos de Bsqueda, en general 1. Dividen la regin [, ] en dos intervalos que se sobrelapan.

()

Regin 1 [, 2 ] Regin 2 [1 , ]

Cmo escoger los intervalos?

15
Cada mtodo especifica cmo hacerlo

Paradigma de los Mtodos de Bsqueda

2. 3.

Determinar el subintervalo en el que est el ptimo. Analizar el subintervalo (volver a paso 1.).

16

Paradigma de los Mtodos de Bsqueda

2. 3.

Determinar el subintervalo en el que est el ptimo. Analizar el subintervalo (volver a paso 1.).

Cmo determinar el subintervalo?

17

Paradigma de los Mtodos de Bsqueda

Tres situaciones posibles:
() ()

(1 )

(2 ) (1 )

< ( )

(2 )

()

> ( ) 3

1 = (2 )

= ( )

18
1 2

Paradigma de los Mtodos de Bsqueda

Tres situaciones posibles:
()

1
(2 ) (1 )

< ( )

()

2 > ( )

(1 ) (2 )

19

Paradigma de los Mtodos de Bsqueda

Tres situaciones posibles:
()

1
(2 ) (1 )

< ( )

La solucin est en el intervalo [1 , ]

()

2 > ( ) La solucin est en el intervalo [, 2 ]

(1 ) (2 )

20

Paradigma de los Mtodos de Bsqueda

Tres situaciones posibles:

()

= ( )

1 = (2 )

21

Paradigma de los Mtodos de Bsqueda

Tres situaciones posibles:

()

= ( )

1 = (2 )

La solucin est en el intervalo [1 , 2 ]

22

Qu vamos a aprender
Conceptos previos Justificacin Mtodos Computacionales Mtodos de bsqueda directa
Paradigma de mtodo de bsqueda Mtodo de bsqueda dicotmica Mtodo de bsqueda seccin urea

Mtodo de Newton-Rhapson Mtodos para optimizacin global

Mtodo de Random Search

23

Mtodo de Bsqueda Dicotmica

Definir los siguientes valores: = Nmero real muy pequeo. Tan pequeo como lo permita el dispositivo. = Longitud de incertidumbre. Amplitud tolerada del intervalo final.
1 = + 2

Forma de definir los intervalos:

+ 2 = + 2

24

Mtodo de Bsqueda Dicotmica

Algoritmo para maximizar:
Paso 1 Inicializar: Escoger > 0 y > 0 (escoger valores pequeos). Calcular el nmero de iteraciones , con la frmula: 0,5 = Para = 1 hasta , repetir pasos 3 y 4.

Paso 2

Paso 3
Paso 4 Para maximizar:

1 =

+ 2

y 2 =

+ 2

Si (1 ) (2 ), entonces: = = 2 = + 1 Regresar al paso 3. a) b) Si 1 < (2 ), entonces: = = 1 = + 1 Regresar al paso 3. b) Paso 5 Fin =

+ 2

25

y max = ( )

Qu vamos a aprender
Conceptos previos Justificacin Mtodos Computacionales Mtodos de bsqueda directa
Paradigma de mtodo de bsqueda Mtodo de bsqueda dicotmica Mtodo de bsqueda seccin urea

Mtodo de Newton-Rhapson Mtodos para optimizacin global

Mtodo de Random Search

26

Mtodo de Bsqueda Seccin urea

Usa la proporcin urea (nmero de oro, divina proporcin):

0 1 = (1 ) 2 + 1 = 0 ( 5 1) = 2

27

Mtodo de Bsqueda Seccin urea

Usa la proporcin urea ():

Forma de definir los intervalos:

1 = + (1 )( ) 2 = + ( )

28

Mtodo de Bsqueda Seccin urea

Algoritmo para maximizar:
Paso 1 Paso 2 Inicializar: Escoger una tolerancia > 0 (escoger valores pequeos). Definir = 0,618 y calcular: 1 = + (1 )( ) 2 = + ( ) Paso 3 Recalcular (1 ) y (2 ). Para maximizar: a) Si (1 ) (2 ), entonces: = 1 = 1 = 2 Calcular 2 con frmula del paso 2. b) Si 1 > (2 ), entonces: = = 2 2 = 1 Calcular 1 con frmula del paso 2. Si el tamao del nuevo intervalo es menor que sigue al paso 5, d. l. c., regresa al paso 3. =
+ 2

b)

Paso 4 Paso 5 Fin

29

y max = ( )

Qu vamos a aprender
Conceptos previos Justificacin Mtodos Computacionales Mtodos de bsqueda directa
Paradigma de mtodo de bsqueda Mtodo de bsqueda dicotmica Mtodo de bsqueda seccin urea

Mtodo de Newton-Rhapson Mtodos para optimizacin global

Mtodo de Random Search

30

Mtodo de Newton-Rhapson
No busca directamente el ptimo sobre la funcin original. Usa la derivada de la funcin. Hace uso de las series de Taylor. Para minimizar.

Tomando la frmula de las series de Taylor truncada al tercer trmino:

=
0

= 0 +

0 0

1 + 0 0 2

31

Mtodo de Newton-Rhapson

0

= 0 + 0 0

1 + 0 0 2

Derivando Despejando = 0

2 + 0 0 = 0 2

0 0 = 0 0 = 0 (0 )
Frmula de avance para llegar a un punto crtico

32

Mtodo de Newton-Rhapson
0 = 0 (0 ) Generalizando: +1 = ( )

Entonces, Comenzamos en punto inicial (0 ) arbitrario y avanzamos con la frmula de avance. Hasta cuando?

33

Mtodo de Newton-Rhapson
Algoritmo para minimizar:
Paso 1 Inicializar: Escoger el punto inicial. Definir 1 y 2 (~106 ). = 0 0 = valor inicial Calcular: +1 = ( )

Paso 2

Si +1 > ( ), entonces: +1 = Paso 3 Paso 4 Fin Volver a paso 2 si: +1 1 y ( ) (+1 ) 2 =

34

Qu vamos a aprender
Conceptos previos Justificacin Mtodos Computacionales Mtodos de bsqueda directa
Paradigma de mtodo de bsqueda Mtodo de bsqueda dicotmica Mtodo de bsqueda seccin urea

Mtodo de Newton-Rhapson Mtodos para optimizacin global

Mtodo de Random Search

35

Mtodo de Optimizacin Global

36

Random Search
Usa nmeros aleatorios. Mtodo estocstico. Mtodos de bsqueda local dependen de valores iniciales. Definir aleatoriamente una cantidad de valores iniciales. Correr el mtodo de bsqueda local. Comparar cul es el mejor de los mejores. Reportar.

37

Random Search
Algoritmo para minimizar:
Paso 1 Definir el intervalo a explorar. Definir la cantidad de puntos iniciales que se van a considerar. = 0 = 0 Para = 1, hasta Aplicar algoritmo de optimizacin local comenzando en el punto inicial .

Paso 2

Calcular _ , _
Si _ > , entonces: = _ = _ Comenzar paso 2. Paso 3 Fin = =

38

Mtodos Computacionales

Preguntas?

39

Referencias
[1] Giordano, F. R., Fox, W. P., Horton, S. V. & Weir, M. D. A First Course In Mathemathical Modeling. Brooks/ Cole, Cengage Learning. Belmont, USA. 2009. Seccin 7.6.

40