Condiciones de Karush-Kuhn-Tucker

Departamento de Matemticas, CSI/ITESM a 21 de abril de 2010

Indice
16.1. Historia . . . . . . . . 16.2. Formulacin . . . . . . o 16.3. Uso de las Condiciones 16.4. Ejemplo 1 . . . . . . . 16.5. Ejemplo 2 . . . . . . . 16.6. Ejemplo 3 . . . . . . . 16.7. Ejercicios . . . . . . . . . . . . . . . KKT . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1 1 3 3 4 5 8

16.1.

Historia

Las condiciones necesarias que deben satisfacer los optimos de problemas de optimizacin no lineal con o restricciones de desigualdad fueron publicadas por primera vez (1939) en la tesis de Maestr de William a Karush (1917-1997) (en aqul entonces estudiante de matemticas de la Universidad de Chicago) (W. Karush e a (1939): Minima of Functions of Several Variables with Inequalities as Side Constraints. M.Sc. Dissertation. Dept. of Mathematics, Univ. of Chicago, Chicago, Illinois.), aunque fueron renombradas tras un art culo en una conferencia de Harold W. Kuhn y Albert W. Tucker en 1951. (H. W. Kuhn, Tucker, A. W.: Nonlinear programming (Proceedings of 2nd Berkeley Symposium, University of California Press, 1951, Berkeley.) Las condiciones de Karush-Kuhn-Tucker (KKT) son una generalizacin del mtodo de los multiplicadores de o e Lagrange para restricciones de desigualdad.

16.2.

Formulacin o

Considere el problema de optimizacin o Min f (x1 , x2 , . . . , xn ) sujeto a g1 (x1 , x2 , . . . , xn ) 0 g2 (x1 , x2 , . . . , xn ) 0 . . . gm (x1 , x2 , . . . , xn ) 0 El mtodo de solucin procede de la siguiente manera. Cambiemos cada restriccin de desigualdad gi 0 a e o o una restriccin de igualdad introduciendo una variable si de la siguiente manera: o g i 0 g i + s2 = 0 i (1)

De acuerdo a la tcnica de los multiplicadores de Lagrange se construye la funcin: e o

m

F (x, , s) = f (x) +
i=1

i (gi + s2 ) i

(2)

Los puntos que minimizan a f sujeta a las restricciones gi 0 (1 i m) estn dentro de los puntos cr a ticos de F : Que hacen cero las parciales con respecto a las variables xj (j = 1, . . . , n): f F = + xj xj
m

i
i=1

gi =0 xj

Que hacen cero las parciales con respecto a las variables i (i = 1, . . . , m): F = g i + s2 = 0 g i 0 i i Que hacen cero las parciales con respecto a las variables si (i = 1, . . . , m): F = 2 i s i = 0 i s i = 0 i g i = 0 si Lo anterior se resume en el siguiente teorema que indica las condiciones que deben satisfacer los puntos que minimizan la funcin sujeta a las restricciones. o Teorema Suponga una formulacin para el problema anterior de minimizacin. Si x0 = (a1 , a2 , . . . , an ) es un o o o ptimo, entonces deben existir nmeros reales llamados multiplicadores 1 , 2 ,. . . ,m no negativos u tales que (a1 , a2 , . . . , an , 1 , . . . , m ) es un punto cr tico para F . Es decir que se cumple: + f (xo ) xj Bloque I + = 0 j = 1, 2 . . . , n Bloque II: Condicin de Holgura Complementaria o i gi (xo ) = 0 i = 1, 2, . . . , m Bloque III gi 0 i = 1, 2, . . . , m
gi (xo ) m i=1 i xj

(3)

Observe que los valores de si se obtienen de la relacin gi + s2 = 0 y de que gi 0. o i Si ahora el problema es de maximizacin: o Max f (x1 , x2 , . . . , xn ) sujeto a g1 (x1 , x2 , . . . , xn ) 0 g2 (x1 , x2 , . . . , xn ) 0 . . . gm (x1 , x2 , . . . , xn ) 0 (4)

Para su solucin lo cambiamos a un problema de minimizacin para f (x). En este caso la funcin F queda o o o en la forma:
m

F (x, , s) = f (x) +
i=1

i (gi + s2 ) i

De tal forma que las condiciones que deben satisfacer los optimos ahora quedan de acuerdo al siguiente teorema. Teorema Suponga una formulacin para el problema anterior en el caso de maximizacin. Si x0 = (a1 , a2 , . . . , an ) o o es un ptimo, entonces deben existir nmeros reales llamados multiplicadores 1 , 2 ,. . . ,m no negativos o u tales que (a1 , a2 , . . . , an , 1 , . . . , m ) es un punto cr tico para F . Es decir, que se cumple: f (xo ) + xj
gi (xo ) m i=1 i xj

Bloque I = 0

j = 1, 2 . . . , n (5)

Bloque II i gi (xo ) = 0 i = 1, 2, . . . , m Bloque III gi 0 i = 1, 2, . . . , m

16.3.

Uso de las Condiciones KKT

La forma de operar las condiciones de KKT ser la siguiente: Como lo que buscamos es el punto xo y de a inicio se desconoce, entonces las ecuaciones de las condiciones de los bloques I y II se piensan como un sistema de ecuaciones en las variables xj s y j s: Se intenta resolver tal sistema de ecuaciones y en caso de encontrarse e las soluciones se revisan una a una para ver cual de ella cumple que los j s son no negativos y que tambin se cumplen las restricciones gi 0 en los puntos encontrados. Normalmente se realiza una tabla donde se hace la vericacin. o Observe tambin es posible trabajar el problema de maximizacin resolviendo el problema de minimizacin e o o pero conservando aquellos puntos que tengan los valores de los multiplicadores no positivos.

16.4.

Ejemplo 1

Encuentre los valores m nimo y mximo de la funcin f (x1 , x2 ) = 3 x1 x2 sujeta a las restricciones a o 0 x1 , 0 x2 y 2 x1 + x2 2. Solucin o Primero cambiemos las restricciones a la forma gi 0: 0 x1 g1 = x1 0 0 x2 g2 = x2 0 x1 + x2 2 g3 = 2 x1 + x2 2 0 Resolvamos el problema de minimizacin primeramente. En este caso las condiciones son: o
f (xo ) x1 f (xo ) x2

gi (xo ) m i=1 i x1

Bloque I = 1 + 2 1 2

=0

i (x + m i gx1o ) = 1 + 1 3 =0 i=1 Bloque II: Condicin de Holgura Complementaria o 1 g1 = 1 (2 x1 + x2 2) = 0 2 g2 = 2 x1 =0 3 g3 = 3 x2 =0

El sistema de ecuaciones es resuelto en Maple y se arma la siguiente tabla. x1 0 1 0 x2 0 0 2 1 0 1/2 1 2 -1 0 1 3 -1 -1/2 0 g1 -2 0 0 g2 0 -1 0 g3 0 0 -2 f 3 2 1

En la tabla vemos que slo el ultimo rengln tiene valores de los multiplicadores no negativos. Por tanto, o o el m nimo valor de f (x1 , x2 ) lo alcanza en P (0, 2) y es 1. Para determinar el mximo las condiciones quedan: a f (xo ) x1 f (xo ) x2 Bloque I + = 1 + 2 1 2 =0 + = 1 + 1 3 =0 Bloque II: Condicin de Holgura Complementaria o 1 g1 = 1 (2 x1 + x2 2) = 0 2 g2 = 2 x1 =0 3 g3 = 3 x2 =0
gi (xo ) m i=1 i x1 gi (xo ) m i=1 i x1

El sistema de ecuaciones es resuelto en Maple y se arma la siguiente tabla. x1 0 1 0 x2 0 0 2 1 0 -1/2 -1 2 1 0 -1 3 1 1/2 0 g1 -2 0 0 g2 0 -1 0 g3 0 0 -2 f 3 2 1

En la tabla vemos que slo el primer rengln tiene valores de los multiplicadores no negativos. Por tanto, o o el mximo valor de f (x1 , x2 ) lo alcanza en Q(0, 0) y es 3. a Observamos que las tablas para minimizacin y para maximizacin son idnticas salvo que los valores de los o o e multiplicadores estn cambiados de signo. Por tanto, la estrategia conveniente para optimizar una funcin a o sujeta a restricciones de desigualdad por el mtodo de las condiciones de KKT ser: e a 1. Plantear el problema como si se tratar slo de minimizacin y resolver el sistema de ecuaciones a o o correspondientes. 2. Eliminar aquellos puntos encontrados que no satisfacen las restricciones gi 0. 3. Eliminar aquellos puntos que tienen a la vez multiplicadores positivos y negativos. 4. Para minimizacin: escoger dentro de aquellos puntos que tienen multiplicadores no negativos aqul que o e tienen la menor evaluacin de la funcin objetivo. o o o e 5. Para maximizacin: escoger dentro de aquellos puntos que tienen multiplicadores no positivos aqul que tienen la mayor evaluacin de la funcin objetivo. o o

Figura 1: Preparativos y puntos cr ticos del ejemplo 2

Figura 2: Sustitucin de los puntos cr o ticos en [x, y, t, g, f ]

16.5.

Ejemplo 2

Encuentre los mximos y m a nimos absolutos de la funcin: o f (x, y) = x2 + y 2 + y 1 En la regin S denida por o S = (x, y) R2 |x2 + y 2 1 Solucin o Utilizaremos las condiciones KKT para caracterizar los mximos y los m a nimos. Aqu g = g(x, y) = x2 +y 2 1 0. En la gura 1 aparecen los preparativos para la solucin del problema, as como sus puntos cr o ticos. El orden de las variables en la matriz es x y t. En la gura 2 aparecen las coordenadas de los puntos cr ticos y las evaluaciones de g y de f en cada uno de los puntos cr ticos. Lo que se resume en la siguiente tabla. x 0 0 0 Observe que: Los tres puntos cumplen la restriccin g(x, y) 0. o Para minimizacin, slo el primer punto al tener t = 0 cumple t 0. Por tanto, P (0, 1/2) debe ser el o o m nimo. Para maximizacin, los puntos dos y tres al tener t = 1/2 y t = 3/2 son los candidatos a mximos de o a la funcin. Deber escogerse aqul que tiene un mayor valor de f . o a e Por lo tanto, f (x = 0, y = 1/2) = 5/4 es el m nimo de la funcin y f (x = 0, y = 1) = 1 es el valor mximo. o a y -1/2 -1 1 t 0 -1/2 -3/2 g -3/4 0 0 f -5/4 -1 1

16.6.

Ejemplo 3

Un comerciante puede comprar hasta 17.25 onzas de un producto qu mico A a 10 dlares cada onza. Se o puede convertir una onza del producto qu mico A en una onza del producto I a un costo de 3 dlares a onza. o Asimismo, una onza del qu mico A se puede convertir en una onza del producto II a un costo de 5 dlares la o onza. Si se producen x1 onzas del producto I se vender a 30 x1 dlares la onza, mientras que si se producen a o x2 onzas del producto II se vender a 50 x2 dlares la onza. Determine cmo el comerciante puede maximizar a o o sus ganancias. Solucin: o Variables de Decisin o x1 = Onzas del producto I producidas x2 = Onzas del producto II producidas Objetivo Lo que debe hacerse es maximizar las ganancias que se obtiene restando a las ventas los costos, tanto de materia prima como de produccin: o Max z = x1 (30 x1 ) + x2 (50 x2 ) 3 x1 5 x2 10 (x1 + x2 ) Restricciones x1 + x2 17.25, 0 x1 , 0 x2 Nos olvidaremos de las restricciones de no-negatividad para la x1 y x2 y posteriormente ltramos las soluciones encontradas. As : f = x1 (30 x1 ) + x2 (50 x2 ) 3 x1 5 x2 10 (x1 + x2 ) g1 = x1 + x2 17.25 0 g2 = x1 0 g3 = x2 0 Las condiciones de KKT que debe satisfacer el optimo son:
f x1 f x2

+ +

3 i=1 i 3 i=1 i

Bloque I = 17 + 2 x1 + 1 2 = 35 + 4 x2 + 1 3 Bloque II 1 (g1 ) = 1 (x1 + x2 17.25) 2 (g2 ) = 2 x1 3 (g3 ) = 3 x2

gi x1 gi x1

= 0 = 0 = 0 = 0 = 0

Resolviendo el sistema anterior con Maple obtenemos los siguientes puntos. En la tabla se tabula cada una de las restricciones evaluada en el punto correspondiente. Recuerde que las s deben ser positivas y las restricciones deben cumplirse (gi 0): x1 0 8.50 17.25 0 8.50 0 4.125 x2 0 0 0 17.5 17.5 17.25 13.125 1 0 0 -17.5 0 0 .500 8.75 2 -17. 0 0 -17. 0 -16.5 0 3 -35. -35. -52.5 0 0 0 0 6 g1 (x) -17.25 -8.75 0 .25 8.75 0 0 g2 (x) 0 -8.50 -17.25 0 -8.50 0 -4.125 g2 (x) 0 0 0 -17.5 -17.5 -17.25 -13.125 f (x) 0 72.25 -4.3125 306.25 378.5 306.1875 340.21875

Figura 3: Preparativos en la TI para el ejemplo 3 El puntos correspondientes a los renglones 1, 2, 3, 4 y 6 se cancelan pues tienen al menos un negativo. El rengln 5 se cancela pues una de las restricciones no se cumple: g1 debe ser 0. Por consiguiente, el unico o punto sobrevieviente es el del rengln 7: x1 = 4.125 y x2 = 13.125 con una evaluacin de 340.21875. o o Nota Si se utiliza LINGO para resolver el problema codicndolo como a MAX=x1*(30-x1)+x2*(50-x2)-3*x1-5*x2-10*(x1+x2); x1+x2<=17.25; se obtiene: Local optimal solution found. Objective value: 340.2188 Variable X1 X2 Row 1 2 Esto coincide con nuestro clculo. a Hagamos las operaciones utilizando la calculadora TI. En la gura 3 se muestran las pantallas donde inician los preparativos: primeramente se limpian las variables que sern usadas: x1, x2, t1 (en lugar de 1 ), t2 (en a lugar de 2 ), y t3 (en lugar de 3 ). Es conveniente manejar las restricciones en la forma gi 0. Las variables g1, g2 y g3 codicarn los lados izquierdos de las restricciones. Las ecuaciones del bloque I se denirn utilizando a a variables e1 y e2 que representan los lados izquierdos de ellas. As e1 = e2 =
f x1 f x2

Value 4.12500 13.12500 Slack or Surplus 340.2188 0.0000000

Reduced Cost 0.000000 0.0000000 Dual Price 1.000000 -8.75000

3 i=1 ti 3 i=1 ti

gi x1 gi x2

En la gura 4 se muestran las ecuaciones del bloque II y la solucin del sistema para los puntos cr o ticos as como su conversin a matriz. o Sistema e1 = 0 e2 = 0 e3 = 0 e4 = 0 e5 = 0 Para x1, x2, t1, t2, t3 7

e3 = t1 g1 e4 = t2 g2 e5 = t3 g3

Figura 4: Formacin del sistema para los puntos cr o ticos del ejemplo 3

Figura 5: Puntos cr ticos del ejemplo 3

En la gura 5 se muestran las ra ces del sistema que dene los puntos cr ticos. Observe que estas 7 ra ces coinciden con los resultados de Maple. Recuerde que en la primer columna aparece el valor de x1, en la segunda el de x2, en la tercera el de t1, en la cuarta el de t2 y en la quinta el de t3. Como los valores de ti esperados deben ser positivos esto descarta todos excepto los correspondientes a los renglones 1 y 3: P (x1 = 4.125, x2 = 13.125, t1 = 8.75, t2 = 0, t3 = 0) y Q(x1 = 8.5, x2 = 17.5, t1 = 0, t2 = 0, t3 = 0) Recuerde que algunos de estos puntos cr ticos pueden no cumplir las restricciones y deben pasarse por la vericacin. En la gura 6 se muestran los vectores [g1, g2, g3] resultantes de sustituir en las restricciones o los puntos. Recuerde que las restricciones son del tipo gi 0. Obervamos que el punto Q se descarta pues g1(Q) = 8.75 > 0 y que el punto P las cumple. Por tanto, el unico punto mximo de f sujeto a las restricciones a es P (x1 = 4.125, x2 = 13.125, t1 = 8.75, t2 = 0, t3 = 0) y que tiene una evaluacin de 340.219 o

16.7.

Ejercicios

Los siguientes sern los ejercicios de tarea para este tema. a Ejercicio 1 Utilizando las condiciones de KKT resuelva el problema: Max z = x1 x2

Figura 6: Vericacin de restricciones para el ejemplo 3 o

sujeto a la condicin: o g1 (x1 , x2 ) = x1 2 + x2 2 1 0 Indique en orden los valores de x1 , x2 y de z. Ejercicio 2 Utilice las condiciones de KKT para encontrar la solucin optima del siguiente problema: o Min z = (x1 3)2 + (x2 5)2 sujeto a: g(x1 , x2 ) = x1 + x2 7 0 x1 0 x2 0 Indique en orden los valores de x1 , x2 y de z. Ejercicio 3 Utilice las condiciones de KKT para encontrar la solucin optima del siguiente problema: o Max z = (x1 1)2 + (x2 2)2 sujeto a: g1 (x1 , x2 ) g2 (x1 , x2 ) x1 x2 = = x1 + x2 1 = 0 x1 + x2 2 0 0 0

Indique en orden los valores de x1 , x2 y de z. o Sugerencia: Codique la restriccin g1 = 0 mediante las dos restricciones g1 0 y g1 0 (g1 0). Ejercicio 4 Una compa de energ elctrica enfrenta demandas de energ durante los tiempos de carga mxima y no na a e a a mxima. Si cobra un precio de p1 dlares el kilowatt-hora durante el tiempo de carga mxima, entonces los a o a clientes pedirn 60 0.5 p1 kwh de energ Si se cobra un precio de p2 dlares el kilowatt-hora, entonces los a a. o clientes pedirn 40 p2 kwh. La compa tiene que tener la suciente capacidad para satisfacer la demanda a na durante los dos tiempos. A la compa le cuesta 10 dlares al d mantener cada kilowatt-hora de capacidad. na o a Determine cmo la compa puede maximizar los ingresos diarios menos los costos de operacin. Indique o na o la capacidad de la compa en kwh, na el precio en dlares durante el tiempo de demanda mxima, y o a el precio en dlares fuera de demanda mxima. o a Ejercicio 5 Se disponen semanalmente de un total de 160 horas de mano de obra a 15 dlares la hora. Se puede conseguir o mano de obra adicional a 25 dlares la hora. Se puede obtener capital en cantidades ilimitadas a un costo o de 5 dlares la unidad de capital. Si se disponen de K unidades de capital y de L horas de mano de obra, o entonces se pueden producir L1/2 K 1/3 mquinas. Se vende cada mquina a 270 dlares. Cmo puede la a a o o empresa maximizar sus ganancias? Indique 9

el total de horas de mano de obra a utilizar, el total de unidades de capital, y el total de mquinas a producir. a

10