I nteligencia Artificial, Revista I beroamericana de I nteligencia Artificial. No.19 (2003),pp.

93-102
I SSN: 1137-3601. AEPIA (http://www.aepia.org/revista).

Heuristic design and fundamentals of the Simulated Annealing

Kathryn A. Dowsland (1), Belarmino Adenso Daz (2)

(1) ASAP Research Group School of Computer Science and Information Technology
University of Nottingham
Nottingham NG8 2BB, United Kingdom

(2) Escuela Politcnica Superior de Ingeniera de Gijn
Universidad de Oviedo
Campus de Viesques E-33204 Gijn, Spain

e-mail: kad@cs.nott.ac.uk, adenso@epsig.uniovi.es

Simulated Annealing is one of the most classic metaheuristics. Its simplicity and good results over a
wide range of problems have made it a highly popular tool, with hundreds of applications in a great
variety of fields. This article is a review of the fundaments underlying the method, and analyses the
different decisions that the analyst has to take in the design phase as well as summarising the main
recommendations that may be made when defining new algorithms. A review is likewise made of the
most relevant implementations published in relation to this methodology.




Inteligencia Artificial, Revista Iberoamericana de Inteligencia Artificial. Ao.2 (21), pp. 34-52.
ISSA: 1137-31. AEPIA (http://www.aepia.dsic.upv.es/).






Diseo de Heursticas y Fundamentos del Recocido Simulado


Kathryn A. Dowsland, Belarmino Adenso Daz

ASAP Research Group
School oI Computer Science and InIormation Technology
University oI Nottingham
Nottingham NG8 2BB, Reino Unido
kadcs.nott.ac.uk

Escuela Politecnica Superior de Ingenieria de Gijon
Universidad de Oviedo
Campus de Viesques
E-33204 Gijon, Espaa
adensoepsig.uniovi.es



Resumen

El Recocido Simulado es una de las metaheuristicas mas clasicas. Su simplicidad y buenos resultados en
numerosos problemas, la han convertido en una herramienta muy popular, con cientos de aplicaciones en los
mas variados campos. En este articulo se hace una revision de los Iundamentos del metodo, analizando las
diIerentes decisiones que el analista ha de tomar en la Iase de diseo, y resumiendo las principales
recomendaciones que cabe hacer a la hora de deIinir nuevos algoritmos. Se realiza asimismo un repaso de las
implementaciones mas relevantes reIeridas a esta metodologia que han sido publicadas.


Palabras clave: Recocido Simulado, Metaheuristicas, Optimizacion Combinatoria




1. Introduccin

Desde que Kirkpatrick et al. (1983) introdujeron
hace veinte aos el concepto de Recocido Simulado,
RS, ('Simulated Annealing, SA, en ingles), esta
metaheuristica ha demostrado ser una herramienta
muy exitosa para resolver una amplia gama de
problemas de optimizacion combinatoria. El
Recocido Simulado es una variante de la busqueda
local que permite movimientos ascendentes para
evitar quedar atrapado prematuramente en un
optimo local. El nombre le viene de la idea en que
esta basado un algoritmo diseado en los aos 50
para simular el enIriamiento de material (un proceso
denominado 'recocido).

A menudo se dice que mientras que es muy Iacil
hacer que RS Iuncione, es diIicil hacer que Iuncione
bien. Esto es debido a que no es propiamente un
algoritmo, sino una estrategia heuristica que
necesita de varias decisiones para que quede
totalmente diseado, las cuales tienen una gran
inIluencia en la calidad de las soluciones generadas.

El objetivo de este tutorial es presentar una
introduccion a RS y repasar algunos de los Iactores
que necesitan ser tenidos en cuenta para poder
realizar una implementacion exitosa para un
problema particular. La siguiente seccion introduce
las ideas que estan detras de esta tecnica y oIrece
una deIinicion Iormal de la estrategia del Recocido
Simulado. Como se comentara, las decisiones que
hay que tomar para el diseo pueden ser clasiIicadas
en dos grupos: las genericas y las especiIicas del
problema, y ambas son tratadas en las dos siguientes
secciones. Finalmente se presenta una seleccion de
aplicaciones publicadas para resolver algunos
problemas reales y otros problemas clasicos de
optimizacion combinatoria, con el Iin de ilustrar
algunas de las variantes que se han aplicado para
oIrecer buenas soluciones en esa amplia gama de
tipos de problemas.


2. El Proceso de Recocido Simulado

Los algoritmos tradicionales de busqueda local
parten de una solucion inicial que de modo
paulatino es transIormada en otras que a su vez son
mejoradas al introducirles pequeas perturbaciones
o cambios (tales como cambiar el valor de una
variable o intercambiar los valores que tienen dos
variables). Si este cambio da lugar a una solucion
'mejor que la actual, se sustituye esta por la nueva,
continuando el proceso hasta que no es posible
ninguna nueva mejora. Esto signiIica que la
busqueda Iinaliza en un optimo local, que no tiene
por que ser Iorzosamente el global.

Un modo de evitar este problema es permitir que
algunos movimientos sean hacia soluciones peores.
Pero por si la busqueda esta realmente yendo hacia
una buena solucion, estos movimientos 'de escape
deben realizarse de un modo controlado. En el caso
del RS, esto se realiza controlando la Irecuencia de
los movimientos de escape mediante una Iuncion de
probabilidad que hara disminuir la probabilidad de
esos movimientos hacia soluciones peores conIorme
avanza la busqueda (y por tanto estamos
previsiblemente mas cerca del optimo global).

La Iundamentacion de este control se basa en el
trabajo de Metropolis et al. (1953) en el campo de la
termodinamica estadistica. Basicamente, Metropolis
modelo el proceso de recocido mencionado
anteriormente simulando los cambios energeticos en
un sistema de particulas conIorme decrece la
temperatura, hasta que converge a un estado estable
(congelado). Las leyes de la termodinamica dicen
que a una temperatura t la probabilidad de un
incremento energetico de magnitud E se puede
aproximar por
P|E|exp(-E/kt) |1|
siendo k una constante Iisica denominada de
Boltzmann. En el algoritmo de Metropolis se genera
una perturbacion aleatoria en el sistema y se
calculan los cambios de energia resultantes: si hay
una caida energetica, el cambio se acepta
automaticamente; por contra, si se produce un
incremento energetico, el cambio sera aceptado con
una probabilidad dada por |1|. El proceso se repite
durante un numero predeIinido de iteraciones en
series decrecientes de temperaturas, hasta que el
sistema este 'Irio.


Simulacin
termodinmica
Optimizacin
combinatoria
Estados del sistema Soluciones Iactibles
Energia Coste
Cambio de estado Solucion en el entorno
Temperatura Parametro de control
Estado congelado Solucion heuristica

Tabla 1. Relacin establecida entre los elementos
de simulacin termodinmica y los de optimizacin
combinatoria

A principios de la decada de los 80, publicaciones
independientes de Kirkpatrick et al. (1983) sobre
diseo de circuitos VLSI, y Cerny (1985) para el
TSP, mostraron como este proceso podria ser
aplicado a problemas de optimizacion, asociando
conceptos clave del proceso original de simulacion,
con elementos de optimizacion combinatoria segun
se indica en la tabla 1.





















FIGURA 1. Algoritmo bsico de Recocido
Simulado para minimizacin

Por tanto, cualquier implementacion de busqueda
local puede convertirse en una implementacion RS
al elegir elementos del entorno de modo aleatorio,
aceptar automaticamente todos los movimientos
hacia una mejor solucion, y aceptar los movimientos
a una solucion peor de acuerdo con una probabilidad
Sea f(s) el coste de la solucion s y sea N(s) su entorno.
Seleccionar una solucion inicial s0;
Seleccionar una temperatura inicial t0 ~ 0;
Seleccionar una Iuncion de reduccion de la temperatura u;
Seleccionar un numero de iteraciones nrep;
Seleccionar un criteriodeparada;
REPETIR
REPETIR
Seleccionar aleatoriamente una solucion s N(s0);
Sea o f(s) - f(s0);
SI o 0 ENTONCES s0 s
SINO
Generar aleatoriamente u U(0,1);
SI u exp(-o/t) ENTONCES s0 s;
FINSINO
HASTAQUE cuentaiteraciones nrep
t u (t);
HASTAQUE criteriodeparada CIERTO.

La mejor solucion visitada sera la solucion heuristica dada
por el algoritmo
dada por |1|. La constante de Boltzmann k en
general no se considera, debido a que no tiene
signiIicado en los problemas de optimizacion. Por
tanto, podemos deIinir un algoritmo basico de
Recocido Simulado para problemas de
minimizacion como se indica en la Figura 1.

El parametro t es un parametro de control denominado
generalmente temperatura, siguiendo la analogia con
el proceso de enIriamiento Iisico. Una solucion que
suponga un incremento o en la Iuncion de coste se
aceptara con probabilidad exp(-o/t). Por tanto, si se
permite que t alcance valores suIicientemente
pequeos, ya no habra mas movimientos a peores
soluciones y la convergencia sera a un optimo local.

Varios estudios teoricos demuestran que si t decrece lo
suIicientemente lento, el proceso converge a la
solucion optima. Sin embargo, una Iuncion de
reduccion de la temperatura que garantizase esa
convergencia al optimo global, requeriria unos
tiempos de calculo prohibitivos. A pesar de todo,
muchos trabajos empiricos que se han publicado
usando programas de enIriamiento mas rapidos
demuestran que RS es una heuristica eIiciente para
una gran variedad de problemas combinatorios.

Para poder implementar el algoritmo de la Iigura 1
para un problema concreto, es preciso tomar una serie
de decisiones. En este articulo seran divididas en
decisiones genericas y especiIicas. Las genericas se
reIieren principalmente a como controlar la
temperatura (incluyendo la deIinicion de su valor
inicial t
0
y la Iuncion de decrecimiento ), el numero
de iteraciones nrep antes del decrecimiento de la
temperatura, y las condiciones que nos permitiran
considerar que el sistema esta ya 'Irio. Las
decisiones especiIicas comprenden la deIinicion del
espacio de soluciones y la estructura de entornos, la
Iuncion de coste, y como se obtendra la solucion
inicial s
0
. Ambos tipos de decisiones hay que tomarlas
con cuidado pues, como se comento anteriormente,
ejercen una gran inIluencia sobre la calidad de las
soluciones.

Aunque no hay un conjunto concluyente de reglas que
deIinan como tomar las mejores decisiones genericas
y especiIicas en un problema concreto, si que hay
algunos consejos que pueden ayudar en el proceso de
eleccion de esos parametros. Estos consejos son los
que se tratan en las dos siguientes secciones.


3. Decisiones genricas

Las decisiones genericas estan basicamente
relacionadas con los parametros que dirigen el
programa de enIriamiento, incluyendo los valores
maximo y minimo que podra tomar la temperatura,
la velocidad a la que se reducira y las condiciones
de parada. Como antes se comento, resultados
teoricos basados en la teoria de las cadenas de
Markov han demostrado que con un programa de
enIriamiento inIinitamente lento, el algoritmo de
recocido convergeria al optimo global con
probabilidad 1, segun la temperatura tiende a 0. Los
detalles pueden ser consultados en Van Laarhoven y
Aarts (1988), y en Aarts y Korst (1989).

Sin embargo, no se puede garantizar esa
convergencia en programas de enIriamiento Iinitos,
y en ese sentido, Van Laarhoven y Aarts han
demostrado que para garantizar llegar a una
solucion que este a una distancia arbitrariamente
proxima a la optima, son necesarios tiempos de
computacion de tipo exponencial. Hajek (1988)
demostro que si se usa un programa de enIriamiento
dado por t
k
/ ln(1k), siendo k el numero de
iteraciones y la maxima proIundidad necesaria
(ver Figura 2) para escapar de cualquier optimo
local no global, esta garantizada una
convergencia asintotica al optimo. Como por lo
general no se conoce el valor , este resultado no
tiene uso practico, pero da una idea de como la
velocidad del programa de enIriamiento debe estar
relacionada con las caracteristicas del espacio de
soluciones, deIinidas por la Iuncion de coste y la
estructura de entornos elegida.












FIGURA 2. Explicacin del valor en el teorema
de Hajek

Dado que uno de los objetivos de cualquier
procedimiento robusto de busqueda es que la
calidad de la solucion Iinal sea independiente de la
solucion inicial de la que se parta, la temperatura
inicial deberia ser independiente de la solucion
inicial y lo suIicientemente alta como para aceptar
casi libremente las soluciones del entorno. En
aquellos problemas que estan bien estructurados,
por lo general hay suIiciente inIormacion como para
estimar este valor. Por ejemplo, si el mayor
incremento entre soluciones vecinas es conocido,
seria posible calcular un valor t
0
que aceptase un
movimiento con una determinada probabilidad.

global

global

Cuando este no sea posible, la razon entre
movimientos aceptados y rechazados que de lugar a
un estado inicial aceptablemente volatil puede ser
Iijado de antemano, y entonces el sistema podria ser
calentado rapidamente hasta que esa razon alcance
el valor deseado. Ese seria entonces el valor elegido
t
0
para la temperatura inicial a partir de la cual
comenzaria el proceso de recocido.

La velocidad a la que se produce el enIriamiento es
otro Iactor clave en el exito de la estrategia. Viene
determinado por una parte por el numero de
iteraciones nrep que se ejecutaran a cada
temperatura, y por otro por la velocidad a la que
se realizara el enIriamiento. La teoria sugiere que se
deberia permitir que el sistema este cerca de su
estado estacionario correspondiente a la temperatura
actual, antes de reducir esta, y que ademas la
temperatura vaya gradualmente acercandose al valor
0.

En los primeros aos del RS se utilizaron diversos
programas de enIriamiento, de los cuales dos son
especialmente interesantes porque, por una parte,
dominaron rapidamente las elecciones hechas por
los investigadores que resolvieron problemas reales,
y por otra, representan alternativas justamente
opuestas. La primera, establecia una velocidad de
enIriamiento de la temperatura de tipo geometrico, t
t, con 1. Las evidencias empiricas daban a
entender que valores elevados de , con valores
entre 0.8 y 0.99 (correspondientes a velocidades
lentas de enIriamiento) eran los que mejores
resultados proporcionaban.

El numero de iteraciones en cada temperatura se
correspondia generalmente con el tamao del
problema, variando segun descendia la temperatura.
Por otro lado, es importante dedicar suIiciente
tiempo de busqueda a temperaturas bajas para
garantizar que se visita el optimo local (es decir,
aumentar el valor nrep segun se reduce t).

Segun el segundo programa de enIriamiento,
propuesto por Lundy y Mees (1986), se ejecuta una
sola iteracion para cada temperatura, pero por el
contrario la temperatura se reduce a una velocidad
muy lenta segun la Iormula t t/(1 t), siendo
un valor muy pequeo.

La evidencia empirica y los resultados teoricos dan
a entender que los detalles concretos del programa
de enIriamiento no son tan importantes como la
velocidad a la que se reduce la temperatura, y que
tanto el programa geometrico como el de Lundy y
Mees daran resultados similares cuando el
enIriamiento se produzca para el mismo rango de
temperaturas y para un numero total de iteraciones
similares.

El valor Iinal de t es tambien importante.
Teoricamente, t deberia reducirse hasta 0, pero en la
practica la busqueda converge por lo general a su
optimo local Iinal bastante antes de ese valor nulo
de la temperatura. Por tanto, si la temperatura de
parada se Iija muy baja, gastaremos mucho tiempo
de busqueda en las Iases Iinales, que seguramente
seria mejor aprovechado en temperaturas superiores.
Por el contrario, si la temperatura Iinal se Iija en un
valor muy alto, es posible que la busqueda no
consiga alcanzar ningun optimo local.

Como se cumple que Prob(I(s
0
)-I(s
opt
)) ~ (S-
1)exp(-/t), siendo S el conjunto de soluciones,
Lundy y Mees sugieren para llegar con probabilidad
a una solucion que este a menos de una distancia
del optimo, parar en el momento en que
[ ]

1
ln /

S
t . Otros sugieren detener la
busqueda simplemente cuando se haya producido un
numero determinado de iteraciones sin ninguna
aceptacion.

Aunque los dos planes de enIriamiento son bastante
sencillos de implementar, ambos requieren una
labor de determinacion (y por tanto de prueba y
error) de los parametros mas adecuados. Por tanto,
no es de extraar que haya habido en todos estos
aos un gran interes por desarrollar programas de
enIriamiento de modo automatico. En muchas
ocasiones, los Iundamentos de las distintas
soluciones aportadas se han basado en los propios
origenes del RC (es decir, la termodinamica
estadistica).

Por ejemplo, White (1984) propuso que la
temperatura inicial deberia ser lo suIicientemente
alta como para garantizar que la energia media (es
decir, el coste) de las soluciones visitadas sea igual a
la energia media de todo el sistema. Otros sugirieron
sistemas realmente adaptativos que usan el concepto
de equilibrio termico para cada temperatura. Por
ejemplo Huang et al. (1986) ajustan la temperatura
segun la ecuacion ) exp(
) (t
t
t t

siendo (t) la
desviacion tipica de la energia para la temperatura t.
Mirkin et al. (1993) hicieron experimentos con el
programa de Huang obteniendo que los resultados
son independientes del parametro , pero que sin
embargo tiene un gran impacto en el tiempo de
calculo.

Aunque la mayoria de los programas automaticos de
enIriamiento resultan atractivos desde un punto de
vista teorico, la evidencia empirica indica que su
uso es esporadico y que su exito depende en gran
medida del problema que se pretende resolver.


4. Decisiones especficas para cada
problema

Las decisiones especiIicas se reIieren sobre todo a la
deIinicion del espacio de soluciones, la estructura de
los entornos y la Iuncion de coste, asi como a la
eleccion de la solucion inicial. Los resultados de
Hajek (1988) apoyan la idea de que el modo en que
estas decisiones interactuan al deIinir el ambito de la
busqueda, tiene un eIecto muy signiIicativo en la
calidad de la solucion Iinal alcanzada.

Esta generalmente aceptado que la solucion inicial
s
0
debe ser generada de modo aleatorio. Para otras
alternativas, como ocurria con las decisiones
genericas, no hay reglas deIinitivas que seguir,
aunque es posible apuntar algunos Iactores que
deberian ser tenidos en cuenta.

Algunas de las primeras teorias sobre RS se basaban
en entornos uniIormes y simetricos, es decir, todos
los entornos eran del mismo tamao y si i N(f)
f N(i). Sin embargo, hoy se sabe que es suIiciente
con exigir el cumplimiento de una condicion mas
suave que exige que cualquier solucion pueda
alcanzarse desde cualquier otra a traves de una
cadena de movimientos validos, usando los
entornos. Es decir, es importante garantizar esta
condicion de 'alcanzabilidad (o 'ergodicidad) al
deIinir la estructura del espacio de soluciones y de
los entornos.

Para garantizar que el tiempo de calculo se usa de
un modo eIectivo, es importante veriIicar que las
rutinas mas Irecuentemente usadas Iuncionen lo mas
rapido posible. Notese que en cada iteracion se
llama siempre a dos Iunciones, la primera de las
cuales es la generacion aleatoria de una solucion del
entorno N(s
0
). Aunque este es un proceso bastante
trivial para la mayoria de las deIiniciones de
espacios de soluciones y entornos, se puede volver
mas diIicil cuando los entornos son grandes y
complejos, y cuando el espacio de soluciones esta
condicionado por muchas restricciones. Como luego
veremos en un ejemplo de coloracion de graIos, a
veces es beneIicioso relajar algunas de las
restricciones en la deIinicion del espacio de
soluciones, y penalizar por el contrario mediante la
Iuncion de coste las violaciones de las restricciones
no consideradas.

La segunda Iuncion llamada en cada iteracion es el
calculo del cambio en la Iuncion de coste. En este
caso se utilizara mas eIicientemente el tiempo si este
cambio se calcula usando inIormacion relativa a que
parte de la solucion ha cambiado, sin proceder a
evaluarla totalmente sin tener en cuenta la
inIormacion previamente disponible.

Otro aspecto que mejora el tiempo de computacion
reside en el calculo del Iactor de Boltzmann:
Johnson et al. (1989), tras observar que en su
problema la tercera parte del tiempo de computacion
se emplea en calcular las Iunciones exponenciales,
proponen crear una tabla en la que miran
directamente esos valores. El tamao de la tabla
ellos lo han Iijado en 1000 posiciones, tras
considerar que valores no automaticamente
rechazables o aceptables son, para cada t, los
o|t/200 , 5t|. Cada posicion representa el o
i(t/200), y por tanto, en la posicion i se almacenara
el valor e
-o/t
e
-i/200
. El indice para mirar en esta tabla
se obtiene calculando o(200/t), redondeando y
acotando los valores entre 1 y 1000.

Los resultados de Hajek indican que puede no ser
una buena idea usar entornos que den lugar a
espacios de busqueda con muchos picos o con
grandes y proIundos valles. Es tambien evidente que
la Iuncion de coste deberia guiar la busqueda hacia
buenos minimos locales, y que las grandes llanuras
en las que todas las soluciones del entorno tienen el
mismo valor, deberian ser evitadas. La eIiciencia de
la busqueda en un numero Iinito de iteraciones
dependera igualmente del tamao del espacio de
soluciones, y por tanto el objetivo deberia ser
mantenerlo lo mas pequeo posible. Esto podria
hacerse por ejemplo mediante un pre-procesado que
reduzca el tamao del espacio de soluciones. Sin
embargo, debe tenerse cuidado que esto no viole las
condiciones de alcanzabilidad, o que de lugar a
superIicies con picos que son mas diIiciles de
explorar.

Al igual que con espacios de soluciones reducidos,
hay ventajas al considerar entornos razonablemente
reducidos, que aseguren que la busqueda no
converja hacia optimos locales a temperaturas bajas.
Sin embargo, esto debe ser compaginado con la
Iacilidad que permiten los grandes entornos de que
se produzcan mejoras importantes en un
movimiento simple, y de Iacilitar rapidos
movimientos de un area a otra del espacio de
busqueda. La evidencia empirica en un gran numero
de problemas parece indicar que las preIerencias
entre entornos pequeos y grandes son dependientes
de cada problema.

Todas las anteriores ideas se ilustraran ahora usando
como ejemplo dos problemas clasicos: el problema
del viajante y el de coloracion de un graIo.


5. El problema del viajante

Antes de la aparicion del Recocido Simulado, ya se
habian deIinido numerosos algoritmos de busqueda
local para el problema del viajante. Como es sabido,
para un problema con n ciudades, el conjunto de
soluciones Iactibles puede ser representado como el
conjunto de permutaciones de los numeros 1 a n. Por
tanto, el espacio consiste en n! soluciones. Un k-
entorno de una solucion se deIine como el conjunto de
soluciones obtenidas al eliminar k tramos y
reemplazarlos por otros k tramos diIerentes. Para k
2, solo hay un modo de reconectar las ciudades tras
haber quitado k tramos. Si v
i
representa la ciudad en la
posicion i en una solucion, si se eliminan los tramos
(v
i
, v
i1
) y (v
f
, v
f1
), el unico modo de reconectar el
viaje es unir v
i
con v
f
, y v
i1
con v
f1
. En un problema
simetrico el tamao del entorno es O(n
2
), y tiene la
gran propiedad de que es de varios ordenes de
magnitud menor que el espacio de soluciones. Es
sencillo explorar uniIormemente el entorno generando
un entero en el intervalo 1 a n, y el cambio en la
Iuncion de coste se puede calcular sin re-evaluar todo
el viaje, como d(v
i
,v
f
) d(v
i1
,v
f1
) - d(v
i
,v
i1
) -
d(v
f
,v
f1
)


6. El problema de coloracin de un grafo

El problema de coloracion de los vertices de un graIo
consiste en asignar un color a cada vertice usando el
minimo numero posible de colores, y de modo que
dos vertices adyacentes nunca tengan asignado el
mismo color. Al contrario que el problema del
viajante, este no Iue un candidato obvio para ser
resuelto mediante busqueda local, aunque demostro
ser buen candidato para su resolucion mediante RS.
Sin embargo, las decisiones especiIicas deben ser
tomadas con cuidado, y Iueron deIinidas de modos
muy distintos por distintos investigadores.

En este caso, la deIinicion natural de espacio de
soluciones es el conjunto de coloraciones, lo cual se
puede representar por un conjunto de particiones de
los vertices en subconjuntos, de modo que no haya
vertices adjuntos en cada subconjunto. El coste de
cada particion es el numero de subconjuntos que
contiene.

La deIinicion de entorno mas simple es mover uno o
mas vertices de un subconjunto a otro, pero aqui surge
el problema de hacerlo de modo que se siga
manteniendo la Iactibilidad. Es decir, el conjunto de
potenciales movimientos es reducido, lo que supone
dos problemas: por un lado, si escogemos
uniIormemente un vertice y luego uniIormemente
entre el conjunto de movimientos Iactibles para ese
vertice, no estaremos explorando uniIormemente todo
el entorno; en segundo lugar, es Iacil encontrar
ejemplos donde la condicion de alcanzabilidad se
vulnera y no existe un camino de movimientos validos
desde la solucion inicial a la solucion optima.

Un modo de obviar esta diIicultad es usando
deIiniciones de entorno mas complejas, en los cuales
se mueven de un subconjunto a otro cadenas de
vertices (cadenas de Kempe), manteniendo siempre la
Iactibilidad: al cambiar un nodo a otro subconjunto,
todos los de su cadena se cambian al contrario del que
estuvieran (Figura 3) . Esto tiene la desventaja de que
el conjunto de cadenas Iactibles debe ser actualizado
tras cada movimiento, y como las cadenas seran de
diIerentes tamaos, algunos vertices tendran una
mayor probabilidad de ser movidos que otros.

Otra segunda probabilidad es relajar la condicion de
Iactibilidad y permitir en el espacio de soluciones
cualquier particion de nodos. En este caso deberia
aadirse al coste una penalizacion igual al numero de
arcos existentes entre los vertices que esten en un
mismo subconjunto.













FIGURA 3. Ejemplo de movimiento usando
cadenas, en el problema de coloracin


La deIinicion natural de coste como el numero de
colores (o subconjuntos usados) no es el mas
adecuado desde el punto del Recocido Simulado, ya
que no variara el coste con un movimiento, salvo
que este de lugar a que un subconjunto se quede
vacio. Esto diIiculta la guia de la busqueda entre las
soluciones Iactibles. Lo que seria necesario es una
Iuncion de coste que premie soluciones en las que
haya algunos subconjuntos grandes junto con otros
pequeos, y no aquellas en las que los vertices estan
particionados de un modo muy uniIorme. Por
ejemplo, Johnson et al. (1991) usaron una Iuncion
de coste de la Iorma

= =
+
Q
i
i i
Q
i
i
E C C
1 1
2
2 ,
donde Q es el numero de subconjuntos usados, y C
i

Cadenas asociadas al subgraIo
deIinido por los colores A y B
6
7 3 4
1 2
5
A D
B C
A
B A
Al mover 1 al color B,
se mueven 2 y 7 al color A
{2,5,7} {1,4} {3} {6}
6
7 3 4
1 2
5
A D
B C
B
A
B
SUBCON1UNTOS
A B C D
{1, 5} {2,4,7} {3} {6}
7 4
1 2
5
A
A
B
B
B

y E
i
son respectivamente el conjunto de vertices y
de arcos en el subconjunto i. Esta Iuncion no
garantiza que su minimo se corresponda con una
coloracion con el minimo numero de colores, pero si
asegura que todos los optimos locales seran
coloraciones Iactibles.

Una alternativa que evita el problema de tener que
encontrar los pesos correctos para las dos partes del
objetivo es Iijar el valor Q, y minimizar
simplemente

=
Q
i
Ei
1
. Una vez que se haya
alcanzado el valor optimo de cero, se puede reducir
Q y repetir de nuevo el proceso. Esto presenta la
diIicultad de que la busqueda debe converger al
valor optimo para cada Q, pero por contra, tiene la
ventaja de que este valor es conocido, por lo que no
se pierde tiempo buscando una solucion mejor.
Johnson et. al. (1989) y Johnson et al. (1991)
describen un conjunto de experimentos usando
diIerentes implementaciones para diIerentes
problemas (incluido el problema de coloracion de
un graIo), dando utiles ideas de como las decisiones
especiIicas y genericas inIluyen en la calidad de las
soluciones.




7. Aplicaciones

Los dos anteriores ejemplos abordan dos problemas
clasicos. Los problemas reales, al ser por lo general
muy grandes, suelen ser especialmente diIiciles,
complicandose a menudo al incorporar multiples y
antagonicos objetivos, y una mezcla de restricciones
Iuertes y debiles. De cualquier modo, hay muchos
ejemplos en los que, tras considerar los aspectos
anteriormente discutidos, implementaciones simples
de RS han demostrado ser muy eIicientes.

Ejemplos recientes incluyen los trabajos de Lucic and
Teodorovic (1999) para la planiIicacion de los turnos
de una compaia aerea, D`Amico et al. (2002) para el
problema de dividir una region en distritos para la
asignacion de patrullas de policia, o Antunes y
Peeters (2001) para la solucion de un problema de
localizacion multi-periodo relativo a la reorganizacion
de la escolarizacion elemental en Portugal.

Sin embargo, para otros problemas las soluciones
simples pueden no ser tan eIicientes por diversos
motivos. En algunos casos, el problema puede que no
sea buen candidato a ser resuelto mediante RS, sino
por otras Iormas de modiIicacion de las soluciones,
debido a las caracteristicas particulares del problema.
Discutir todas estas posibilidades en detalle seria muy
largo como para presentarlo aqui, pero los ejemplos
que mas abajo se indican dan una idea de las variantes
que han demostrado ser exitosas.

Una queja bastante comun relativa a RS es que esta
metodologia puede necesitar mucho tiempo de calculo
cuando los problemas son grandes y complejos. Como
el tiempo de calculo esta directamente relacionado con
el tamao del espacio de soluciones, el modo mas
obvio de reducir el tiempo es intentar reducir el
espacio de soluciones. Muchos problemas clasicos de
optimizacion pueden reducirse a traves de un pre-
procesamiento mediante un conjunto de reglas de
reduccion. Este es el enIoque elegido por Bornstein y
Azlan (1998) en su solucion RS para el problema de
localizacion de una planta con restricciones de
capacidad, y por Dowsland (1993) en su solucion para
problemas bidimensionales de empaquetado
rectangular.

Cuando esto no sea posible, una alternativa podria ser
reducir el espacio de soluciones para parte de la
busqueda. LutIiyya et al. (1992) resuelven un
problema de empaquetado irregular donde las
soluciones estan representadas por las posiciones en
un mallado de la piezas empaquetadas. Un mallado
mas denso implica una representacion mas exacta, y
por tanto una mejor calidad del optimo, pero tiene el
inconveniente de suponer un mayor tamao del
espacio de busqueda. Los autores han aIrontado este
problema manejando un mallado menos Iino durante
las etapas iniciales del algoritmo permitiendo asi que
la busqueda encuentre areas prometedoras.
Posteriormente el mallado se vuelve mas Iino
conIorme se reduce la temperatura, Iacilitando una
busqueda mas exacta conIorme el algoritmo empieza
a converger.

Otra posibilidad es reducir la proporcion del entorno
que puede ser explorado en cada iteracion. Por
ejemplo, para problemas del tipo de creacion de
horarios o de secuenciacion donde el objetivo es hallar
una solucion Iactible, la Iuncion de coste puede
representar el numero de restricciones no satisIechas
siendo el objetivo reducir ese numero a cero. En este
caso, es habitual considerar exclusivamente
movimientos que contribuyan a reducir el coste. Tanto
LutIiyya et al. (1992) como Sechen et al. (1988) usan
entornos reducidos para evitar perder tiempo de
calculo a temperaturas bajas. Ambos indican que
movimientos grandes son muy raramente aceptados
cuando t es pequea, y por tanto reducen el tamao
del entorno conIorme el sistema se enIria, evitando asi
una perdida de tiempo explorando y rechazando saltos
grandes en las ultimas iteraciones del algoritmo.

En algunas ocasiones es posible que no podamos
deIinir una adecuada combinacion de parametros
especiIicos que aseguren una superIicie 'suave (sin
picos ni valles proIundos) del espacio de soluciones.
En esos casos, una alternativa util podria ser hacer un
'recalentamiento, el mas comun de los cuales
consiste en hacerlo muy esporadicamente cuando
apreciemos signos de que nos hemos quedado
atrapados o que no nos movemos durante un elevado
numero de iteraciones de una determinada solucion.

Sin embargo, otras estrategias han sido tambien
exitosas. Por ejemplo Dowsland (1993) uso para un
problema de empaquetamiento bidimensional un
programa de enIriamiento ondulatorio que enIria
cuando se acepta un movimiento, y se recalienta a un
ritmo mucho menor cada vez que se rechaza un
movimiento, evitando asi quedarse atrapado en un
optimo local proIundo. Connolly (1990) aIirma para
un problema de asignacion cuadratica que 'recocer a
una temperatura constante le dio mejores resultados
que el recocido clasico. Ross (2000) llevo a cabo unos
experimentos detallados usando estrategias
convencionales y de recalentamiento en un problema
de diseo de redes de distribucion, concluyendo que
resulta interesante considerar alguna Iorma inteligente
de recalentamiento.

Tambien pueden causar problemas la necesidad de
Iijar un conjunto adecuado de pesos en problemas
multiobjetivo, o cuando necesitamos penalizar en la
Iuncion de coste las restricciones que han sido
relajadas en la deIinicion del espacio de soluciones.
Dige et al. (1993) tuvieron serios problemas usando
estos ultimos pesos para obtener soluciones Iactibles
en su implementacion RS para el problema de
elaboracion de horarios escolares. Wright (1991)
aIirma que los pesos deberian ser Iijados de acuerdo
con la diIicultad para poder satisIacer las restricciones,
y no proporcionalmente a su importancia, obteniendo
muy buenos resultados al aplicar estas ideas a
diIerentes problemas de secuenciacion relacionados
con el mundo del cricket.

Thompson and Dowsland (1998) abordaron
problemas similares en la implementacion de una
solucion para el problema de secuenciacion de
examenes, resolviendolo en dos Iases: en la primera se
relajo el espacio de soluciones y la busqueda se
concentro en encontrar una solucion Iactible; una vez
hallada, se eliminan del espacio de busqueda todas las
inIactibles y se amplia el entorno para eliminar todo
potencial problema de alcanzabilidad; la busqueda
continua concentrandose en los objetivos secundarios
y las restricciones 'blandas.

Otros (por ejemplo Stern (1992)) han obtenido buenos
resultados con pesos que son dependientes de la
temperatura. Incluso en aquellos casos en los que
todos los elementos de la Iuncion de coste son
objetivos autenticos, puede ser que el equilibrio
optimo entre los distintos objetivos no sea constante
durante todo el periodo de busqueda, por lo que pesos
constantes no seran completamente exitosos. Wright
(2001) propone un modo de evitar esto, que denomina
'busqueda de subcoste guiada. En ella la Iuncion de
aceptacion se deIine que tal modo que permitira un
mayor grado de empeoramiento global en la Iuncion
de coste, siempre que de lugar a una mejora notable en
al menos un objetivo.


8. Conclusiones

Los anteriores ejemplos son simplemente una
pequeisima muestra del gran numero de problemas
que han utilizado con exito el Recocido Simulado.
Otros ejemplos aparecen en articulos de revision tales
como Diaz et al. (1996) (donde se presentan
numerosas aplicaciones en los campos del diseo
VLSI, telecomunicaciones, graIos, Iisica, biologia,
etc), Dowsland (1993), Aarts and Lenstra (1997) o
Koulamas et al. (1994). Cualquier busqueda en una
base de datos cientiIica proporciona docenas de citas
cubriendo un amplio espectro de problemas teoricos y
practicos. Hay tambien numerosos ejemplos de
hibridacion entre RS y otras tecnicas heuristicas,
particularmente con algoritmos geneticos.

Una de las atracciones del Recocido Simulado es que
resulta muy Iacil trabajar con el en cualquier problema
que presente una estructura de entorno natural, como
ocurre en muchos problemas de optimizacion
combinatoria (aunque algunos como el de Number
Partitioning parecen presentar especial resistencia a su
resolucion mediante RS). Sin embargo, incluso para
los mas simples problemas se debe tener cuidado a la
hora de deIinir las decisiones genericas y las
especiIicas del problema. En muchos casos eso es
suIiciente para obtener un buen algoritmo. Otras
veces, debe ponerse especial atencion en deIinir un
programa de enIriamiento bien aIinado, o en
aprovechar el conocimiento que se tenga del problema
especiIico para deIinir una buena estructura de
entornos, espacio de soluciones o Iuncion de coste.

Referencias

Aarts, E.H.L., Korst, J.H.M.: Simulated Annealing
and Boltzmann Machines, Wiley,
Chichester, 1989.
Aarts, E.H.L., Lenstra, J.: Local Search in
Combinatorial Optimisation. Wiley,
Chichester 1997.
Antunes, A., Peeters, D.: On solving complex multi-
period location models using simulated
annealing. European Journal oI Operational
Research 130: 190-201, 2001.
Bornstein, C.T., Azlan, H.B.: The use oI reduction
tests and simulated annealing Ior the
capacitated plant location problem. Location
Science 6: 67-81, 1998.
Cerny, V.: A thermodynamical approach to the
travelling salesman problem: an eIIicient
simulation algorithm. J. oI Optimization
Theory and Applic.,45: 41-55, 1985.
Connolly, D.T.: An improved annealing scheme Ior
the QAP. European Journal oI Operational
Research 46: 93-100, 1990.
D`Amico, S.J., Wang, S-J, Batta, R., Rump, C.M.: A
simulated annealing approach to police
district design. Computers & Operations.
Research 29: 669-684, 2002.
Diaz, A. (coordinador), Optimi:acion heuristica v
Redes Neuronales en Direccion de
Operaciones e Ingenieria, ParaninIo,
Madrid, 1996.
Dige, P., Lund, C., Ravn, H.F.: Timetabling by
simulated annealing. Applied Simulated
Annealing Lecture Notes in Economic and
Mathematical Systems 396, R.V.V. Vidal
(ed), 151-174, Springer-Verlag, 1993.
Dowsland, K.A.: Some experiments with simulated
annealing techniques Ior packing problems.
European Journal oI Operational Research
68: 389-399, 1993.
Dowsland, K.A.: Simulated Annealing. in Modern
Heuristic Techniques Ior Combinatorial
Problems, C.R.Reeves (ed), Blackwell,
OxIord, 1993.
Hajek, B.: Cooling schedules Ior optimal annealing.
Mathematics oI Operations Research.,13:
311-329, 1988.
Huang, M.D., Romeo, F., Sangiovanni-Vincentelli,
A.: An eIIicient general cooling schedule Ior
simulated annealing. Proc. IEEE
International ConIerence on Computer
Aided design, Santa Clara. 381-384, 1986.
Johnson, D.S., Aragon, C.R., McGeoch, L.A.,
Schevon, C.: Optimization by simulated
annealing: an experimental evaluation; Part I
Graph partitioning. Operations Research 37:
865-892, 1989.
Johnson, D.S., Aragon, C.R., McGeoch, L.A.,
Schevon, C.: Optimization by simulated
annealing: an experimental evaluation; Part
II Graph coloring and number partitioning.
Operations Research 39: 378-406, 1991.
Kirkpatrick, S., Gellat, C.D., Vecchi, M.P.:
Optimization by simulated annealing.
Science, 220: 671-680, 1983.
Koulamas, C., Antony, S.R., Jane, R.: A survey oI
simulated annealing applications to
operations research problems. OMEGA 22:
41-56, 1994.
Lucic, P., Teodorovic, D.: Simulated annealing Ior the
multi-objective aircrew rostering problem.
Transportation Research (A) 33: 19-45,
1999.
Lundy, M., Mees, A.: Convergence oI an annealing
algorithm. Math. Prog. 34: 111-124, 1986.
LutIiyya, H., McMillin, B., Poshyanonda, P., Dagli,
C.: Composite stock cutting through
simulated annealing. Mathematical.
Computational Modelling 16: 57-74, 1992.
Metropolis, N., Rosenbluth, A.W., Rosenbluth, M.N.,
Teller, A.H., Teller, E.: Equation oI state
calculation by Iast computing machines.
Journal oI Chemistry Physics, 21: 1087-
1091, 1953.
Mirkin, G., Vasudevan, K., Cook, F.A.: A comparison
oI several cooling schedules Ior simulated
annealing implemented on a residual static
problem. Geophysical Research Letters 20:
77-80, 1993.
Ross, A.D.: A two-phased approach to the supply
network re-conIiguration problem. European
Journal oI Operational Research 122: 18-30,
2000.
Sechen, C., Braun, D., Sangiovanni-Vincentelli, A.:
Thunderbird: a complete standard cell layout
package. IEEE Journal oI Solid-State
Circuits, SC23: 410-420, 1988.
Stern, J.M.: Simulated annealing with a temperature
dependant penalty Iunction. ORSA Journal
on Computing, 4: 311-319, 1992.
Thompson, J.M., Dowsland, K.A.: A robust
simulated annealing based examination
timetabling system. Computers &
Operations Research 25: 637-648, 1998.
Van Laarhoven, P.J.M., Aarts, E.H.L.: Simulated
Annealing Theory and Applications.
Kluwer, Dordrecht, 1988.
White, S.R.: Concepts oI scale in simulated
annealing. Proc. IEEE, International
ConIerence on Computer Design, 646-651,
1984.
Wright, M.: Scheduling English cricket umpires.
Journal oI the Operational Research
Society 42: 447-452, 1991.
Wright, M.: Subcost-guided search experiments
with timetabling problems. Journal oI
Heuristics, 7: 251-260, 2001.
HEURISTICS DESIGN AND FOUNDATIONS OF
SIMULATED ANNEALING


Abstract

Simulated Annealing is one oI the most classic
metaheuristics. Its simplicity and good results
over a wide range oI problems have made it a
highly popular tool, with hundreds oI
applications in a great variety oI Iields. This
article is a review oI the Iundaments underlying
the method, and analyses the diIIerent
decisions that the analyst has to take in the
design phase as well as summarising the main
recommendations that may be made when
deIining new algorithms. A review is likewise
made oI the most relevant implementations
published in relation to this methodology.


Keywords: Simulated Annealing,
Metaheuristics, Combinatorial Optimization