ESPECIAL

Inteligencia
artificial
 ESPECIAL
Inteligencia artificial
CONTENIDO

Una selección de nuestros mejores artículos para ahondar en la ciencia de la inteligencia artificial.

Técnicas de aprendizaje automatizado

Yaser S. Abu-Mostafa
Investigación y Ciencia, abril 2013

Robots científicos
Ross D. King
Investigación y Ciencia, marzo 2011

Robots empáticos
Pascale Fung
Investigación y Ciencia, enero 2016

Mi jefe el robot
David Bourne
Investigación y Ciencia, agosto 2013

Ética para robots

Michael Anderson y Susan L. Anderson
Investigación y Ciencia, diciembre 2010

El auge de los nanorrobots

Mihail C. Roco
Investigación y Ciencia, agosto 2013

Abejas robóticas
Robert Wood, Radhika Nagpal y Gu-Yeon Wei
Investigación y Ciencia, mayo 2013

Escarabajos cyborg
Michel M. Maharbiz y Hirotaka Sato
Investigación y Ciencia, mayo 2011

La vulnerabilidad de los drones

Kyle Wesson y Todd Humphreys
Investigación y Ciencia, abril 2014

EDITA
Prensa Científica, S.A.
Muntaner, 339 pral. 1a, 08021 Barcelona (España)
precisa@investigacionyciencia.es
www.investigacionyciencia.es
Copyright © Prensa Científica, S.A. y Scientific American, una división de Nature America, Inc.
ESPECIAL n.o 21 ISSN: 2385-5657
En portada: iStock / Menno van Dijk | Imagen superior: iStock / Manzor_09 (mano de robot); IyC (fotocomposición)
 Yaser S. Abu-Mostafa
es profesor de ingeniería
eléctrica y ciencias de la
computación en el
Instituto de Tecnología
de California.
inteligencia artificial

Técnicas
de aprendizaje
automatizado
Ciertos algoritmos permiten hasta tal punto que, hoy por hoy, las compu-
tadoras parecen «más inteligentes» que las
que las máquinas aprendan y «piensen». personas. Pensemos en el ordenador Wat-

Cada vez más a menudo, sus predicciones son, de IBM, que hace unos años se valió
del aprendizaje automatizado para derro-
superan a las de los expertos tar a los mejores jugadores de Jeopardy!,
un popular concurso de la televisión esta-
dounidense.
Yaser S. Abu-Mostafa La competición más importante de la es-
pecialidad tuvo lugar unos años atrás. Net-
flix, una compañía de alquiler de películas

H
por Internet, deseaba diseñar un sistema
ace unos años, los directivos de una marca de moda que ayudase a sus clientes a encontrar filmes de su agrado (y
femenina solicitaron mi ayuda para elaborar nue- no tanto entre los estrenos más solicitados, sino entre los títu-
vas propuestas dirigidas a su clientela. Nadie en los menos conocidos del catálogo). La compañía ya disponía de
su sano juicio tomaría en serio mi opinión acerca un sistema de clasificación y recomendación de películas, pero
de un tema del que sé tan poco. Sin embargo, no los directivos sabían que distaba de ser perfecto, por lo que con-
habían acudido a mí para que les aconsejase sobre moda, sino vocaron un concurso para mejorarlo. Las reglas eran muy sen-
sobre técnicas de aprendizaje automatizado. Basándome úni- cillas: el primer concursante que superase en un 10 por ciento
camente en sus cifras de ventas y en los resultados de varias los resultados del motor de recomendación previo recibiría un
encuestas a usuarias, acabé recomendando a mujeres que no millón de dólares. El reto atrajo a decenas de miles de partici-
conocía artículos que jamás había visto. Aquellos consejos su- pantes de todo el mundo.
peraron a los de los estilistas profesionales. E insisto: mis no- Para un investigador en aprendizaje automatizado, aquella
ciones sobre moda siguen siendo casi nulas. competición resultaba muy atractiva. Y no solo por la cuantía
El aprendizaje automatizado es la rama de las ciencias de del premio, sin duda seductora, sino por el volumen de datos: el
la computación que intenta que una máquina aprenda a partir aspecto más delicado de cualquier sistema de aprendizaje auto-
de la experiencia. Puede aplicarse a cualquier ámbito: búsque- matizado reside en los datos, y Netlix ponía a disposición de los
das en Internet, pruebas sanguíneas más precisas o agencias de participantes 100 millones de puntos de datos reales.
contactos. En su versión más sencilla, los algoritmos de apren-
dizaje toman un conjunto de datos, los analizan para buscar en PERÍODO DE ADIESTRAMIENTO
ellos ciertas pautas y, una vez identificadas estas, las emplean La competición de Netflix duró casi tres años. Numerosos gru-
para realizar predicciones. Durante la última década, los pro- pos abordaron el problema desglosando cada película en lar-
gresos que ha experimentado este campo lo han transformado gas series de atributos. Un título puede puntuarse atendiendo

EN SÍNTESIS

El aprendizaje automatizado, una rama de las Los algoritmos de aprendizaje automatizado Uno de sus principales problemas, sin embargo,
ciencias de la computación, busca analizar gran- pueden emplearse para todo tipo de fines, desde surge cuando se emplea demasiada potencia de
des cantidades de datos a fin de identificar pautas identificar tendencias económicas hasta realizar cálculo para analizar los datos. Ello puede llevar a
y realizar predicciones. recomendaciones personalizadas. la máquina a extraer pautas espurias.

50  INVESTIGACIÓN Y CIENCIA, abril 2013

 1 0 0 1 1 0 1

0 1 0 1 0 0 0 1 1 0

0 1 1 0 1 0 1 0 1 1 0 1

1 1 0 1 1 0 0 1 1 0 0 1 0

1 0 0 0 1 1 1 0 1 0 1 1 0 1

0 0 1 0 0 1 0 1 1 1 0 1 1 0

1 0 0 0 1 1 1 0 1 0 1 1 0

1 1 0 1 0 0 1 1 0 1 0 1

0 1 0 1 0 1 1 0

0 1 1 0 1

1 0

a varias categorías, como si es más o menos divertida, la com-
plejidad de la trama o el atractivo físico de los actores. Después,
basta con acudir a las películas reseñadas en el pasado por cada
espectador y comprobar cómo evaluó cada uno de esos atribu-
tos: en qué medida le agradan las comedias, si prefiere argu-
mentos sencillos o complicados, o si siente predilección por las
películas con actores atractivos.
scientific american
el algoritmo haya asociado docenas de ellos, la sugerencia fi-
nal debería ajustarse con bastante exactitud a las preferen-
cias del espectador.
Por regla general, solemos pensar en atributos que pueden
identificarse con facilidad, como «comedia» o «trama compli-
cada». Pero un algoritmo no necesita realizar tales distinciones.
De hecho, los investigadores tampoco se preocupan de analizar

El problema se reduce así a emparejar los gustos del es- el contenido del filme. El algoritmo de aprendizaje comenzará
pectador con los atributos del filme. Si le gustan las comedias con una serie de atributos aleatorios e innominados. A medida
y las tramas de enredo, una buena recomendación sería Con que obtenga datos sobre las calificaciones que los espectadores
faldas y a lo loco o Un pez llamado Wanda. Después de que otorgaron a las películas en el pasado, irá afinando la elección

Abril 2013, InvestigacionyCiencia.es  51

de nuevos atributos hasta que ello se ajuste a la manera en que
los usuarios evalúan las proyecciones. Si los admiradores de la
película A suelen asignar buenas puntuaciones a las películas
B, C y D, el algoritmo hallará un atributo común a las cuatro.
Todo esto sucede en la «fase de adiestramiento», en la que el
computador explora millones de calificaciones con el objetivo
de conformar un conjunto de atributos basados en valoracio-
nes reales, no en análisis subjetivos.
Los atributos generados por el sistema tal vez no resulten tan
inmediatos como los de «comedia» o «drama». De hecho, pue-
den ser muy sutiles o incluso incomprensibles, ya que lo único
que pretende el algoritmo es hallar la mejor manera de prede-
cir los gustos del espectador, no explicarnos cómo lo hace. Si el
programa funciona de la manera correcta, no tenemos por qué
analizar sus entresijos.
Sin embargo, esa no suele ser la manera de proceder en la
vida real. A principios de mi carrera desarrollé un programa de
análisis y concesión de créditos para un banco. Una vez conclui-
do, la empresa me pidió que interpretara el significado de cada
atributo. El requerimiento no tenía nada que ver con el ren-
dimiento del sistema, ya que este funcionaba de manera satis-
factoria. Obedecía a un imperativo legal: un banco no puede de-
negar un crédito a un cliente sin argumentar por qué. No se le
puede enviar una carta diciendo que su solicitud ha sido recha-
zada solo porque cierto parámetro X era menor que 0,5.
Cada sistema de aprendizaje desarrolla sus propios conjun-
tos de atributos. Durante las últimas semanas del concurso Net-
flix, varios grupos que hasta entonces habían estado trabajando
de manera independiente empezaron a combinar sus algoritmos
mediante técnicas de agregación. En la última hora de la compe-
tición, dos equipos se disputaban el primer premio: la puntua-
ción se mostraba ligeramente favorable para The Ensemble, un
grupo al que pertenecía uno de los alumnos de doctorado de mi
grupo, en el Instituto de Tecnología de California; tras ellos se si-
tuaba el equipo BellKor’s Pragmatic Chaos. Al final tuvo lugar un
empate, ya que ambos habían superado los resultados del siste-
ma original en un 10,06 por ciento. Las reglas estipulaban que,
de ocurrir así, el premio recaería en el concursante que primero
hubiese enviado la solución. Pragmatic Chaos se había adelanta-
do en veinte minutos a The Ensemble. Después de tres años de
carrera, esos veinte minutos les valieron un millón de dólares.
AJUSTE PERFECTO
El tipo de aprendizaje automatizado empleado en el concurso de
Netflix recibe el nombre de aprendizaje supervisado. Este mé-
todo puede aplicarse también a otras tareas, como la diagnosis
médica. Supongamos que introducimos en un computador mi-
les de imágenes de leucocitos extraídas de las historias clínicas
de pacientes y, al mismo tiempo, le informamos sobre si cada
una de ellas corresponde a una célula cancerosa o sana. A partir
de esos datos, el algoritmo aprenderá a utilizar ciertos atribu-
tos de la célula (forma, tamaño y color, tal vez) para identificar
aquellas malignas. En tales casos, el investigador «supervisa»
el aprendizaje de la máquina: para cada imagen, le proporcio-
na la respuesta correcta.
Aunque el aprendizaje supervisado constituye el método más
empleado, no es el único. Quizás un experto en robótica desco-
nozca lo que debe hacer para enseñar a andar a un robot bípe-
do; sin embargo, sí puede programar un algoritmo para que el
autómata ensaye varias maneras de caminar. Si tras probar con
uno de ellos, el robot acaba en el suelo, aprenderá que ese no es
el modo correcto de conseguirlo.
52  INVESTIGACIÓN Y CIENCIA, abril 2013
Dicho proceso se conoce con el nombre de aprendizaje por
refuerzo. En esencia se trata de una estrategia de ensayo y error,
bien conocida por todos nosotros. Existen numerosas situacio-
nes en las que nos vemos obligados a actuar, pero, en lugar de
esperar a que alguien nos indique lo que debemos hacer, pro-
bamos una determinada acción y observamos el resultado. En
función de nuestro éxito, de cara al futuro reforzaremos las op-
ciones correctas y evitaremos las erróneas. En último término,
tanto personas como máquinas aprenden a tomar la decisión
adecuada a cada situación.
Un ejemplo lo hallamos en los motores de búsqueda en In-
ternet. Allá por 1997, los fundadores de Google no invirtieron
horas y horas explorando la Red para después enseñar a su al-
goritmo a reconocer páginas relacionadas con contenidos como
«oveja Dolly». En su lugar, el motor pulula por la Red para ge-
nerar un primer borrador de resultados; después, emplea el
número de clics de los usuarios como indicador de refuerzo
acerca de las páginas relevantes. Cuando alguien abre un enla-
ce, el algoritmo aprende que esa página guarda relación con la
búsqueda; en cambio, si todo el mundo ignora uno de los enla-
ces que encabezan la lista de resultados, el motor deduce que
se trata de una página irrelevante. De esta manera, las reaccio-
nes de millones de usuarios permiten al algoritmo afinar los
criterios de búsqueda a la hora de evaluar la relevancia de las
distintas páginas.
EXCESO DE POTENCIA
El aprendizaje por refuerzo se emplea a menudo para tareas
que requieren una secuencia de acciones, como los juegos. Con-
sideremos el caso de las tres en raya. Tal vez el computador co-
mience al azar situando una X en una esquina. Con el tiempo,
comprobará que gana esas partidas con mayor frecuencia que
cuando empieza colocando la X en un lateral. Así, la acción
que conduce a la victoria (la X en la esquina) se verá reforza-
da. Ese proceso puede extenderse a otras fases de la partida
y, también, a cualquier otro juego, como las damas o el go, el
juego de estrategia de origen oriental. Las técnicas de apren-
dizaje por refuerzo se han empleado asimismo en tareas eco-
nómicas complejas, como aquellas que requieren encontrar
un equilibrio de Nash.
Sin embargo, existen situaciones en que el resultado de las
acciones no puede evaluarse ni directa ni indirectamente. En
tales casos no podremos aplicar el aprendizaje por refuerzo,
sino que deberemos recurrir al aprendizaje no supervisado.
Esta técnica se emplea en aquellos casos en los que los investi-
gadores disponen de un gran volumen de datos, pero ignoran
qué hacer con ellos, ya que no disponen de información explí-
cita (como ocurre en el aprendizaje supervisado) ni implícita
(como en el aprendizaje por refuerzo) sobre las acciones que
deben tomarse. ¿Cómo proceder, entonces? Un primer paso pue-
de consistir en asignar categorías a los datos a partir de las se-
mejanzas que existen entre ellos. En este procedimiento, co-
nocido como agrupamiento (clustering), se analizan datos sin
catalogar y se extrae información acerca de su estructura. Ello
permite entenderlos mejor antes de decidir qué acción tomar.
En ocasiones, un agrupamiento adecuado puede bastar por sí
solo: si deseamos organizar una biblioteca, no necesitaremos
más que ordenar los libros en categorías similares. Otras ve-
ces puede ser necesario ir más allá y aplicar a los datos agru-
pados un aprendizaje supervisado.
Irónicamente, la mayor trampa del aprendizaje automático
proviene de aplicar demasiada potencia de cálculo. De hecho,
 una de las cualidades que distingue entre
los profesionales de la disciplina y los afi-
cionados reside justamente en la capaci-
dad de utilizar los recursos necesarios sin
extralimitarse. Pero ¿cómo podría resultar
perjudicial un exceso de potencia? Los al-
goritmos de aprendizaje intentan detectar
pautas regulares en los datos. Sin embar-
go, un algoritmo demasiado «hostil» (por-
que, pongamos por caso, emplea un mé-
todo excesivamente rebuscado para ajus-
tar un conjunto de datos simples) tal vez
acabe identificando patrones ficticios que
solo se deben a la casualidad. Una parte
así funciona
Clasificada X, Y o Z
¿Qué película desea ver esta noche? Los motores de recomendación personali-
zada emplean algoritmos de aprendizaje automático para «deducir» los gustos de
un espectador y ayudarle a encontrar, de entre todo el océano de posibilidades, un
título de su agrado. Dichos programas se basan en una técnica denominada des-
composición en valores singulares, la cual desglosa una película en largas listas
de atributos y los empareja con las preferencias del espectador. El método puede
extenderse a casi cualquier sistema de recomendación, como los motores de bús-
queda en Internet o las agencias de contactos.
Convertir películas

B (Animación)

Z (Animales)
A (Comedia)

D (De culto)
considerable de la teoría matemática del en datos

C (Drama)
aprendizaje automatizado se centra pre- La computadora comienza con una base
cisamente en resolver estos problemas de de datos de películas y puntuaciones ya
«sobreajuste» de datos. Nuestro objetivo asignadas por los espectadores. Des-
pués, emplea las calificaciones colectivas
consiste en identificar relaciones genui-
para desglosar cada filme en largas lis-
nas, no crear pautas espurias. tas de atributos. Estos quizá correspon-
A modo de ejemplo, pensemos en un dan a categorías como «comedia» o «de
aficionado a la ruleta que observa diez ti- culto», pero tal vez no. En cualquier caso,
radas consecutivas y comprueba que es- para el ordenador solo serán atributos
tas se alternan de manera sistemática en- abstractos, como X, Y o Z.
tre el rojo y el negro. En vista de ello, de-
Emparejar espectadores
duce que la ruleta está trucada, genera un
y títulos
modelo mental que se ajusta a la perfec- Por último, se descodifican las prefe-
ción a los datos disponibles («rojo, negro, rencias de los espectadores y se intenta
rojo, negro, rojo, negro...») y apuesta cien asignar a cada uno la película más ade-
fichas al rojo. Pero, en la undécima tira- cuada a sus gustos. Si en el pasado un
da, el carácter errático de la rueda regre- sujeto ha mostrado predilección por
ciertas combinaciones de atributos,
sa y la bola se detiene en negro.
se le recomendarán películas similares.
Nuestro jugador ha perdido todo su
dinero solo por empeñarse en ver un pa-
trón donde, en realidad, no había ningu-
no. La estadística nos dice que la probabilidad de que la ruleta futuras basándose únicamente en un conjunto de datos infor-
pase del rojo al negro diez veces seguidas asciende aproxima- máticos. En la actualidad, el interés por el tema ha explotado.
damente a 1 entre 500. Sin embargo, cada jugada resulta com- El año pasado, estudiantes de 15 especialidades asistieron a un
pletamente independiente de las anteriores, por lo que la pro- curso que impartí en el Instituto de Tecnología de California.
babilidad de obtener un color u otro es siempre igual al 50 por Por vez primera, colgué en Internet el material del curso y los
ciento. No en vano, una antigua máxima del aprendizaje auto- vídeos de las clases. Miles de personas en todo el mundo las si-
matizado reza como sigue: si torturas los datos el tiempo sufi- guieron y realizaron las tareas correspondientes. (El lector inte-
ciente, acabarán confesando. resado también podrá hacerlo si acude al enlace que figura en
Para evitar problemas semejantes, los programadores in- el apartado «Para saber más».)
tentan emplear los algoritmos más sencillos posible valiéndose Con todo, no debemos olvidar que el aprendizaje automati-
de una técnica llamada regularización. En general, cuanto más zado solo funciona con problemas para los que disponemos de
complejo sea un modelo, mayor será su propensión a sobreajus- un volumen suficiente de datos. La técnica no genera informa-
tar los datos, por lo que la regularización intenta mantener esa ción, sino que la extrae a partir de los datos disponibles. Si estos
complejidad bajo control. no bastan para entrenar a la máquina, el aprendizaje automati-
Además, la validación del algoritmo suele apoyarse también zado no funcionará. Sin embargo, el acceso a grandes cantidades
en datos ajenos a aquellos empleados durante el proceso de de datos es, cada vez más, moneda común en numerosos cam-
adiestramiento. Esto sirve para asegurar que el comportamiento pos. Sin duda, ello augura un futuro brillante para esta discipli-
resultante es genuino y no un mero artificio de los datos de en- na. Créame: realizar predicciones es mi especialidad.
trenamiento. En el concurso de Netflix, por ejemplo, los algo-
ritmos no fueron puestos a prueba con el conjunto de datos ori-
ginal, sino con un nuevo bloque de datos que solo conocían los P ARA SA B E R M Á S
miembros de la compañía. Adiestramiento de las máquinas. Yaser S. Abu-Mostafa en Investigación y Ciencia, n.o 225,
junio de 1995.
PREDECIR EL FUTURO Recommend a movie, win a million bucks. Joseph Sill en Engineering & Science, vol. 73, n.o
jen christiansen

2, págs. 32-39, primavera de 2010.

Resulta difícil aburrirse trabajando en aprendizaje automatizado. Learning from data. Yaser S. Abu-Mostafa, Malik Magdon-Ismail y Hsuan-Tien Lin. AML-
Esta disciplina permite que un lego en cierta materia (como un book, 2012. amibook.com
ignorante en moda femenina, por ejemplo) prediga tendencias Learning from data (curso en línea del autor): work.caltech.edu/telecourse.html

Abril 2013, InvestigacionyCiencia.es  53

 XXXXXXXX

72 INVESTIGACIÓN Y CIENCIA, marzo 2011

 Ross D. King es profesor de computación en la Universidad
de Aberystwyth. Investiga cuestiones relativas a la actividad
científica, entre las que se incluyen métodos para aplicar
la computación a la química y la biología.

C O M P U TA C I Ó N

Robots científicos
Conciben hipótesis, realizan experimentos para verificarlas
y evalúan los resultados. Todo ello sin intervención humana
Ross D. King

¿P ċûúûĄ aċĊoăaĊÿĐaĈĉû Ăoĉ úûĉùċøĈÿăÿûĄĊoĉ

científicos? Con ello no nos referimos a auto-
matizar los experimentos. Nos preguntamos
sobre la posibilidad de construir una máquina
(un «robot científico») que lleve a cabo todo
el proceso que aporta nuevos conocimientos a la ciencia. Nues-
tro grupo de investigación lleva un decenio tratando de de-
sarrollar una.
A ello nos mueven dos finalidades. La primera, comprender
mejor la ciencia. Tal y como sostenía el físico y premio nóbel
Richard Feynman, es imposible entender aquello que no po-
demos crear. Construir un robot científico nos obliga a tomar
decisiones de ingeniería que tengan en cuenta los mecanismos
que intervienen en la formulación de hipótesis, la relación en-
tre objetos físicos y conceptos abstractos, y la existente entre
los fenómenos observados y su formulación teórica.
Nuestra segunda motivación es de carácter técnico: máqui-
nas de ese tipo posibilitarían una investigación más producti-
va y rentable. Hoy, la complejidad de algunas cuestiones cien-
tíficas alcanza tales niveles que no existen suficientes expertos
en el mundo para abordarlas. En esos casos, las mayores espe-
ranzas residen en un tratamiento automatizado.
Los recursos informáticos destinados a la investigación
científica han experimentado mejoras constantes. Considere-
mos la automatización de laboratorios gracias a las técnicas de
cribado de alto rendimiento y sus aplicaciones a la secuencia-
ción del ADN o la selección de fármacos, los ordenadores que
automatizan el análisis de datos y que ya comienzan a formu-
lar hipótesis, o los programas de aprendizaje automático que se
emplean en el diseño de fármacos. El objetivo de un robot cien-
tífico consiste en combinar todas esas técnicas para automati-
zar el proceso completo: formular hipótesis, concebir y realizar
experimentos que las sometan a prueba y repetir el ciclo hasta
producir nuevos conocimientos. ¿Es posible construir una má-
quina semejante? Dos robots diseñados por nuestro laborato-
rio, así como otros en todo el mundo, sugieren una respuesta
afirmativa.
EXPERIMENTOS CON LEVADURAS
Las primeras aplicaciones de la inteligencia artificial a los des-
cubrimientos científicos se desarrollaron en la Universidad de
Stanford durante los decenios de 1960 y 1970. Se diseñó un pro-
grama, DENDRAL, que analizaba los datos obtenidos por un es-
pectrómetro de masas; el programa asociado, Meta-DENDRAL,

EN SÍNTESIS

La complejidad de algunos problemas Los robots científicos podrían llenar ese Mediante la inteligencia artificial y un Los críticos sostienen que Adam no es un
científicos es tal que el diseño y la reali- vacío. Adam, un prototipo, formula hipó- equipo robótico, Adam descubrió los tres científico, pues requiere intervención hu-
zación de los experimentos necesarios tesis sobre las funciones de los genes de genes que codifican cierta enzima de la mana. Aun así, una colaboración entre
DAVID JOHNSON

para solucionarlos requieren una canti- la levadura S. cervisiae y concibe experi- levadura, un resultado que había esca- robots y humanos daría mejores resulta-
dad prohibitiva de tiempo. mentos para verificarlas. pado a los científicos. dos que cualquiera de ellos por separado.

Marzo 2011, InvestigacionyCiencia.es 73

fue uno de los primeros sistemas de aprendizaje automático. El
objetivo consistía en fabricar instrumentos que permitiesen a
la misión Viking, de la NASA, explorar las posibles señales de
vida en Marte. Por desgracia, la tarea se encontraba más allá de
los recursos técnicos de la época.
Desde entonces, programas como Prospector (en geología),
Bacon (genérico) y sus sucesores han automatizado tareas como
el planteamiento de hipótesis y su comprobación experimental.
Sin embargo, la mayoría de esos sistemas carece de la capaci-
dad para realizar sus propios experimentos. Ello supone un re-
quisito esencial que ha de satisfacer todo sistema que opere de
manera autónoma, siquiera de modo parcial.
Adam, nuestro robot, carece de forma humana. Es un labo-
ratorio complejo y automatizado, con forma de cubículo y del
tamaño de una pequeña oficina. El equipo comprende un con-
gelador, tres robots de tratamiento de líquidos, tres brazos ro-
bóticos, tres incubadoras, un centrifugador y otros dispositi-
vos, todos ellos automatizados. Adam cuenta también con un
potente «cerebro»: un equipo informático que razona y con-
trola los ordenadores personales que actúan sobre el equipo
físico.
El diseño de Adam se orienta hacia un importante campo
de la biología, muy adecuado para la automatización: la genó-
mica funcional, que investiga las relaciones entre los genes y
las funciones que estos llevan a cabo. Adam experimenta sobre
el crecimiento de microorganismos. Para ello, selecciona cepas
microbianas, los medios en que estas habrán de desarrollarse
y, después, estudia su evolución durante varios días. El robot
puede poner en marcha hasta 1000 combinaciones de cepas
y medios cada día; todo ello por su propia cuenta.
El primer estudio completo versó sobre Saccharomyces ce-
revisiae, la levadura que se emplea en la fabricación de pan, cer-
veza, vino y whisky. El interés de esta levadura reside en que
proporciona un buen modelo para entender el funcionamiento
de las células humanas. S. cerevisiae posee muchos menos ge-
nes que nosotros y crece con rapidez. Y aunque los últimos an-
tepasados comunes de humanos y levaduras se remontan a unos
mil millones de años atrás, ambos tipos de células aún compar-
ten numerosas características.
Adam ha intentado esclarecer el mecanismo mediante el que
la levadura emplea enzimas (proteínas que catalizan reacciones
bioquímicas) para convertir el medio de cultivo en más levadu-
ra y residuos. Después de más de 150 años de estudio, los deta-
lles del proceso todavía no se conocen. Se han cuantificado las
enzimas que produce la levadura, pero en algunos casos se des-
conocen los genes que las codifican. Adam trató de descubrir
los genes «padre» de esas enzimas «huérfanas».
Como es natural, para poder realizar un descubrimiento,
Adam necesita conocer la ciencia actual. Introdujimos en su
programación abundantes conocimientos relativos al metabo-
lismo y la genómica funcional de la levadura. La afirmación de
que Adam posee «conocimientos» en lugar de «información»
se presta al debate filosófico. En nuestra opinión, el uso del tér-
mino se halla justificado, puesto que se refiere a lo que Adam
emplea para razonar y dirigir sus interacciones con el mundo
físico.
Ese conocimiento se representa en Adam mediante enuncia-
dos lógicos. La lógica nació hace 2400 años con el objetivo de
describir el conocimiento con mayor precisión que el lenguaje
natural. La lógica moderna constituye el medio más preciso para
representar el saber científico e intercambiar conocimientos en-
tre robots y seres humanos. Además, y dado que la lógica sirve
74 INVESTIGACIÓN Y CIENCIA, marzo 2011
como lenguaje de programación, los conocimientos de Adam
pueden interpretarse como un programa informático.
Para iniciar la investigación, Adam fue programado con nu-
merosos supuestos; por ejemplo, que el gen ARO3 de S. cerevi-
siae codifica la enzima 3-desoxi-D-arabino-heptulosonato-7-fos-
fato, y que esta cataliza la reacción entre los compuestos fos-
foenolpiruvato y D-eritrosa-4-fosfato para producir fosfato y
2-deshidro-3-desoxi-D-arabino-heptonato-7-fosfato.
En conjunto, todos esos hechos conforman un modelo de
metabolismo de la levadura que integra conocimientos sobre
genes, enzimas y metabolitos. La diferencia entre un modelo y
una enciclopedia reside en que el primero puede convertirse en
un programa informático capaz de formular predicciones a par-
tir de datos. Un robot científico puede integrar modelos abstrac-
tos y equipos robóticos de laboratorio para comprobar y mejo-
rar los modelos de modo automático.
RAZONAMIENTOS SOBRE GENES
El método científico contempla la formulación de hipótesis y su
comprobación experimental. De igual modo, Adam comienza
por postular un hecho relativo a la biología de la levadura, uti-
liza luego su modelo de metabolismo para deducir las conse-
cuencias experimentales de su hipótesis y, por último, comprue-
ba empíricamente dichas consecuencias para averiguar si los
supuestos y las observaciones se muestran compatibles.
El ciclo se inicia cuando Adam formula sus hipótesis acer-
ca de qué genes codifican las enzimas huérfanas. A fin de con-
siderar las hipótesis más verosímiles, Adam emplea sus co-
nocimientos previos. Por ejemplo, Adam sabía que una de las
enzimas huérfanas era la 2-aminoadipato transaminasa, la cual
cataliza la reacción entre el 2-oxoadipato y el L-glutamato para
dar L-2-aminoadipato y 2-oxoglutarato (reacción que se produ-
ce también en sentido inverso). Para concebir una hipótesis
sobre qué gen de la levadura codifica esta enzima, Adam pri-
mero buscó si existía algún gen en otro organismo que también
la codificase. En efecto, entre los conocimientos de Adam figu-
raba que, en la rata parda (Rattus norvegicus), el gen Aadat co-
dificaba la misma enzima.
Adam tomó la secuencia proteica de la enzima codificada
por Aadat y examinó si en el genoma de la levadura se codi-
ficaban secuencias similares. Adam sabe que, si dos secuen-
cias se parecen lo suficiente, resulta razonable inferir que son
homólogas; es decir, que comparten un ancestro común. Y
también sabe que la función de ese ancestro común puede ha-
berse conservado. En consecuencia, a partir de una semejan-
za entre secuencias, Adam deduce que sus respectivos genes
quizá desempeñen la misma función. El robot halló tres ge-
nes de la levadura con secuencias similares a la de Aadat:
YER152c, YJL060w e YJL202w. Después, formuló la hipótesis
de que cada uno de ellos codificaba la enzima 2-aminoadipa-
to transaminasa.
Adam realizó numerosos experimentos con el objetivo de
verificar esas hipótesis. En su congelador disponía de una
colección completa de cepas, a cada una de las cuales se le ha-
bía extraído un gen específico. Adam seleccionó y cultivó aque-
llas que carecían de los genes YER152c, YJL060w e YJL202w,
y estudió su crecimiento en presencia de los compuestos que
intervienen en la reacción catalizada por la enzima, como el
L-2-aminoadipato.
El paso siguiente consistía en experimentar con las cepas,
por lo que Adam debía elegir qué pruebas llevar a cabo. La
ciencia padece siempre restricciones financieras y, a menudo,
 ASÍ FUNCIONA

Biología robótica
Adam, un prototipo de robot científico, investiga las funciones de los genes Una pipeta robótica
de la levadura S. cervisiae. Sus primeros resultados incluyeron la formulación toma cepas de
de 20 hipótesis relativas a los genes que codifican determinadas enzimas. DETAIL OF
levadura A ROBOT PART IN ACTION
de las
(PERHAPS
muestras TRANSFER OF PLATE FROM
congeladas
Después, realizó miles de experimentos para verificarlas. INCUBATOR TO OPTICAL DENSITY
(1) y las introduce en
READER))
un medio de cultivo
en una placa de
96 pocillos.

2 Cultivo de la levadura
1 Selección de las muestras
Un brazo robótico toma muestras
de levadura congeladas y mezcla
cepas y medios de cultivo (inserto
superior).
La incubadora calienta las muestras durante
24 horas. Cada 40 minutos, un brazo
robótico inserta las placas en un lector
óptico que monitoriza el crecimiento
de la levadura (inserto inferior).
3 Separación de células
Se centrifuga cada placa para
separar la levadura del medio.

Congelador
Incubadora

4
Eliminación del medio Lector
Se hace fluir agua óptico
para arrastrar el medio Vertido de
y suspender las cepas residuos
en una solución salina.

5
Tratamiento de las cepas
Para contrastar las hipótesis,
el brazo robot combina las cepas
con diferentes medios de cultivo
y con moléculas que afectan
al metabolismo.
7
6
Análisis
Seguimiento
El soporte lógico
Un haz luminoso en un lector óptico La incubadora calienta cada placa durante
de Adam analiza los
(2 y 6) ilumina los pocillos. La cantidad varios días. A intervalos de 20 minutos,
resultados. El proceso
de luz que los atraviesa indica el nivel un brazo coloca las placas en un lector
DAVID JOHNSON

puede prolongarse
de crecimiento de la levadura. que envía a un ordenador los datos sobre
durante varias horas.
el crecimiento de la cepa.

Marzo 2011, InvestigacionyCiencia.es 75

 E X P E R I M E N T O S M E N TA L E S
El razonamiento de un robot
Para «razonar», un robot emplea los mismos mecanismos que
las personas. Uno de ellos es la inferencia deductiva, el fundamento
de las matemáticas y la computación. El razonamiento deductivo
es sólido: a partir de una verdad solo pueden deducirse nuevas
verdades. Por desgracia, ante la falta de una «teoría final», la
deducción no basta para que la ciencia progrese, ya que solo ela-
bora consecuencias a partir de hechos conocidos.
Una segunda opción la proporciona el razonamiento abductivo.
Aunque este ya no es sólido, como demuestra el ejemplo que
reproducimos aquí (no todas las cosas blancas son cisnes), su uti-
lidad reside en que permite formular hipótesis novedosas que pue-
den ser ciertas. El gran logro de la ciencia consiste en llegar a la
verdad no a partir de la mera deducción, sino también mediante
el experimento. Si Adam supone que Daisy es un cisne, determi-
nar la verdad de dicha proposición requiere atrapar a Daisy y veri-
ficar si es un cisne, un pato u otra cosa.
Al igual que la abducción, la inducción ofrece una vía para ela-
borar hipótesis nuevas. Si todos los cisnes que vemos son blancos,
resulta natural inferir, como ya hiciera Aristóteles, que todos los
cisnes lo son. No obstante, la inducción no se encuentra libre de
error: la inducción aristotélica se mostró falsa cuando se descu-
brieron cisnes negros en Australia. Las personas empleamos la
inducción una y otra vez en la vida cotidiana. Es lo que nos ase-
gura que mañana saldrá el sol y que nuestro desayuno no contiene
veneno. No obstante, el papel de la inducción en la ciencia es con-
trovertido. Su principal justificación se basa en que, por regla gene-
ral, funciona; un razonamiento que constituye, en sí mismo, una
inducción.
Deducción Abducción Inducción
Daisy
aisy es un cisne
y es blanca.
Todos los cisnes Todos los cisnes
son blancos. son blancos.
Danny
anny es un cisne
y es blanco.
Daisy es un cisne.
D i es bl
Daisy blanca.
Dante es un cisne
i pótesis sobre los genes que codificaban algunas enzimas en la
y es blanco
[etcétera].
Por consiguiente, Por consiguiente,
Daisy es blanca. Daisy es un cisne.
Al igual que los humanos, los robots emplean
varios métodos de razonamiento. Sean o no
sólidos, esos métodos permiten formular hipótesis P consiguiente
Por consiguiente,
y sugerir experimentos para corroborarlas. todos los cisnes
son blancos
76 INVESTIGACIÓN Y CIENCIA, marzo 2011
los científicos compiten por ser los primeros en resolver un
problema. Por tanto, diseñamos a Adam para que concibiese
experimentos eficientes que verificasen las hipótesis de ma-
nera económica y con prontitud. Para ello, Adam asigna a cada
hipótesis una probabilidad de acierto. Este proceder despier-
ta controversias, ya que algunos filósofos, como Karl Popper,
han negado la posibilidad de asociar probabilidades a las hi-
pótesis. No obstante, la mayoría de los científicos asumen de
manera tácita que algunas hipótesis resultan más verosími-
les que otras. Suele seguirse el principio de economía o de la
«navaja de Ockham»: ante dos hipótesis por lo demás igua-
les, la más sencilla se tiene por la más probable. Adam tam-
bién considera el coste de un experimento. Por el momento,
este se limita al de los compuestos químicos utilizados, si bien
un enfoque más completo habría de ponderar también el tiem-
po invertido.
Dado un conjunto de hipótesis, sus probabilidades, una se-
rie de experimentos posibles y sus costes, programamos a Adam
para que escogiese una secuencia de experimentos que mini-
mizara el coste de eliminar todas las hipótesis salvo una. Se-
mejante objetivo supone una tarea muy complicada en compu-
tación. No obstante, los experimentos seleccionados por Adam
resolvieron los problemas con mayor velocidad y menores cos-
tes que los que ofrecían otras estrategias, como la simple elec-
ción de las pruebas más económicas. En ciertos casos, Adam
puede diseñar un solo experimento que esclarezca un gran nú-
mero de hipótesis a la vez. Los científicos se afanan por conse-
guir ese objetivo, ya que tienden a considerar una sola hipóte-
sis en cada ocasión.
DE VEINTE HIPÓTESIS, DOCE NOVEDOSAS
Una vez que Adam dirige su atención hacia los experimentos
más prometedores, utiliza su equipo robótico para realizarlos y
observar los resultados. A Adam no le es dado observar genes
o enzimas de manera directa, sino la cantidad de luz que atra-
viesa los cultivos de levadura. A partir de esos datos, y merced
a un razonamiento complejo, Adam deduce si los indicios re-
sultan compatibles con sus hipótesis. Tales cadenas argumen-
tales son clásicas en la ciencia; los astrónomos, por ejemplo, in-
fieren lo que sucede en galaxias remotas a partir de la radiación
que llega a sus instrumentos.
Una de las tareas más complicadas para Adam fue decidir si
una hipótesis era coherente o no. Ya se conocen todos los genes
cuya supresión produce diferencias cualitativas en el crecimien-
to de las levaduras; eliminar otros solo causa ligeras alteracio-
nes en el crecimiento. Para decidir si alguna de esas pequeñas
diferencias ha de tenerse en cuenta, Adam aplicó sutiles técni-
cas de aprendizaje automático.
Nuestro robot generó y confirmó por vía experimental 20 hi-
levadura; hipótesis que, como toda pretensión científica, nece-
sitaban ser confirmadas. Para verificar las conclusiones de nues-
tro robot, recurrimos a fuentes de información de las que Adam
no disponía y efectuamos nuestros propios experimentos. En-
contramos que 7 de las 20 conclusiones de Adam ya se cono-
cían, una era errónea y 12 resultaron novedosas.
A modo de comprobación, nuestros experimentos confir-
maron que los tres genes (YER152c, YJL060w e YJL202w) co-
dificaban la enzima 2-aminoadipato transaminasa. Parece pro-
DAVID JOHNSON
bable que la razón de no haber descubierto antes su función
residiese en que los tres codifican la misma enzima, la cual ca-
taliza una serie de reacciones asociadas. Al contrario del caso
habitual, aquí no se daba la relación simple de una función
enzimática por gen. Adam hubo de recurrir a minuciosos ex-
perimentos y análisis estadísticos para desentrañar estas di-
ficultades.
¿ES EL ROBOT UN CIENTÍFICO?
No faltan objetores a la apelación «robot científico». Señalan,
con cierto motivo, que Adam se parece más a un ayudante que
a un científico independiente. ¿Es legítimo afirmar que Adam
realiza descubrimientos de manera autónoma? Precisemos en
primer lugar el alcance de su autonomía. No podemos, sin más,
abandonar a Adam y volver semanas después para examinar
sus conclusiones. Nuestro robot es un prototipo; sus soportes
físico y lógico sufren fallos y requieren con frecuencia la aten-
ción de un técnico. La integración de los módulos lógicos de
Adam también ha de mejorarse para que operen sin inconve-
nientes, de forma continuada y sin intervención humana. Pero
el proceso de formular hipótesis y confirmar por vía experimen-
tal los nuevos conocimientos no depende de la atención huma-
na, ni física ni intelectual.
La palabra «descubrir» suscita una discusión que se remon-
ta al siglo ĎÿĎ y a la figura romántica de Lady Ada Lovelace, hija
de Lord Byron y colaboradora de Charles Babbage, el primero
en concebir una máquina computadora de uso general. Lady
Lovelace afirmaba: «La máquina analítica no pretende origi-
nar nada. Puede hacer cualquier cosa que sepamos indicarle de
qué manera debe realizar» (cursivas de la autora). Cien años
después, Alan M. Turing argumentaba en sentido contrario a
partir de una analogía con niños: al igual que no cabe atribuir
a un maestro todo el mérito de sus discípulos, los hombres tam-
poco deberían vanagloriarse de todos los logros de sus máqui-
nas. Estos argumentos cobran cada vez mas importancia comer-
cial; por ejemplo, según la ley de patentes de EE.UU., solo una
«persona» puede «inventar» algo.
Por último, ¿qué hay de novedoso en la ciencia de Adam? Lo
son algunas de las correspondencias entre genes y funciones en-
zimáticas de la S. cerevisiae que Adam ha postulado y confir-
mado por vía experimental. Representan un conocimiento mo-
desto, pero en manera alguna trivial. En el caso de la enzima
2-aminoadipato transaminasa, Adam halló tres genes que qui-
zá resuelvan un problema de medio siglo de antigüedad. Por su-
puesto, Adam puede llegar a conclusiones erróneas —cualquier
conocimiento científico es provisional—, pero no parece verosí-
mil que todas ellas lo sean. Sus resultados son de dominio pú-
blico desde hace dos años y, en ese tiempo, nadie ha detectado
errores. Que sepamos, ningún científico ajeno a nuestro grupo
ha intentado todavía reproducirlos.
Otra manera de averiguar si Adam puede considerarse o no
un científico pasa por generalizar los mecanismos de los que se
sirve para enunciar hipótesis nuevas. Cuando Adam finalizó sus
experimentos, iniciamos el desarrollo de Eva, un segundo robot.
Eva aplica los mismos ciclos automatizados de investigación a
la selección y diseño de fármacos, un importante objetivo clíni-
co y comercial. Las lecciones de diseño que hemos aprendido de
Adam han hecho de Eva un sistema mucho más elegante, que
centra su investigación en la malaria, la esquistosomiasis, la
enfermedad del sueño y el mal de Chagas. Su soporte lógico se
encuentra todavía en desarrollo, pero ya ha encontrado com-
puestos prometedores frente a la malaria.
Otros investigadores han seguido una senda similar. Hod
Lipson, de la Universidad de Cornell, utiliza la experimenta-
ción automatizada para perfeccionar el diseño de robots móvi-
les y estudiar sistemas dinámicos. Otros intentan desarrollar
robots científicos en áreas como la química, la biología o la in-
geniería.
Varios grupos, entre ellos el nuestro, buscan la manera de
automatizar la investigación en física cuántica, sobre todo en
lo que atañe al control de procesos cuánticos. Herschel A. Ra-
bitz, de la Universidad de Princeton, investiga con láseres de
femtosegundos (10–15) para crear o romper enlaces químicos. En
tales casos, la dificultad radica en formular experimentos inge-
niosos con suma rapidez.
COLABORACIÓN HUMANA
Si aceptamos la idea de que los robots ejercen de científicos, nos
gustaría conocer sus límites. Al respecto, resulta instructivo com-
parar la automatización de la ciencia con la del ajedrez. Este úl-
timo caso constituye un problema resuelto: los ordenadores jue-
gan al ajedrez igual o mejor que los campeones del mundo y
llevan a cabo movimientos de belleza exquisita. El dominio del
ajedrez por parte de los ordenadores se debe a que el juego de-
fine un mundo abstracto y cerrado: 64 casillas y 32 piezas. Si
bien la ciencia comparte en gran medida el carácter abstracto,
la automatización se presenta más penosa porque los experi-
mentos se realizan en el mundo físico. En cualquier caso, tene-
mos la esperanza de que desarrollar un robot con aptitudes cien-
tíficas de calidad resulte más sencillo que diseñar sistemas de
inteligencia artificial capacitados para la interacción social con
humanos. En la ciencia, nos es lícito asumir que el mundo físi-
co no intenta engañarnos, un paralelo que no podemos exten-
der al ámbito social.
Los genios del ajedrez se sirven hoy de ordenadores para
mejorar su juego, analizar posiciones y planear estrategias. Del
mismo modo, cabe esperar que científicos humanos y robóti-
cos cooperen para conseguir mejores resultados que los que
cualquiera lograría por separado. Los progresos en los equipos
de computación y en los sistemas de inteligencia artificial con-
ducirán a robots cada vez más expertos.
¿Llegarán algún día tales creaciones a modificar los paradig-
mas científicos o se limitarán a elaborar informes científicos ru-
tinarios? Es esta una pregunta fundamental en lo que respecta
al futuro de la ciencia. Algunos, como el nóbel de física Philip
Anderson, opinan que la profundidad de tales cambios alcanza
niveles tan profundos que su automatización se antoja imposi-
ble. Por su parte, el también laureado Frank Wilczek ha escrito
que, de aquí a 100 años, el mejor físico será una máquina. El
tiempo lo dirá.
Sea como fuere, en el futuro veremos la colaboración de cien-
tíficos humanos y robóticos. El conocimiento se transcribirá en
el lenguaje de la lógica y se difundirá instantáneamente a tra-
vés de la Red. Y, poco a poco, los robots desempeñarán un pa-
pel cada vez más importante en el progreso científico.
PA R A S A B E R M Á S
Computing machinery and intelligence. A. M. Turing en Mind, vol. LIX, n.o 236, págs. 433-
460, octubre de 1950. http://loebner.net/Prizef/TuringArticle.html
How DENDRAL was conceived and born. Joshua Lederberg. ACM Symposium on the
History of Medical Informatics, National Library of Medicine, 5 de noviembre de 1987. http://
profiles.nlm.nih.gov/BB/A/L/Y/P/_/bbalyp.pdf
An introduction to the philosophy of science. Rudolf Carnap. Dirigido por Martin Gardner.
Dover, 1995.
The chemistry of life. Cuarta edición. Steven Rose. Penguin, 1999.
The automation of science. Ross D. King et al. en Science, vol. 324, págs. 85-89, 3 de abril
de 2009.
Marzo 2011, InvestigacionyCiencia.es 77
 xxxxxxxx

80  INVESTIGACIÓN Y CIENCIA, enero 2016

 robots
TECNOLOGÍA

e páticos Antes de que podamos compartir nuestras vidas

con máquinas, debemos enseñarlas a comprender
e imitar las emociones humanas
Pascale Fung

«Lo siento, Estas fueron tal vez las primeras palabras

no le he empáticas de una máquina comercial. A finales de los años no-
venta, la empresa de Boston SpeechWorks International comen-
oído». zó a suministrar un software de atención al cliente programa-
do para usar esta y otras frases semejantes. Durante el tiempo
transcurrido desde entonces, nos hemos acostumbrado a hablar
con máquinas. Casi todas las llamadas a una línea de atención
al cliente comienzan con una conversación con un robot. Cien-
tos de millones de personas llevan un asistente personal inteligente en su bolsillo. Podemos
pedir a Siri y a otros asistentes análogos que encuentren un restaurante, llamen a nuestros
amigos o busquen una canción y la reproduzcan. Tienen la capacidad de simular una conduc-
ta inquietantemente humana. (Humano: «Siri, ¿me quieres?» Siri: «No soy capaz de amar».)
Pero las máquinas no siempre responden como nos gustaría que lo hiciesen. El programa de
reconocimiento del habla comete errores. Las máquinas no suelen comprender las intenciones.
No captan ni emoción, ni humor, ni sarcasmo, ni ironía. Si en el futuro vamos a emplear más
tiempo interaccionando con ellas, sean aspiradoras inteligentes o enfermeras robóticas huma-
noides, necesitaremos que hagan algo más que entender nuestras palabras: nos tendrán que
interpretar. Dicho de otro modo, necesitaremos que nos «comprendan» y compartan nuestras
emociones. Que posean empatía.

EN SÍNTESIS

Cuando nos relacionemosmás con máquinas Para hacer posible tal comunicación,tenemos Las investigacionessobre robots empáticos están en sus co-
controladas por voz y gestos, confiaremos en que dotar a las máquinas con un módulo de em- mienzos, pero los científicos ya usan técnicas de tratamiento
que reconozcan nuestras emociones y com- patía, esto es, un software que extraiga señales de señales, algoritmos de aprendizaje automático y herra-
zohar lazar

prendan rasgos complejos de la comunicación, emocionales del habla y la conducta humanas mientas de análisis de sentimientos para crear robots vir-
como el humor, el sarcasmo y la intención. y dirija una respuesta acorde en un robot. tuales que puedan «comprender» las emociones humanas.

Enero 2016, InvestigacionyCiencia.es  81

 En mi laboratorio de la Universidad de Ciencia y Tecnología
de Hong Kong estamos desarrollando ese tipo de máquinas. Los
robots empáticos pueden ofrecer una gran ayuda a la sociedad.
No funcionarán como simples asistentes; serán compañeros.
Resultarán amistosos y amables, y se anticiparán a nuestras
necesidades físicas y emocionales. Aprenderán de sus interac-
ciones con los humanos. Mejorarán nuestra vida y harán más
eficiente nuestro trabajo. Se disculparán por sus errores y pedi-
rán permiso antes de actuar. Cuidarán de las personas mayores
y enseñarán a nuestros hijos. Podrían incluso salvar nuestra vida
en situaciones críticas sacrificándose ellos mismos en esa acción,
lo que representaría un acto de suprema empatía.
Ya existen en el mercado algunos robots que imitan las emo-
ciones. Uno de ellos es Pepper, un pequeño humanoide construi-
do por la empresa francesa Aldebaran Robotics para la compañía
japonesa Softbank Mobile; y Jibo es un robot asistente personal
de sobremesa de tres kilogramos diseñado por un grupo de
ingenieros, entre ellos Roberto Pieraccini, antiguo director de
técnicas de diálogo en SpeechWorks. El campo de la robótica
empática se halla aún en sus inicios, pero van surgiendo herra-
mientas y algoritmos que mejorarán sumamente estas máquinas.
El módulo de empatía
Comencé a pensar en crear un robot empático hace seis años,
cuando mi grupo diseñó el primer equivalente chino de Siri. Me
fascinaba la naturalidad con la que los usuarios reaccionaban
emocionalmente hacia los sistemas de asistencia personal, y la
frustración que sentían cuando estos no comprendían lo que
estaban intentando comunicarles. Me di cuenta de que la clave
para construir máquinas que entendieran las emociones era
crear algoritmos de reconocimiento del habla como los que había
estado desarrollando durante mis 25 años de carrera profesional.
El núcleo de cualquier máquina inteligente es un sistema de
software formado por módulos, cada uno de los cuales corres-
ponde a un programa que realiza una única tarea. Un robot inteli-
gente podría constar de un módulo para el tratamiento del habla
humana, otro para reconocer objetos en imágenes captadas por
su cámara de vídeo, y así sucesivamente. Un robot empático tiene
«corazón», esto es, un fragmento de software llamado módulo
de empatía. Este analiza señales faciales, indicadores acústicos
en el habla y el contenido de esta para descifrar las emociones
humanas e indicar al robot cómo debe responder.
Cuando dos personas se comunican entre sí, usan de forma
automática diversas señales para comprender el estado emocional
del otro. Interpretan los gestos faciales y el lenguaje corporal,
perciben cambios en el tono de voz y comprenden el contenido
del lenguaje oral. La elaboración de un módulo de empatía con-
siste en identificar características de la comunicación humana
que puedan usar las máquinas para reconocer las emociones y,
a continuación, entrenar a los algoritmos para que las detecten.
Cuando mi equipo se dispuso a enseñar a las máquinas a
reconocer emociones en el lenguaje oral, además del significado
de las propias palabras, decidió entrenarlas para que identifi-
caran rasgos acústicos fundamentales del habla, porque así es
como actúan los humanos. Casi nunca pensamos sobre ello en
estos términos, pero la comunicación humana se basa en un
procesamiento de señal. Nuestro cerebro detecta la emoción en
la voz de una persona prestando atención a señales acústicas
que indican estrés, alegría, miedo, enfado, repugnancia y otras
emociones. Cuando estamos alegres, hablamos con mayor ra-
pidez y se eleva el tono de nuestra voz. Si estamos estresados,
nuestra voz se vuelve apagada y seca. Los ordenadores pueden
82  INVESTIGACIÓN Y CIENCIA, enero 2016
Pascale Funges profesora de ingeniería informática
y electrónica en la Universidad de Ciencia y Tecnología
de Hong Kong. Fue elegida miembro del Instituto de
Ingenieros Eléctricos y Electrónicos y de la Asociación
Internacional de Comunicación Oral por sus
contribuciones a las interacciones entre máquinas
y humanos.
detectar estas señales mediante técnicas de tratamiento de señal,
al igual que un polígrafo capta la presión arterial, el pulso y la
conductividad de la piel. Para identificar el estrés, utilizamos
un aprendizaje supervisado para entrenar a los algoritmos de
aprendizaje automático en el reconocimiento de señales sonoras
que se correlacionaran con el estrés.
Aunque una breve grabación de habla humana contenga solo
algunas palabras, de ella puede extraerse una enorme cantidad
de datos para tratamiento de señal procedente del tono de voz.
Comenzamos por enseñar a las máquinas a reconocer el estrés
negativo (angustia) en muestras de habla correspondientes a
estudiantes de mi institución, a la que ellos han apodado «Uni-
versidad de Estrés y Tensión de Hong Kong». Elaboramos el
primer corpus multilingüe de la emoción natural de estrés en
inglés, mandarín y cantonés al plantear a los estudiantes doce
preguntas con un grado de estrés cada vez mayor. Cuando ha-
bíamos recopilado unas diez horas de datos, nuestros algoritmos
podían reconocer el estrés con una precisión del 70 por ciento,
lo que resultó notablemente similar a una audición humana.
Mientras realizábamos esa tarea, otros miembros de mi grupo
entrenaron a máquinas en el reconocimiento del estado de ánimo
en piezas musicales mediante el análisis de las características del
sonido solamente (es decir, sin prestar atención a la letra). El es-
tado de ánimo, a diferencia de las emociones, es una cualidad que
permanece a lo largo de toda la pieza de música que se interpreta.
Mis colaboradores comenzaron recogiendo 5000 piezas musicales
de todos los géneros en las principales lenguas europeas y asiáti-
cas. Unos musicólogos ya habían clasificado algunos centenares
de esas piezas en 14 categorías de estados de ánimo.
Extrajimos electrónicamente unos mil atributos fundamenta-
les de señal en cada canción (parámetros acústicos como energía,
frecuencia fundamental, armónicos). A continuación, usamos
la música catalogada para entrenar a catorce «clasificadores»
de software. Cada uno era responsable de determinar la perte-
nencia de una pieza musical a un estado de ánimo concreto. Por
ejemplo, un clasificador escucha solo música alegre y otro solo
melancólica. Los catorce trabajan en conjunto, basándose en las
suposiciones de los otros. Si un clasificador «alegre» determina
por error que una canción melancólica es alegre, en el siguiente
turno de reaprendizaje se volverá a entrenar a este clasificador.
En cada turno, se somete al clasificador más débil a un nuevo en-
trenamiento, y se mejora así el sistema global. De esta forma, la
máquina escucha muchas piezas musicales y aprende qué estado
de ánimo le corresponde a cada una. A su vez, puede adivinar el
de cualquier otra canción simplemente escuchando la melodía
musical, como hacemos la mayoría de nosotros. Basándonos en
estas investigaciones, junto con antiguos estudiantes fundamos
la empresa Ivo Technologies para construir máquinas empáti-
cas de uso doméstico. El primer producto, Moodbox, será un
centro doméstico inteligente de información y entretenimiento
que controla la música y la iluminación de cada habitación y
responde a las emociones del usuario.
 Entender la intención
Para captar el humor, el sarcasmo, la ironía y otros atributos de
comunicación de alto nivel, una máquina tendrá que hacer algo
más que reconocer las emociones a partir de características acús-
ticas. También necesitará comprender el significado subyacente
del habla y contrastarlo con la emoción con la que se ha emitido.
El reconocimiento avanzado del habla a partir de datos obte-
nidos en humanos viene desarrollándose desde los años ochenta.
Aunque hoy la técnica está bastante adelantada, existe una gran
diferencia entre la transcripción del habla y su comprensión.
Pensemos en la serie de sucesos cognitivos, neurológicos y
musculares que tiene lugar en un diálogo. Una persona elabora
sus pensamientos, escoge sus palabras y habla, tras lo cual el
oyente descodifica el mensaje. La cadena de comunicación entre
máquina y humanos sucede así: las ondas del habla se con-
vierten en forma digital y después en parámetros; el programa
de reconocimiento del habla los transforma en palabras y un
descodificador semántico asigna a estas un significado.
Cuando comenzamos nuestro estudio sobre robots empáti-
cos, nos dimos cuenta de que algunos algoritmos similares a los
que extraen impresiones del usuario a partir de sus comentarios
en Internet nos podrían ayudar a analizar las emociones en el
habla. Estos algoritmos de aprendizaje automático buscan se-
ñales expresivas en el contenido. Palabras fundamentales como
«pena» y «miedo» sugieren soledad. El uso repetido de vocablos
coloquiales expresivos (como «vaya») puede indicar que el men-
saje es enérgico. También analizamos información sobre el estilo
del habla. ¿Son las respuestas de una persona claras y seguras,
o son dubitativas, salpicadas con pausas y palabras evasivas?
¿Son elaboradas y detalladas, o cortas y secas?
En nuestro estudio sobre el reconocimiento del estado de
ánimo en la música, hemos entrenado a los algoritmos a buscar
señales emocionales en letras de canciones. En lugar de extraer
patrones de audio de cada pieza, extrajimos cadenas de palabras
de su letra y se las presentamos a distintos clasificadores. Cada
uno se encargaba de determinar si tales cadenas, denominadas
n-gramas, transmitían alguno de los 14 estados de ánimo. Ade-
más de las cadenas de palabras, usamos también etiquetados
gramaticales de esos vocablos, como parte característica de la
letra de la canción, para clasificar el estado de ánimo. Los orde-
nadores pueden usar n-gramas y etiquetados gramaticales para
establecer aproximaciones estadísticas de reglas gramaticales en
cualquier lengua. Estas reglas ayudan a programas como Siri en
el reconocimiento del habla y a software como Google Translate
en la traducción de un texto a otra lengua.
Una vez que una máquina logra comprender el contenido
del lenguaje oral, puede comparar ese contenido con la forma
en que se transmite. Si una persona suspira y dice «Estoy tan
contento de tener que trabajar todo el fin de semana», un algo-
ritmo puede detectar la diferencia entre las señales emocionales
y el contenido de la frase y calcular la probabilidad de que el
orador esté siendo sarcástico. De forma similar, una máquina
que puede comprender la emoción y el contenido del habla
puede relacionar esa información con otras aportaciones para
identificar intenciones más complejas. Si alguien dice «Tengo
hambre», un robot puede determinar cuál es la mejor respuesta
basándose en su ubicación, hora del día y preferencias históricas
de su usuario, junto con otros parámetros. Si el robot y su usua-
rio están en casa y es casi la hora de comer, el primero podría
responder: «¿Te gustaría que te preparase un bocadillo?». Si
ambos están de viaje, la máquina podría proponer: «¿Te gustaría
que buscase un restaurante?».
Zara, la Supergirl
A principios del año pasado, estudiantes e investigadores pos-
doctorales de mi laboratorio comenzaron a integrar nuestros
módulos de reconocimiento de habla y emociones en un proto-
tipo de máquina empática a la que bautizamos Zara la Super-
girl. Su entrenamiento costó cientos de horas de datos, pero
actualmente el programa se ejecuta en un simple ordenador de
sobremesa. Por el momento es un robot virtual, representado
en la pantalla por un personaje de dibujos animados.
Cuando se inicia una conversación con Zara, ella dice: «Por
favor, espere mientras analizo su cara». Los algoritmos estudian
las imágenes captadas por la cámara del ordenador para deter-
minar género y raza de su interlocutor. Seguidamente, adivinará
cuál es el idioma que habla (Zara habla inglés y mandarín y está
aprendiendo francés) y le formulará algunas preguntas en dicha
lengua. «¿Cuál es su primer recuerdo?» «Cuénteme algo sobre
su madre.» «¿Cómo fueron sus últimas vacaciones?» «Cuénteme
una historia con una mujer, un perro y un árbol.» A través de
este proceso y basándose en sus expresiones faciales, las caracte-
rísticas acústicas de su voz y el contenido de sus respuestas, Zara
contestará de un modo que imitará la empatía. Al cabo de cinco
minutos de conversación, intentará adivinar su personalidad y le
preguntará sobre sus opiniones hacia las máquinas empáticas.
Esta es nuestra forma de obtener información de las personas
cuando interaccionan con los primeros robots empáticos.
Zara es un prototipo, pero se volverá más inteligente y más
empática a medida que interaccione con más gente y recoja más
datos, ya que se basa en algoritmos de aprendizaje automático.
Actualmente su base de datos de conocimiento se basa solo en
interacciones con los estudiantes de posgrado en mi laboratorio.
Para este año planeamos dotar a Zara de un cuerpo instalándola
en un robot humanoide.
Sería prematuro afirmar que ha llegado la era de los robots
amigables. Estamos solo comenzando a desarrollar las herra-
mientas más básicas que necesitarían los robots emocionalmen-
te inteligentes. Cuando los descendientes de Zara comiencen a
llegar al mercado, no deberíamos esperar que sean perfectos.
De hecho, he llegado a la conclusión de que el objetivo no con-
siste en crear máquinas perfectamente exactas y eficientes. Lo
importante es que nuestras máquinas se vuelvan más humanas,
aunque tengan defectos. Después de todo, así es como actuamos
los humanos. Si lo hacemos bien, las máquinas empáticas no
serán los robots dominantes que suscitan temor en algunas
personas. Se convertirán en nuestros cuidadores, nuestros pro-
fesores y nuestros amigos.
PARA SABER MÁS
A multilingual database of natural stress emotion.Xin Zuo, Tian Li y Pascale
Fung. Presentado en la Octava Conferencia Internacional sobre Evaluación
y Recursos del Lenguaje (LREC 2012), Estambul, 21-27 mayo de 2012.
Multimodal music emotion classification using AdaBoost with decision
stumps.Dan Su, P. Fung y N. Auguin. Presentado en la Conferencia
Internacional sobre Acústica, Habla y Tratamiento de Señal del IEEE en 2013
(ICASSP 2013), Vancouver, 26-31 mayo de 2013.
en nuestro archivo
Mi amigo robot.Miriam Ruhenstroth en MyC n.o 45, 2010.
Ética para robots.Michael Anderson y Susan Leigh Anderson en IyC, diciembre
de 2010.
Dónde están los robots parlantes.Joshua K. Hartshorne en MyC n.o 57, 2012.
Enero 2016, InvestigacionyCiencia.es  83
Títulos disponibles en tu quiosco
 Suscríbete a la versión DIGITAL
de nuestras publicaciones y accede
a la hemeroteca completa (en pdf)*

www.investigacionyciencia.es
* Ejemplares de IyC disponibles desde 1985 y el archivo completo de MyC, TEMAS y CUADERNOS
El futuro de la fabricación

18  INVESTIGACIÓN Y CIENCIA, agosto 2013


Mi jefe
robot
A su servicio:
Baxter posee dos brazos y una red de
sensores. Ello hace que sea más fácil
de programar y más seguro de manejar
que los anteriores robots industriales.
El futuro de la fabricación
el
En el futuro, robots
y seres humanos
trabajarán codo con codo.
Adivine quién dará
las órdenes
David Bourne
C uando Michael Dawson-Haggerty
irrumpió en mi despacho ataviado con
su chaqueta de soldadura verde lima en-
negrecida y con una gran sonrisa, ense-
guida supe que lo habían conseguido. Él
y su compañero se habían propuesto soldar el armazón
de un Humvee (un vehículo militar muy usado en Irak y
Afganistán) más deprisa que un equipo de expertos con
décadas de experiencia.
Aquel era el primer cometido de Dawson-Haggerty, quien, con su máster
recién completado, acababa de incorporarse al equipo de ingenieros del Ins-
tituto de Robótica de la Universidad Carnegie Mellon. Al principio el joven
se había mostrado algo nervioso; pero, a decir verdad, lo que más me preo-
cupaba de él era su acompañante: muy fiable, pero carente de las habilida-
des de un ser humano.
Agosto 2013, InvestigacionyCiencia.es  19
El futuro de la fabricación

Su compañero de proyecto era un robot: uno

semejante a las enormes máquinas industria-
les que solemos asociar a las cadenas de mon-
taje de la Ford o de General Motors. Sin em-
bargo, mientras que esos monstruos mecánicos
trabajan encerrados en jaulas para mantener
a salvo a sus compañeros humanos, nosotros
habíamos modificado a Spitfire (un robot sol-
dador de cuatro metros de altura, provisto de
un solo brazo y equipado de visión por láser)
para que trabajase junto a un ingeniero. Y no
era Spitfire el que recibía órdenes de Dawson-
Haggerty. El robot solía dictar qué pasos de-
bían tomarse, mientras que la compleja labor
de situar las piezas en el lugar correcto y sol-
darlas se repartía entre uno y otro según la pe-
ricia de cada cual. A menudo, era el robot quien
llevaba la batuta.
Gracias a esta división del trabajo, Dawson-
Haggerty y su compañero robótico construye-
ron el armazón en diez horas por 1150 dólares,
un precio que incluía la materia prima y la Dúo singular:Dividir el trabajo con inteligencia mejora la eficiencia.
mano de obra. Por su parte, los expertos con- El ingeniero Dawson-Haggerty, de Carnegie Mellon, fija en su sitio una placa
tratados como grupo de referencia realizaron de acero (izquierda) antes de que el robot la suelde con precisión (derecha).
la misma labor en 89 horas y nos facturaron
7075 dólares.
La posibilidad de compartir tareas entre humanos y máqui- za en pequeños lotes ajustados a la demanda, el tiempo reque-
nas abre fantásticas perspectivas económicas. La compleja con- rido para readaptar todos los procesos mecánicos genera gran-
figuración de numerosas cadenas de montaje podría suprimirse, des atascos. Adecuar los robots a una nueva tarea puede llegar
lo que conllevaría un ahorro de miles de millones en costes de a tardar varios meses, pues hay que planificar la secuencia de
instalación. A la hora de modificar un producto muy extendido soldaduras, amarrar las piezas, programar el robot, preparar el
—ya se trate de un dispositivo electrónico o de una pieza de material de reserva y optimizar todos los parámetros.
aeronáutica—, un equipo formado por humanos y robots po- Un equipo formado por un robot y un ingeniero puede ace-
dría hacerlo sin necesidad de rediseñar sus herramientas. Las lerar enormemente el proceso. En el pasado, los programadores
nuevas actualizaciones demandadas por los usuarios podrían debían incluir un código informático específico que explicase al
atenderse en semanas, no años. Además, un entorno de trabajo robot cómo moverse. Hoy en día, basta con un fichero de dise-
caracterizado por constantes nuevos retos incentivaría a los ño asistido por ordenador (CAD) para establecer una cadena de
trabajadores. Por estas y otras razones, habremos de aceptar montaje inteligente. Después, unos cuantos algoritmos traducen
que, más que como esclavos, los robots acabarán siendo más esos diseños en una lista de tareas para el robot.
eficaces como supervisores. Pero organizar la cadena de montaje no constituye ni mucho
menos el único desafío para conjugar humanos y máquinas. Has-
MANTENER LA CALMA ta ahora, conseguir que ambos compartiesen el mismo espacio
Existe un amplio debate en torno a la definición exacta del tér- de trabajo no ha sido tarea sencilla. Los robots industriales se

DORON GILD (páginas anteriores); CORTESÍA DEL INSTITUTO DE ROBÓTICA, UNIVERSIDAD CARNEGIE MELLON
mino robot. Los expertos en robótica lo definen como una má- desplazan de un lugar a otro e insisten en llegar siempre a su
quina capaz de percibir estímulos, tomar decisiones y actuar destino. Están programados para repetir su tarea una y otra vez
de manera autónoma. Esto no es del todo cierto: un termosta- hasta que se agoten las piezas. Si un objeto rígido les impide
to doméstico cumple todos esos requisitos, pero no convierte a moverse, entran en condición de error y se desactivan. Desde
nuestra casa en un robot. La diferencia reside en que el termos- luego, esa opción resulta preferible a la de atravesar la cabeza
tato solo desempeña una pequeña parte de las tareas de mante- de un operario, pero ni una ni otra son de demasiada ayuda.
nimiento del hogar. Solo cuando las funciones robóticas sirven Piense en cuánto trabajo sería capaz de sacar adelante una fá-
al cometido principal de un objeto puede este considerarse un brica si dos trabajadores se quedasen petrificados cada vez que
robot. Así ocurre, por ejemplo, con un automóvil sin conductor se acercan demasiado.
que emplea sensores e inteligencia artificial para desplazarse La próxima generación de robots industriales será completa-
(la función principal de un vehículo). mente segura para las personas. Si un robot tropieza con alguien,
Los fabricantes llevan más de medio siglo usando robots para el golpe no será ni siquiera peligroso. Las máquinas podrán
automatizar la producción. Sin embargo, estos siempre han sido percatarse de los individuos que las rodean y comunicarse con
diseñados con un fin específico en mente, como soldar las jun- ellos mediante sonidos, gestos, expresiones «faciales», textos
tas en una cadena de montaje. A los humanos correspondía or- y gráficos.
ganizar y ajustar esa cadena, a fin de aprovechar al máximo la Ya se están fabricando robots adaptados a las necesidades
potencia y precisión robóticas. de la manufactura moderna. Spitfire se basa en un diseño ori-
Ese proceso da buenos resultados cuando se construyen de- ginal de ABB, una compañía de Zúrich, al cual le hemos incor-
cenas de miles de vehículos. Pero si la fabricación se personali- porado funciones adicionales en Carnegie Mellon. ABB ofrece

20  INVESTIGACIÓN Y CIENCIA, agosto 2013


también un robot de dos brazos, Frida, concebido para funcio-
nar con plena seguridad entre trabajadores humanos.
Rethink Robotics, una empresa de Boston creada por Rodney
Brooks, cofundador de iRobot, ha desarrollado el robot Baxter,
también dotado de dos brazos. Gracias a una red de sensores,
programar a Baxter resulta muy sencillo: un operador lo va
guiando manualmente a través de una serie de movimientos que
la máquina repetirá después. Esta hazaña es posible gracias a un
conjunto de algoritmos simples de aprendizaje y procesamiento
de imagen. Si el operador muestra a Baxter cómo seleccionar
y retirar piezas de una cinta transportadora, el robot aprende-
rá a hacerlo aun cuando las piezas no se sucedan de manera
ordenada.
La compañía californiana Willow Garage ha creado el mode-
lo de robot móvil PR2, equipado con dos brazos, cabeza y una
red de sensores. Al igual que Frida y Baxter, fue concebido para
trabajar con total seguridad junto a las personas. En Carnegie
Mellon lo utilizamos para servir bebidas y aperitivos a los visi-
tantes, una acción que suele desarrollarse en entornos relati-
vamente caóticos.
TRATO DIFERENCIAL
Spitfire no solo aprende de las personas, sino que posee la in-
teligencia suficiente para instruirlas. Descompone cada gran
proyecto en pequeñas etapas y reparte las tareas atendiendo a
quién las ejecutará con mayor rapidez, el robot o un humano,
sin importar de quién se trate.
CORTESÍA DEL INSTITUTO DE ROBÓTICA, UNIVERSIDAD CARNEGIE MELLON
La colaboración entre Dawson-Haggerty y Spitfire comenzó
con una «lista de la compra» de los materiales necesarios. Esta
fue elaborada a partir de la descripción del armazón metálico
proporcionada por el fichero CAD. Después, el robot planificó
qué piezas había que encargar a los proveedores, así como la
manera de cortar los tubos de acero estandarizados. Por último,
eligió la secuencia de operaciones más apropiada y especificó
el mejor modo de sostener las piezas para que se mantuvieran
fijas durante el proceso de soldadura.
También hemos equipado a Spitfire con un proyector en mi-
niatura que le permite presentar imágenes y textos directamente
sobre el armazón. Dichas imágenes se convierten en una espe-
cie de realidad aumentada: con ellas, el robot señalaba a Daw-
son-Haggerty cómo organizar paso a paso el
complejo proceso de fabricación, dónde había
que situar cada pieza y en qué orden debían
sucederse las soldaduras. Dawson-Haggerty se
encargaba de colocar todo en su sitio. En este
caso, un humano constituía la mejor opción
para llevar a cabo lo que podríamos llamar la
parte «no cualificada» del trabajo, ya que las
piezas pesaban relativamente poco y, dada su
diversidad de formas, podían ser manipuladas
con facilidad por una persona.
Spitfire se valía de su sensor láser para ob-
tener una representación tridimensional del
espacio de trabajo y cerciorarse de que las pie-
zas guardaban la alineación correcta. Gracias a
dicho sensor y al proyector, el robot podía se-
ñalar los distintos puntos del armazón y guiar
el trabajo de Dawson-Haggerty.
Una vez dispuestas todas las piezas en su
posición correcta, el robot relevó al humano
y se hizo cargo de las soldaduras. Spitfire no
solo trabaja con una rapidez enorme (puede
realizar una soldadura de varios centímetros de espesor en tan
solo cinco segundos), sino que sus resultados son excelentes.
Por regla general, un soldador experto debe programar al robot
antes de cada trabajo y proporcionarle unos 20 parámetros clave,
como el voltaje, la velocidad de soldadura y el ritmo al que tiene
que proveerse de hilo. En cambio, en nuestro experimento ins-
truimos a Spitfire para que efectuase varias pruebas por sí solo
a fin de optimizar dichos parámetros. A medida que avanzaban
los experimentos, el robot comparaba los resultados de los dife-
rentes intentos y reajustaba su configuración en consecuencia.
Al final, aprendió sin ayuda todos los trucos para convertirse
en un soldador experto.
Teniendo en cuenta que el armazón requería 400 soldaduras,
las cualidades de Spitfire supusieron una enorme ventaja. Con
todo, ningún robot es perfecto. Había puntos a los que Spitfire
no podía acceder con facilidad. En tales casos, indicaba a Daw-
son-Haggerty la manera de proceder.
CON LAS LUCES ENCENDIDAS
La adopción de nuevas técnicas de fabricación suele llevar tiem-
po, por lo que resulta difícil predecir cuándo veremos los prime-
ros equipos de humanos y máquinas en los talleres. No obstante,
cabe pronosticar avances notables durante los próximos cinco
años. Nuestra idea de cómo será la industria del futuro se antoja
muy distinta de las fábricas de «luces apagadas» imaginadas
por Kurt Vonnegut para su novela La pianola (1952), donde las
máquinas trabajaban solas. En su obra, la robotización torna
obsoleto el trabajo manual, lo que provoca que muchos acaben
sintiendo su vida vacía. Sin duda, una senda tan inaceptable
como innecesaria.
Una mejor manera de progresar sería que robots y humanos
cooperasen en equipos en los que cada uno llevase a cabo la ta-
rea más adecuada a sus capacidades. Parece razonable esperar
que aún podremos sentirnos satisfechos de tomar parte en el
proceso de fabricación, aunque en ocasiones ello implique aca-
tar las órdenes de una máquina.
David Bourne es científico de sistemas en el Instituto de Robótica
de la Universidad Carnegie Mellon.
Agosto 2013, InvestigacionyCiencia.es  21

PARA ROBOTS
Las máquinas autónomas no tardarán en desempeñar
un papel importante en nuestras vidas.
Antes o después, deberán tomar decisiones éticas
Michael Anderson y Susan Leigh Anderson
CONCEPTOS BASICOS
n Robots que tomen decisiones
autónomas, como los diseña-
dos para auxiliar a personas
mayores, pueden tener que
afrontar dilemas éticos incluso
en situaciones cotidianas.
n Una forma de aceptar el
comportamiento de los robots
consistiría en programarlos con
principios éticos generales y
dejar que, en cada caso, toma-
sen decisiones basadas en tales
principios.
n La inteligencia artificial permite
que, mediante inducciones
lógicas, una máquina abstrai-
ga tales principios a partir de
casos concretos de conductas
éticamente aceptables.
56 INVESTIGACION Y CIENCIA, diciembre, 2010
ETICA
U
n escenario apocalíptico clásico
de la ciencia ficción es aquel en
que las máquinas adquieren in­
teligencia y, carentes de reparos
morales, se lanzan a nuestra des­
trucción. Desde luego, los robots actuales se
diseñan con la finalidad de ayudarnos. Pero,
por extraño que parezca, son numerosos los
dilemas éticos a los que un robot puede llegar
a enfrentarse.
Imagine por un momento ser residente de
un geriátrico, lugar donde los robots no tar­
darán en convertirse en una ayuda habitual.
Son casi las 10 de la mañana y usted le pide
al robot asistencial que le traiga el mando
del televisor, ya que desea ver las noticias.
Otro residente, sin embargo, desea ver un
concurso. El robot opta por entregarle a él el
mando. Usted se queja, pero el robot le explica
que, el día anterior, fue usted quien tuvo la
oportunidad de ver su programa favorito. Esta
anécdota plantea una situación corriente que
requiere una decisión ética, algo de dificultad
extraordinaria para una máquina.
Si bien el supuesto descrito es aún hipo­
tético, hemos logrado diseñar lo que, hasta
donde sabemos, constituye el primer modelo
de un robot capacitado para adoptar decisio­
nes similares. Nuestra máquina cuenta con
un principio ético al que recurre para deter­
minar con qué frecuencia ha de recordarle a
un enfermo que debe tomar su medicación.
Su programación le permite elegir entre unas
pocas opciones, como seguir recordándole al
paciente qué medicamento debe tomar y cuán­
do ha de hacerlo, o bien aceptar su negativa
si el paciente rehúsa.
Resulta harto difícil, si no imposible, pre­
ver todas las decisiones que un robot habrá
de tomar y programarlo para que reaccione
de la manera deseada en todas las situacio­
nes concebibles. Por otra parte, impedir de
forma sistemática que un robot actúe ante
cualquier situación con implicaciones éticas le
impediría realizar numerosas tareas de enorme
utilidad.
La solución pasa por diseñar robots capaces
de aplicar principios éticos en situaciones nue­
vas e imprevistas. Además, este enfoque ofrece
la ventaja de que los robots podrían aludir a
dichos principios si hubieran de justificar su
comportamiento, algo esencial para que los
humanos se sientan cómodos junto a ellos.
Por último, el diseño de robots dotados de
principios éticos podría conducir a avances en
el campo de la ética, ya que obligaría a los filó­
sofos a replantearse los fundamentos éticos de
numerosas situaciones cotidianas. En palabras
de Daniel C. Dennett, profesor de filosofía de
la Universidad Tufts: “La inteligencia artificial
fuerza a la filosofía a ser honesta”.
FOTOGRAFIA DE DARREN BRAUN
Yo, robot
Los robots autónomos no tardarán en integrar­
se en nuestras vidas. Ya existen aviones que
vuelan solos y automóviles autoguiados en fase
de desarrollo. También los hogares inteligentes,
gobernados por ordenadores que controlan
1. NAO, fabricado por Aldebaran Robotics, es el primer robot
programado con un principio ético.

INVESTIGACION Y CIENCIA, diciembre, 2010 57


Los autores
Michael Anderson se doctoró
en la Universidad de Connecticut
y es profesor de informática en la
Universidad de Hartford. Susan
Leigh Anderson es doctora por
la Universidad de California en
Los Angeles y profesora emérita
de filosofía en la Universidad de
Connecticut. Especializada en
ética aplicada, en 2005 ella y
Michael Anderson contribuyeron
a organizar el primer simposio
internacional sobre ética artificial.
58 INVESTIGACION Y CIENCIA, diciembre, 2010
desde la iluminación hasta la climatización de
la vivienda, pueden entenderse como robots
cuyo cuerpo es la casa entera.
Varias compañías se hallan desarrollando
robots concebidos para ayudar a ancianos en
sus quehaceres diarios. Aunque tales robots
no han de tomar decisiones de vida o muerte,
para que sus acciones sean bien recibidas, las
mismas deben percibirse como imparciales,
correctas o, sencillamente, amables. Por ello,
los diseñadores de robots deberían considerar
las ramificaciones éticas de sus programas.
Si aceptamos que la clave del éxito en su
interacción con los humanos reside en que
las máquinas autónomas incorporen princi­
pios éticos, la primera pregunta es: ¿cuáles
habrían de ser esos principios? Es probable
que los amantes de la ciencia ficción piensen
que Isaac Asimov ya halló la respuesta hace
bastantes años. En su relato Círculo vicioso
(publicado en 1942 e incluido en 1950 en
su obra Yo, robot), Asimov enunciaba sus tres
leyes de la robótica:
1. Un robot no debe dañar a un ser hu-
mano o, por su inacción, dejar que un
ser humano sufra daño.
2. Un robot debe obedecer las órdenes
que le son dadas por un ser humano,
excepto si dichas órdenes entran en
conflicto con la Primera Ley.
3. Un robot debe proteger su propia
existencia, siempre y cuando dicha
protección no entre en conflicto con
la Primera o la Segunda Ley.
Sin embargo, al reflexionar sobre las con­
secuencias de estas tres leyes se observan in­
coherencias. Ya el propio Asimov las puso de
manifiesto en El hombre del bicentenario, de
1976: unos matones ordenan a un robot que
se desmonte a sí mismo. En virtud de la Se­
gunda Ley, el robot ha de obedecerles, y no
puede actuar en defensa propia sin causarles
daño, pues infringiría la Primera.
Si las leyes de Asimov no bastan, ¿hay alter­
nativas? Hay quienes opinan que implementar
comportamientos éticos en una máquina su­
pone un objetivo inalcanzable. La ética, afir­
man, no es computable y, por tanto, resulta
imposible de programar.
Sin embargo, ya en el siglo xix los filósofos
Jeremy Bentham y John Stuart Mill sostenían
que la adopción de decisiones éticas no es sino
fruto de cierta “aritmética moral”. Su doctri­
na del utilitarismo hedonista, formulada en
oposición a una ética basada en la intuición
subjetiva, sostiene que la acción correcta es
aquella con más posibilidades de resultar en
el máximo “placer neto”. Este se calcularía
sumando las “unidades de placer” y restando
las “unidades de sufrimiento” experimentadas
por todos los afectados en una decisión. La
mayoría de los filósofos pone en tela de juicio
que semejante teoría logre dar cuenta de todas
las dimensiones de la ética. Por ejemplo, resulta
difícil dar cabida en ella a consideraciones de
justicia, y puede llevar a que un individuo sea
sacrificado en beneficio de una mayoría. Pero,
al menos, pone de manifiesto que una teoría
ética plausible es, en principio, computable.
Otros cuestionan la posibilidad de que una
máquina llegue a tomar decisiones éticas ya
que, al carecer de emociones, le es imposible
hacerse cargo de los sentimientos de los indivi­
duos. Pero los humanos somos tan propensos
a dejarnos arrastrar por nuestras emociones
que, a menudo, nos comportamos de forma
poco o nada ética. Esta particularidad, sumada
a la tendencia de actuar en favor propio o
de nuestros seres queridos, hace que nuestras
decisiones suelan distar mucho de ser ideales
en su dimensión ética. En nuestro parecer, y
aun cuando una máquina carezca de emo­
ciones, debería ser posible diseñar un robot
que, adiestrado de la manera adecuada, actuara
de modo imparcial, percibiera las emociones
humanas y las incluyera en sus cálculos.
Enseñanza práctica
Si se admite la posibilidad de dotar a los robots
de pautas éticas, ¿cuáles habrían de ser éstas?
La pregunta es compleja. A fin de cuentas,
tampoco para los humanos ha conseguido nadie
formular un sistema general de principios éticos
que goce de aceptación universal. Sin embargo,
una máquina se caracteriza por haber sido crea­
da para operar en dominios específicos. La tarea
de determinar los parámetros éticos relevantes
en una situación concreta resulta mucho menos
abrumadora —y ambiciosa— que el objetivo de
fijar normas éticas de carácter universal, que es
la manera en la que los filósofos suelen afrontar
la cuestión. Además, en el tipo de circunstan­
cias en las que un robot habría de actuar, la
mayoría de éticos y filósofos se hallarían de
acuerdo a la hora de determinar qué acciones
son éticamente permisibles y cuáles no. Cuando
no existiese tal acuerdo, somos de la opinión
de que no debería permitirse en absoluto que
las máquinas tomasen decisiones autónomas.
Los métodos que se han propuesto para
que una máquina derive normas de compor­
tamiento son varios. En general, los mismos
se fundamentan en técnicas de inteligencia
artificial (IA). En 2005, Rafal Rzepka y Kenji
Araki, de la Universidad Hokkaido, en Japón,
propusieron algoritmos “de decisión democrá­
tica” que efectúan búsquedas masivas en la Red
para indagar acerca de lo que, desde un punto
de vista ético, se ha considerado aceptable en
 EL PRIMER ROBOT ETICO

Código de conducta
En su interacción con las personas, los robots deberán adoptar
decisiones con implicaciones éticas. Ante la imposibilidad de prever
todos los dilemas que una máquina encontrará, la solución pasa por
dotarla de principios generales que la faculten para tomar decisiones
en cada caso. Los autores han implementado esta idea en el robot
Nao: su programación le permite decidir cuándo y cómo debe recor-
dar a un paciente la toma de un medicamento.

Imposición de normas
Se puede programar un principio
ético en un robot mediante el empleo
del aprendizaje automático, una
técnica de inteligencia artificial.
A un algoritmo se le proporciona
información sobre las opciones que
se consideran éticas en casos éticos
Criterios
ejemplares a partir de índices como
cuánto beneficio se obtendrá, cuánto
Alto bien
daño se evitará o una medida de su Hace r el Robot en acción
imparcialidad. Después, el algoritmo ños
abstrae un principio general aplicable Evitar da
rcial
a casos nuevos. Ser impa

En esta situación,
Bajo
el principio ético induce
C as o 1 al robot a llevar el
medicamento y posponer
ético
vs. Principio otras tareas.

n ética
Elecció
¿Qué hacer?
C as o 2 Ante un dilema, un asistente robótico
para personas mayores podría consi-
vs. derar las acciones posibles, ver en
o
Algoritm qué medida se atienen a criterios éti-
tica a p re n dizaje cos y, en función de dicha valoración,
Ele cción é d e
tico
automá determinar la acción prioritaria en
cada caso. Por ejemplo, aunque un
C as o 3 residente le solicite un tentempié
y otro el mando a distancia, el robot
vs. decidirá que lo primero que ha de ha-
cer es recordarle a un paciente que
n ética debe tomar su medicación.
Elecció

el pasado. Después, aplican análisis estadísticos
y, a partir de ellos, formulan soluciones a pro­
blemas nuevos. En 2006, Marcello Guarini, de
la Universidad Windsor, en Ontario, propuso
el entrenamiento de redes neuronales (sistemas
inspirados en el funcionamiento del cerebro y
que aprenden a procesar información cada vez
ILUSTRACION DE PETER Y MARIA HOEY
obligaciones prima facie (“a primera vista”). Se
trata de aquellas que, en principio, siempre
deberíamos esforzarnos en cumplir, si bien en
ciertas ocasiones requieren ser postergadas en
favor de otras. Por ejemplo, todos coincidiremos
en que hemos de mantenernos fieles a nuestras
promesas, pero ninguno dudaríamos en faltar a

con mayor eficiencia) mediante el empleo de
casos ya existentes para, en situaciones afines,
reconocer y seleccionar decisiones aceptables
éticamente.
En nuestra opinión, la adopción de de­
cisiones éticas comporta un equilibrio entre
varios deberes, los que en ética se denominan
una promesa insignificante si sabemos que, al
hacerlo, evitamos un gran daño. Cuando dos
deberes entran en conflicto, los principios éticos
sirven para determinar prioridades.
A fin de obtener normas éticas programa­
bles hemos recurrido al aprendizaje automá­
tico, una técnica de IA. Nuestro algoritmo

INVESTIGACION Y CIENCIA, diciembre, 2010 59

 BREVE HISTORIA DE LA ETICA ARTIFICIAL
Cuando la ciencia imita al arte
Mucho antes de que filósofos o expertos en inteligencia artificial se interesasen por las posibles
implicaciones éticas del comportamiento de los robots, numerosos escritores y cineastas ya habían
abordado la cuestión. Sólo en los últimos años la ética artificial ha adquirido un estatus académico
y científico, en parte inspirada por doctrinas filosóficas del siglo xviii.
1780-90 Jeremy Bentham
(arriba) y John Stuart Mill
proponen la idea de una
1495 Leonardo da Vinci ética computable
proyecta uno de los primeros
robots humanoides
1750
accede a una muestra de decisiones particulares
consideradas éticamente correctas. Después,
mediante lógica inductiva, el algoritmo pro­
cede a la abstracción de un principio ético.
Esta fase de “instrucción” tiene lugar durante
el diseño del software. Después, el principio
ético resultante se implementa en la progra­
mación del robot.
La primera comprobación experimental de
nuestro método se llevó a cabo en el siguiente
escenario hipotético: un robot ha de recordar­
le a un paciente la toma de un medicamento
y, en el caso de que el paciente no se avenga
a hacerlo, notificar a un supervisor. El robot
ha de buscar un equilibrio entre tres obliga­
ciones: asegurarse de que el sujeto obtendrá
un posible beneficio si toma la medicación,
prever los efectos perniciosos en caso de no
hacerlo y, por último, respetar la autonomía
del paciente, a quien se considera adulto y
competente. El respeto a la voluntad del
­enfermo recibe una elevada consideración
en la ética médica; esa deferencia se vería
vulnerada si el robot insistiese con excesiva
frecuencia o si notificase demasiado pronto
al supervisor.
Tras suministrarle la información en una
serie de casos particulares, el algoritmo de
aprendizaje automático elaboró el siguiente
principio ético: debe obviarse la decisión del
paciente siempre que, en caso de actuar de
otra forma, no se impida un posible daño o
60 INVESTIGACION Y CIENCIA, diciembre, 2010
1921 La obra teatral R.U.R.,
de Karel Čapek, introduce la
voz robot y la idea de una
rebelión robótica
1800 1850
se incurra en una violación grave del deber de
promover el bienestar del paciente.
Una idea con patas
Después procedimos a programar ese princi­
pio en el robot humanoide Nao, de la firma
francesa Aldebaran Robotics. Nao es un ro­
bot capacitado para localizar y dirigirse a un
paciente al que debe recordarle la toma de
un medicamento, llevárselo, interactuar con
él empleando un lenguaje natural y, en caso
COLECCION GRANGER (Bentham); GETTY IMAGES (cartel de R.U.R.); UFA/COLECCION KOBAL (robot de Metrópolis)
de necesidad, notificar a un supervisor por
correo electrónico. Para realizar su tarea, el
robot recibe una serie de datos iniciales, como
CORTESIA DE NICCOLAI-TEKNOART/MUSEO DE LEONARDO DA VINCI, FLORENCIA (robot humanoide);
la hora de la toma, el daño máximo que po­
dría sufrir el enfermo en caso de no tomar la
medicación, el tiempo que ese daño tardaría
en manifestarse, el máximo beneficio que se
espera del medicamento y la duración estimada
de ese beneficio.
A partir de esa información, el robot calcula
en qué grado debe cumplir o faltar a cada uno
de sus tres deberes y, en función del resultado,
ejecuta una u otra acción. Emite un recordato­
rio al paciente cuando resulta preferible insistir
que abstenerse de hacerlo. Además, el robot
sólo envía una notificación al supervisor si, en
caso de no hacerlo, el paciente pudiese sufrir
daños o bien verse privado de un beneficio
considerable.
Una hipotética versión completa de un
robot ético de asistencia a personas mayores,
 1927 El Maschinenmensch,
1952 W. S. McCulloch
del filme clásico de Fritz
Lang Metrópolis (izquierda), publica las primeras
es instruido para atacar a consideraciones
los humanos científicas sobre
máquinas éticas
1979 En un accidente en una
1950 Alan Turing
propone su test
para definir
la inteligencia
en una máquina
1991 James Gips analiza
distintos enfoques hacia la 1993 Rodger Clarke
critica las leyes de Asimov
ética artificial en su artículo
“Towards an ethical robot”
(“Hacia un robot ético”)
1997 Gari
1987 M. Mitchell Waldrop Kaspárov,
introduce el término ética ­campeón mun-
artificial (machine ethics) dial de ajedrez,
pierde frente a
la supercompu-
cadena de montaje, Robert tadora Deep
Williams se convierte en la Blue, de IBM
primera persona que fallece
por la acción de un robot

2004 Michael Anderson

y Susan Leigh Anderson
proponen la programación
de principios éticos en robots
en su artículo “Towards
machine ethics” (“Hacia
1942 Isaac Asimov enuncia 1968 En el clásico 2001: una ética artificial”)
las “tres leyes de la robótica” una odisea del espacio,
en su relato Círculo Vicioso de Stanley Kubrick, 2010 Nao es el primer
la computadora HAL 9000 robot cuya conducta
se rebela contra los humanos responde a un principio
ético

1900 1950 2000

al que llamaremos EthEl, exigiría una norma­
tiva ética más compleja, pero su principio de
funcionamiento sería el mismo. Durante sus
turnos en la residencia, el robot aplicaría ese
principio para determinar qué obligaciones
adquieren prioridad sobre las demás.
A primera hora de la mañana, EthEl per­
manece en un rincón conectado a la toma de
electricidad. Cuando sus baterías se encuen­
tran cargadas, sus obligaciones benéficas (“haz
el bien”) se anteponen al deber de cuidar de
sí mismo y comienza su ronda. Visita a los
residentes y les pregunta si puede servirles en
algo, como traerles una bebida o enviar un
mensaje a otro residente. A medida que le
© 2007, S.M.S.I., INC. – OWEN WILLIAMS, THE KASPAROV AGENCY / CC BY-SA 3.0 (Kaspárov)
CORTESIA DE RANDOM HOUSE (portada de Yo, robot); MGM/COLECCION KOBAL (HAL 9000);
Más tarde, cuando los residentes se encuentran
absortos en un programa de televisión y sin
otras obligaciones pendientes, EthEl asume el
deber de cuidar de sí mismo y regresa a un
punto de recarga.
Los estudios en ética artificial no se hallan
sino en sus albores. Nuestros resultados, si
bien preliminares, nos animan a pensar que
es posible que una máquina elabore principios
éticos útiles para guiar el comportamiento de
los robots. Ello facilitaría que los humanos
PARA SABER MAS
aceptásemos sus conductas, ya que el temor a IEEE INTELLIGENT SYSTEMS.
unas máquinas carentes de ética seguramente Número especial dedicado a
provocaría un rechazo total hacia cualquier la ética artificial. Julio-agosto
de 2006.
robot autónomo. Podemos decir que lo que

son encargadas tareas, asigna niveles inicia­ está en juego es el futuro de la misma inteli­ UN ROBOT EN CADA CASA. Bill
les al cumplimiento y al abandono de cada gencia artificial. Gates en Investigación y Cien-
una de las obligaciones que conlleva cada Por último, creemos que la ética artificial cia, n.o 366; marzo de 2007.
tarea. Uno de los residentes se encuentra mal puede realizar aportaciones al estudio de la éti­
MACHINE ETHICS. CREATING AN
y le pide que vaya a buscar a una enfermera. ca: a la hora de aislar la esencia de la conducta ETHICAL INTELLIGENT AGENT. Mi-
Obviar el malestar de un paciente implica ética de las personas, puede que los plantea­ chael Anderson y Susan Leigh
infringir el deber de no maleficencia (“evita mientos concretos y cotidianos que afronta Anderson en AI Magazine,
causar daño”). Este último se impone ahora la IA resulten más efectivos que las abstractas vol. 28, n.o 4, págs. 15-26; 2007.
al de beneficencia, por lo que EthEl va en teorías éticas de algunos académicos. E incluso
MORAL MACHINES. TEACHING
busca de la enfermera. Después, el deber de puede que una máquina debidamente entrena­ ROBOTS RIGHT FROM WRONG.
beneficencia vuelve a ser prioritario y prosigue da lograse comportarse de un modo más ético Colin Allen y Wendell Wallach.
su ronda. que muchas personas, ya que serían capaces de Oxford University Press, 2008.
A las 10 de la mañana ha de recordarle a un obrar con imparcialidad, algo que los humanos
residente la toma de su medicación. Al corres­ no siempre conseguimos. Quizás algún día la WAR OF THE MACHINES. P. W.
Singer en Scientific American,
ponderse con el deber de beneficencia, dicha interacción con uno de tales robots nos sirva vol. 303, n.o 1, págs. 56-63;
tarea adquiere la máxima importancia. EthEl de inspiración para un comportamiento más julio de 2010.
localiza al paciente y le lleva su medicación. ético por nuestra parte.

INVESTIGACION Y CIENCIA, diciembre, 2010 61

El futuro de la fabricación
El
auge
de los
nanorrobots
Dentro de poco dispondremos
de una nueva generación
de dispositivos diseñados
íntegramente a escala atómica
Mihail C. Roco
D
urante décadas, la fabricación industrial ha
sido sinónimo de enormes cadenas de montaje.
En ellas, una multitud de operarios —humanos o
robots— puede llegar a construir desde un avión
hasta objetos más pequeños y delicados, como
fármacos, ordenadores o teléfonos inteligentes.
Imagine un futuro en el que el ensamblaje de procesado-
res y memorias digitales, generadores de energía, tejidos arti-
ficiales y aparatos clínicos tenga lugar a escalas imperceptibles
a simple vista. Esa nueva era comenzará dentro de pocos años.
Una vez llegue, pasaremos de disponer de productos que sim-
plemente contienen nanotecnología (como las lociones de pro-
tección solar con partículas de dióxido de titanio para bloquear
la radiación ultravioleta, o las nanopartículas que aumentan la
calidad de las imágenes clínicas, por mencionar dos ejemplos)
a otros fabricados íntegramente a escala nanométrica [véase
«¿Podemos hacer más con menos?», por Xavier Obradors, en
este mismo número].
28  INVESTIGACIÓN Y CIENCIA, agosto 2013
Para ello no solo deberemos mejorar nuestra comprensión
de la materia a nivel atómico, sino que habremos de concebir
nuevas herramientas y procesos de ensamblaje. Una manera de
enfocar el problema procede de abajo arriba: las unidades me-
nores, como átomos o nanotubos, por ejemplo, se unen para
formar componentes de mayor tamaño. También pueden em-
plearse cadenas de ADN, así como otras moléculas naturales o
de síntesis, a modo de materiales programables para construir
motores y otros dispositivos a escala molecular. Otro método
lo hallamos en el ensamblaje por rollos, consistente en impri-
mir dispositivos en miniatura sobre bobinas continuas de lá-
minas de polímero.
La nanofabricación requerirá herramientas de una preci-
sión extraordinaria, desde catalizadores químicos hasta otras
de tipo biológico, óptico, mecánico o electromagnético. A más
largo plazo, cabe esperar que entre esas herramientas se inclu-
yan nuevas moléculas y metamateriales, sustancias elaboradas
ex profeso para que posean propiedades que no se observan en
la naturaleza.
A continuación presentamos algunos de los avances más pro-
metedores de la nanotecnología y sus aplicaciones futuras.
harry campbell
Mihail C. Roco es asesor de nanotecnología en la Fundación Nacional
para la Ciencia de EE.UU.
Tejidos cibernéticos
Puede que en un futuro logremos incorporar a nuestro organismo tejidos artificiales
Microcircuitos
entrelazados con nanocircuitos electrónicos. En vez de implantar dispositivos electró-
nicos en un órgano, el nuevo tejido crecería sobre un andamiaje formado por nano-
de luz
Los circuitos fotónicos integrados,
sensores. El tejido sintético podría diseñarse para detectar y controlar patologías
cuyo vehículo de información es la
muy diversas, mientras que el andamiaje permitiría conectar una parte del sistema
luz, deberían contribuir a la miniatu-
nervioso a un ordenador, una máquina u otro tejido vivo. Un grupo de científicos de
rización de los dispositivos electró-
Harvard y del Instituto de Tecnología de Massachusetts ha construido un andamiaje
nicos. Sin embargo, persiste aún un
de nanohilos elásticos que puede conectarse a células individuales. Explican que su
problema fundamental: las leyes de la
objetivo consiste en fusionar el tejido con los componentes electrónicos de tal modo
difracción no permiten confinar la luz
que resulte difícil decir dónde acaba el primero y dónde empiezan los segundos.
en un espacio inferior a la mitad de
su longitud de onda. Sin embargo, la
luz láser ordinaria presenta una lon-
gitud de onda entre 10 y 100 veces
Memorias diminutas mayor que la escala típica de los dis-
positivos nanoelectrónicos.
La nanotecnología se presta muy bien a fabricar memorias electrónicas más
A fin de superar esas limitaciones
eficientes, económicas y con mayor capacidad. El objetivo no es baladí, ya que
se está investigando la posibilidad
antes o después llegará el momento en que los microcircuitos no podrán seguir
de emplear láseres «plasmónicos»
reduciéndose mediante la técnica de semiconductor complementario de óxido
de estado sólido para transportar
metálico (CMOS) usada durante décadas para fabricar circuitos integrados.
los datos. Estos constan de una reji-
El problema puede sortearse empleando el espín del electrón como elemento
lla de hilos semiconductores nano-
portador de información, tanto en memorias como en circuitos lógicos. IBM,
métricos e hilos metálicos de dimen-
Intel y otras compañías ya han comenzado a desarrollar memorias espintróni-
siones similares. Las intersecciones
cas y otros dispositivos de bajo consumo que prometen operar con fiabilidad y
de esa malla forman cavidades cua-
rapidez.
dradas en las que se confina la luz y
Otro método consiste en escribir y almacenar datos con ayuda de nanoi-
cuyo tamaño puede reducirse hasta
manes. Un equipo de la Universidad Cornell ha diseñado un procedimiento efi-
el 1 por ciento del límite de difrac-
ciente para cambiar la polarización de un imán, lo que podría suponer un pri-
ción: las dimensiones de un transistor
mer paso para fabricar una memoria RAM magnética (MRAM) que almacene
en un circuito integrado. Si se consi-
datos aunque se suprima la alimentación. Al aplicar corriente a una capa de
guiese que dichas cavidades emitie-
tantalio con un patrón litografiado, se produce una desviación de los espines lo
sen ráfagas minúsculas de luz láser,
bastante intensa como para invertir la magnetización de un imán cercano. Para
estos dispositivos podrían servir de
restituir el sistema a su estado original, basta con invertir la corriente. Cuando
base a sistemas ópticos tan diminutos
esta no se aplica, el imán permanece estable, por lo que puede retener datos.
que podrían alojarse entre los transis-
La técnica tal vez permita fabricar teléfonos o tabletas que podrían encenderse
tores. Se trata de una línea de inves-
y apagarse instantáneamente sin perder los datos y sin gastar energía en el
tigación liderada por Xiang Zhang y
modo de espera (standby).
otros expertos de la Universidad de
California en Berkeley.

Músculos de plástico
Los músculos artificiales pueden hacer que un
ojo parpadee, que un pez robótico nade o que
una boya extraiga energía del océano. Dentro de
poco se utilizarán nanopolímeros con forma de
dendrita y con capacidad para contraerse y dila-
tarse ante los cambios de temperatura, los cuales
podrán actuar a modo de membranas celulares,
dispensadores de fármacos o fibras cardíacas arti-
ficiales. Un equipo de la Universidad de Pensilva-
nia dirigido por Virgil Persec ha demostrado que,
a pesar de su delgadez, dichos polímeros pue-
den levantar una moneda con un peso 250 veces
superior al suyo. El principal reto para su fabrica-
ción consiste en encontrar polímeros capaces de
autoensamblarse en estructuras que se compor-
ten como músculos en miniatura (por ejemplo,
como tejido cardíaco).
Centrales eléctricas de virus
Los virus pueden usarse para construir generadores de energía a
escala nanométrica. A tal fin sirve el bacteriófago M13 manipulado
genéticamente: con forma de varilla de unos siete nanómetros de diá-
metro y 900 nanómetros de longitud, este virus convierte energía
mecánica en energía eléctrica y viceversa. Seung-Wuk Lee, de la Uni-
versidad de California en Berkeley, lo ha empleado para construir un
material piezoeléctrico capaz de alimentar una pantalla LCD de 10
centímetros cuadrados. Este método aprovecha la capacidad única de
la naturaleza para sintetizar biomateriales en los virus, los cuales pue-
den replicarse, evolucionar y ensamblarse con precisión atómica. Los
materiales piezoeléctricos de base vírica podrían alimentar futuros
sensores nanométricos y otros dispositivos clínicos dentro o fuera del
cuerpo humano a partir de la energía vibratoria de, por ejemplo, un
latido de corazón.

Agosto 2013, InvestigacionyCiencia.es  29

 Polinizadores artificiales:La abe-
ja robótica que muestra esta imagen
ha sido aumentada de tamaño para
que puedan apreciarse sus detalles.
Para ver su verdadero tamaño, pase
la página.

EN SÍNTESIS

Una colonia de abejas robóticas po-
dría llevar a cabo todo tipo de tareas,
desde polinizar cultivos hasta parti-
cipar en misiones de rescate en caso
de catástrofe. El proyecto RoboBee
trabaja en el diseño de estos insectos
artificiales.
Su reducido tamaño plantea todo
tipo de retos técnicos e informáticos.
Debido a la imposibilidad de emplear
piezas mecánicas normales, los in-
vestigadores han creado «músculos»
artificiales, inspirados en la anatomía
de una abeja real.
Otro desafío consiste en reproducir la
inteligencia colectiva de un enjambre,
en el que miles de insectos se coordi-
nan sin ningún liderazgo centralizado.
Una colmena robótica debe poder lo-
grar sus objetivos aunque algunos de
sus miembros fracasen.

38  INVESTIGACIÓN Y CIENCIA, mayo 2013

 Robert Wood es profesor de ingeniería y ciencias aplicadas en la
Universidad Harvard y el Instituto Wyss de Ingeniería Inspirada
en la Biología. El año pasado fue galardonado con el premio Alan
T. Waterman de la Fundación Nacional para la Ciencia de EE.UU.

Radhika Nagpal enseña ciencias de la

computación en Harvard y el Instituto Wyss.
Sus investigaciones sobre el comportamiento
colectivo abarcan los campos de la inteligencia
artificial, la robótica y la biología.

Gu-Yeon Wei es profesor de ciencias de la computación

en Harvard. Sus estudios se centran en el rendimiento
eficiente de los sistemas de cómputo.

Abejas
TECNOLOGÍA

robóticas
N
El proyecto RoboBee o hace mucho que las abejas melíferas de varias
regiones del mundo sufrieron una misteriosa pla-
persigue diseñar enjam- ga, conocida como síndrome de despoblamiento de
las colmenas. Gran parte de la polinización comer-
bres de insectos artificiales. cial depende de las abejas, por lo que la enferme-
dad supuso una amenaza para la agricultura. En
Dotados de una «inteli- 2009, junto con otros colaboradores de Harvard y
de la Universidad Nororiental de EE.UU., comenzamos a considerar
gencia colectiva» similar la posibilidad de crear una colonia de abejas robóticas. Nos pre-
a la de las colmenas reales, guntábamos si una población de insectos mecánicos podría imitar
no solo la conducta de las abejas una a una, sino el complejo com-
podrían acometer un gran portamiento colectivo que emerge de la interacción entre miles de
ellas. Hoy, en el marco del proyecto RoboBee, ya hemos construido
número de tareas las primeras ciberabejas y estamos desarrollando métodos para lo-
grar que miles de ellas cooperen, como en una colmena real.
Robert Wood, Radhika A primera vista, la tarea se antoja imposible. Millones de años
de evolución han hecho de las abejas máquinas increíbles: pueden
Nagpal y Gu-Yeon Wei volar durante horas, su diminuto cuerpo se mantiene estable fren-
te a las rachas de viento, hallan flores y esquivan depredadores. No
parece que podamos exigir talentos semejantes a un robot del ta-
maño de una moneda de cinco céntimos.
Pensemos ahora en la colmena. En ella no parece haber gobierno centralizado alguno; sin em-
bargo, decenas de miles de insectos se reparten con acierto las tareas en pos del bienestar de toda
travis rathbone

la comunidad. Si se necesita más polen, salen abejas de refuerzo a aprovisionarse; cuando la colme-
na requiere cuidados, permanecen más insectos en ella; y si sucede algo imprevisto (como la muer-
te inesperada de una abeja reina), el grupo se adapta con rapidez a las nuevas circunstancias. Sin

Mayo 2013, InvestigacionyCiencia.es  39

 f u n c i o na m i e n t o

Anatomía
de un microvuelo
El proyecto RoboBee pretende crear enjambres
de robots voladores autónomos del tamaño de
un insecto. Las abejas robóticas volarán con
autonomía, podrán adaptarse a circuns- Sensor de
flujo visual
tancias cambiantes y trabajarán
en común.
1 Manufactura

Láser ultravioleta

Actuador
de control
del vuelo Fibra de carbono

Adhesivo
Actuador
principal
(propulsor 2 Laminado
del vuelo)

Circuito
integrado
(«cerebro»)
Polímero blando
Circuitos
de alimentación

Batería
Articulación flexible

Abeja robótica a escala real

3 Piezas
En este espacio, el insecto deberá
acomodar músculos artificiales, sensores
del flujo visual, procesadores informáticos
y una fuente de alimentación. El conjunto
entero pesará cerca de medio gramo.

una autoridad responsable, ¿cómo puede una co-
lonia de insectos resolver situaciones tan complejas?
Aunque la agricultura figura entre sus posibles aplicaciones,
una colmena robótica podría ejecutar muchas tareas más. Para
multitud de cometidos, un conjunto de robots diminutos, sim-
nos que el objeto volador autónomo más pequeño fabricado has-
ta la fecha). En tales dimensiones hemos de incorporar el sistema
de vuelo, los componentes electrónicos del «cerebro» y la visión
del robot, así como los controles que deben regular la interacción
con otros miembros del enjambre. Con todo, los últimos avances
bryan christie (ilustración); travis rathbone (fotografía)

ples y ágiles resultaría más eficaz que unas pocas máquinas de
enormes prestaciones. Tras un desastre natural, podrían libe-
rarse unas mil abejas robóticas (con un peso total inferior a un
kilogramo) a fin de detectar sonidos, calor o el dióxido de car-
bono exhalado por los supervivientes. Aunque solo tres de ellas
lo lograsen, el enjambre se habría apuntado un éxito. No pode-
mos decir lo mismo de los robots de salvamento actuales, cuyo
coste ronda los 100.000 dólares por unidad.
Sin embargo, aún hemos de superar enormes dificultades téc-
nicas. Nuestras abejas robóticas no deberían medir más de unos
pocos centímetros ni pesar más de medio gramo (cien veces me-
en ciencia de materiales, tecnología de sensores y arquitectura in-
formática ponen tales objetivos a nuestro alcance.
CUERPO Y VUELO
El principal reto a la hora de fabricar un robot volador tan di-
minuto reside, precisamente, en el sistema de vuelo. Los pro-
gresos en miniaturización de robots logrados durante la pasada
década no nos sirven de mucho, ya que el minúsculo tamaño de
nuestras abejas cambia por completo la clase de fuerzas que in-
tervienen en el proceso. Las fuerzas de superficie, sobre todo el
rozamiento, cobran más importancia que las asociadas al volu-

40  INVESTIGACIÓN Y CIENCIA, mayo 2013

Montaje desplegable
La fabricación de robots tan diminutos comporta grandes retos. Las
diferentes piezas se confeccionan a partir de capas de material rígido,
como fibra de carbono, entre las que se intercalan películas de políme-
ros blandos. Las hendiduras practicadas en la fibra permiten que el polí-
mero se doble y opere a modo de articulación flexible. Elaborar piezas con
un diseño estratificado redunda en un proceso de montaje más eficiente
•
(abajo a la izquierda).
•
Primero, las capas se tallan con un láser ultravioleta 1 . Después, se juntan
•
y se unen al polímero con un adhesivo 2 . De ese sustrato pueden extraerse
•
componentes individuales 3 . Por último, la construcción en dos dimensiones
puede desplegarse y adoptar su forma tridimensional 4 .
4 Despliegue
men, como la gravedad o la inercia. Ello deja de lado la mayo-
ría de las piezas mecánicas habituales, como rodamientos, en-
granajes y motores electromagnéticos, frecuentes en todo tipo
de robots, pero inadecuadas para nuestro propósito.
Nuestras abejas robóticas no emplean motores giratorios ni
engranajes. En su lugar, su diseño imita la anatomía de un in-
secto volador. Dos tipos de «músculos» artificiales se encargan
de propulsar y controlar el vuelo: en el tórax, un actuador im-
pulsa el mecanismo que bate las alas; a su vez, otros actuado-
res menores generan los pares motores necesarios para manio-
brar y controlar el aleteo. Estos dispositivos operan en la junta
entre el ala y cuerpo del insecto.
Los músculos artificiales se componen de materiales pie-
zoeléctricos que se contraen cuando se aplica un voltaje entre
sus caras. Los inconvenientes de los que suelen adolecer estos
dispositivos —su fragilidad y el alto voltaje necesario— se con-
Músculo artificial
piezoeléctrico
Rotación
pasiva Respuesta
al voltaje
aplicado
Aleteo
activo
Aleteo
El vuelo de una abeja robótica depende de la acción de
«músculos» artificiales, materiales piezoeléctricos que se
contraen al aplicarles un voltaje. Las alas se mueven de dos
maneras: hacia delante y hacia atrás, y girando su orienta-
ción. En vez del aleteo vertical característico de las aves, el
movimiento se asemeja más al de las patas de un perro que
nada en una piscina. Los músculos controlan el aleteo, pero
la rotación es pasiva; viene determinada por la inercia de las
alas, la interacción de estas con el aire y la elasticidad de la
junta con el resto del cuerpo.
vierten aquí en ventajas debido a su reducido tamaño: cuanto
menores sean, más rápido se moverán. Dado que la cantidad de
energía suministrada por ciclo (y unidad de masa) se mantiene
casi constante, una mayor velocidad en el aleteo se traduce en
un aumento de potencia. No en vano, estos «músculos» operan
con una potencia equiparable a la que desarrollan los músculos
de los insectos reales con un tamaño similar.
En los últimos años hemos probado docenas de configura-
ciones de actuadores y juntas. Estas deben resultar fáciles de
construir, ya que las miles de abejas robóticas de una colonia
deberán fabricarse en serie. Los mejores modelos hallados has-
ta ahora se basan en piezas formadas por tres capas: dos lámi-
nas rígidas entre las que se sitúa una delgada película de polí-
mero. Para formar las articulaciones, se tallan hendiduras en
las capas rígidas; de esta manera, la película de polímero pue-
de flexionarse con facilidad.
Mayo 2013, InvestigacionyCiencia.es  41
 inteligencia artificial
La colonia en acción
Una colonia de miles de ciberabejas deberá repartir las tareas
entre sus miembros aun cuando carezca de una clara visión
del entorno. En la situación ilustrada, el enjambre debe locali-
zar flores y polinizarlas. Cada robot comienza explorando dis-
tintas zonas. Al regresar a la colmena, los robots indicarán a
sus compañeras dónde se encuentran las flores. Esa informa-
ción marcará el destino de las expediciones futuras, ya que
se asignarán más robots a las zonas donde haya más trabajo.
Esta manera colectiva de proceder garantizaría el éxito de la
misión aunque la comunicación directa entre abejas se vea
restringida por motivos técnicos.
Si bien hemos realizado grandes progresos en lo tocante a
construir un robot del tamaño de una abeja, aún debemos di-
señar un sistema de alimentación óptimo. Para cubrir sus nece-
sidades energéticas durante el vuelo, gran parte de la masa del
insecto debería residir en al actuador principal y en la unidad
de alimentación (la «batería», aunque también estamos consi-
derando emplear una micropila de combustible óxido sólido).
Las dificultades de la alimentación se convierten en un círculo
vicioso: una unidad mayor almacenará más energía, pero su
mayor peso exige un sistema propulsor más potente y este, a
su vez, necesita una fuente de alimentación mayor.
Aunque aún no disponemos de una abeja robótica capaz de
volar con total autonomía, hemos demostrado que un ejemplar
de unos cien miligramos puede alcanzar el impulso necesario
para despegar, si bien después hemos de mantenerlo atado a
una fuente de alimentación externa. Además, nuestro insecto
puede estabilizarse por sí solo mediante una combinación de
mecanismos activos y pasivos. Con todo, nuestras mejores esti-
maciones para el tiempo de vuelo no pasan de unas decenas de
segundos. A fin de lograr una mayor autonomía, estamos traba-
jando para reducir al máximo el peso del insecto, así como para
optimizar el rendimiento de cada una de las piezas.
CEREBRO Y NAVEGACIÓN
La alimentación no es la única atadura que retiene a nuestra ci-
berabeja. Otro problema reside en dotar al insecto de un cerebro
que le permita percibir el entorno, tomar decisiones y contro-
lar el vuelo. Los dispositivos electrónicos externos pueden ser-
vir como solución provisional en el laboratorio, pero en condi-
ciones reales el insecto necesitará un cerebro propio.
A un nivel de organización superior, el cerebro electrónico del
insecto deberá orquestar asimismo su interacción con los res-
42  INVESTIGACIÓN Y CIENCIA, mayo 2013
tantes miembros de la colonia. A tal fin nos dispusimos a cons-
truir un cerebro estructurado en capas: con sensores que inter-
preten el entorno físico, un «sistema nervioso» electrónico que
realice las funciones de control básicas, y una corteza cerebral
programable para tomar decisiones de alto nivel. Como primer
paso, decidimos diseñar un subsistema cerebral que capacitase
al robot para volar con autonomía. Superar este reto exige un
bucle de control riguroso entre varios sensores, los procesado-
res de señales y el movimiento de las piezas del cuerpo.
Para elegir el tipo de sensores y la estructura de la circuite-
ría cerebral volvimos a inspirarnos en la naturaleza. Las mos-
cas, por ejemplo, se valen de dos tipos de sensores: los propio-
ceptivos, que informan al insecto sobre su condición interna (en
nuestro caso, la rapidez del aleteo o la carga de la batería), y los
exteroceptivos, que refieren datos relativos al entorno.
Los sensores modernos, como los dispositivos GPS, los ace-
lerómetros o los giróscopos multiaxiales, resultan demasiado
pesados o consumen una energía excesiva. En estos momentos
estamos investigando un sistema de visión electrónico que, si-
milar al de las abejas reales, analiza el «flujo óptico», o movi-
miento aparente de los objetos en el campo visual del sensor.
Para entender cómo funciona, imagine que se encuentra miran-
do al exterior desde la ventanilla de un automóvil: los objetos
más próximos atraviesan el campo visual con rapidez; los más
lejanos, a menor velocidad. Un sistema visual que aproveche esa
información puede generar una representación tridimensional
del entorno muy detallada, incluso equipado con un sensor de
imagen pequeño y sencillo.
El cerebro de una abeja robótica debe poseer la potencia su-
ficiente para procesar el torrente de datos provenientes de los
sensores de imagen, así como para controlar los actuadores cor-
porales. Tampoco aquí podemos utilizar componentes están-
dar, por lo que hemos explorado un nuevo tipo de arquitectura
informática que combina la computación de uso genérico con
una clase de circuitos especiales, conocidos como aceleradores
de soporte físico, o aceleradores de hardware. A diferencia de
los procesadores habituales (los microcircuitos genéricos que,
en los ordenadores domésticos, ejecutan todo tipo de tareas),
la aceleración por soporte físico emplea circuitos muy específi-
cos que realizan una sola tarea con gran precisión. Así, el cere-
bro del robot podría realizar en tiempo real los rápidos cálcu-
los requeridos por el bucle de control y mantener un vuelo es-
table dentro de los límites de consumo energético.
Uno de los grandes retos a los que nos enfrentamos consiste
en determinar a qué podemos renunciar y a qué no. Por ejem-
plo, nos gustaría dotar a nuestras abejas de una cámara de alta
resolución, pero un gran número de píxeles requiere sensores
mayores y aumentar la potencia de cálculo. ¿Dónde se encuen-
tra el punto óptimo? Para responder a tales preguntas hemos
ideado una cámara de prueba. Colocamos el cuerpo de la ciber-
abeja sobre un sensor fijo de fuerzas multiaxiales y pares rota-
torios, y le permitimos desplegar las alas en simulacro de vuelo.
Sobre las paredes proyectamos imágenes del entorno que el in-
secto deberá atravesar, a fin de explorar la interacción entre el
sistema visual, el cerebro y el cuerpo del insecto.
Por supuesto, controlar el vuelo solo supone el punto de par-
tida. Al mismo tiempo, estamos trabajando en el desarrollo de
sensores adicionales que faculten a la ciberabeja para realizar
tareas diversas, como localizar a las víctimas de un seísmo que
han quedado atrapadas entre los escombros.
Por desgracia, no prevemos que nuestras abejas dispongan
de un sistema que permita la comunicación directa entre ellas:
los costes energéticos asociados a las comunicaciones inalám-
bricas resultan excesivos. Sin embargo, ello no implica que los
insectos deban limitarse a actuar cada uno por su cuenta.
COLONIA Y COMUNICACIÓN
Una abeja robótica resulta minúscula en comparación con el
entorno al que debe enfrentarse. Además, las restricciones de
potencia y peso limitan la clase de sensores y métodos de co-
municación. Por ello, aparte de diseñar la anatomía y el cere-
bro de estos pequeños autómatas, hemos de figurarnos cómo
actuará un enjambre. Tal y como ocurre con las abejas reales,
un insecto aislado solo podrá llevar a cabo un número muy li-
mitado de tareas; sin embargo, esas restricciones no tienen por
qué aplicarse a la colonia. Su comportamiento colectivo permi-
tirá explorar áreas extensas, reconocerlas, repartirse las tareas
de modo eficiente y cumplir su propósito aunque varios de sus
miembros fracasen. Un enjambre de abejas pequeñas, ágiles y
«sacrificables» podría llevar a cabo todo tipo de actividades im-
practicables para un robot individual; desde polinizar un cam-
po hasta labores de rescate.
Desde principios de los años noventa, la rama de la inteli-
gencia artificial conocida como «inteligencia de enjambre» ha
permitido desarrollar potentes algoritmos de coordinación ins-
pirados en el comportamiento de los insectos eusociales. Estos
abarcan desde estrategias de búsqueda en común hasta la divi-
sión del trabajo. Pero, aun contando con tales algoritmos, con-
trolar el comportamiento de toda una colonia de abejas robóti-
cas plantea varias dificultades.
En primer lugar, programar y razonar desde el punto de vis-
ta de cada abeja se torna inviable cuando se trata de miles de
ellas: sería como pedir a un programador que escribiese las ins-
trucciones para cada uno de los bits físicos de un ordenador. En
su lugar, necesitamos un sistema que funcione a modo de com-
pilador. A partir de un conjunto de instrucciones escritas en un
lenguaje de programación inteligible, los compiladores generan
los ceros y unos con los que trabaja la máquina. De igual modo,
para programar el enjambre necesitaremos un lenguaje abstrac-
to de alto nivel que transforme instrucciones globales en pro-
gramas que rijan la conducta de cada abeja.
¿Qué lenguaje podría capturar el comportamiento de una col-
mena real, así como el que esperamos de una colonia de abejas
robóticas? Aunque carecemos de una respuesta definitiva, he-
mos desarrollado dos lenguajes de programación abstractos que
podrían resultar de utilidad. Uno de ellos, Karma, permite es-
pecificar un diagrama de flujo de las tareas que debe realizar la
colmena. Este emplea información procedente de cada uno de
los individuos y asigna los recursos disponibles a unas tareas u
otras, de un modo que imita el papel que desempeña la colme-
na en las colonias reales de abejas melíferas.
Otro método diferente, OptRAD («optimización de la reac-
ción de advección y difusión»), trata la colonia de robots vola-
dores como un fluido que se difunde en el entorno. Cada abeja
ejecuta un algoritmo probabilístico que, a partir del estado del
medio, determina si el robot debe realizar o no una tarea con-
creta. Al considerar la colonia como un fluido, OptRAD puede
efectuar razonamientos de alto nivel sobre el resultado que se
espera de una determinada acción, así como modular su com-
portamiento para adaptarse a nuevas circunstancias.
Aún es mucho lo que nos queda por aprender sobre la mane-
ra de construir y manejar una colonia compuesta por miles de
robots autónomos, un número muy superior al de los humanos
que la controlan. Cuando los miembros del enjambre se cuen-
tan por millares, controlarlos uno por uno resulta impractica-
ble. Imaginemos que cada robot poseyese un conmutador de en-
cendido y apagado que tardase cinco segundos en activarse. Si
tuviésemos que accionar mil robots uno por uno, el proceso se
demoraría una hora y media. Cualquier otro aspecto, desde el
coste al mantenimiento, sufre limitaciones similares. Cada pe-
queño autómata debe resultar barato, fácil de construir y sen-
cillo de operar. En un caso ideal, el tiempo necesario para lle-
var a término cualquier acción no debería depender de cuántos
individuos formen la colonia (o, al menos, debería crecer muy
lentamente con el tamaño del enjambre).
Para afrontar los retos descritos hemos desarrollado el sis-
tema Kilobot: cientos de robots del tamaño de una moneda
que se desplazan mediante vibraciones y que pueden comuni-
carse entre sí. Este colectivo nos permite ensayar nuestros len-
guajes de programación, así como poner a prueba los mode-
los matemáticos que describen el comportamiento emergente.
Puede también emplearse para poner a prueba la clase de con-
ducta que nos gustaría conseguir en las colonias de ciberabe-
jas. Por ejemplo, resulta posible pedirles que busquen un obje-
to y que, una vez que uno de ellos lo encuentre, comunique al
resto su localización.
El sistema Kilobot ha sido diseñado en código abierto, con
miras a que todo programador interesado pueda tomar parte
en el proyecto. También resulta posible adquirir los robots pre-
fabricados a K-Team, una compañía de robótica educativa. Es-
peramos que este sistema estandarizado ayude a concebir nue-
vas ideas y promover avances científicos colectivos, inasequi-
bles para grupos reducidos de investigadores. Después de todo,
también los humanos dependemos de la cooperación colectiva
para conseguir ciertos resultados.
EL FUTURO
Pese a todos los avances, aún queda mucho por hacer. No obs-
tante, podemos aventurar que dentro de pocos años ya veremos
abejas robóticas volando en el laboratorio. En unos cinco o diez
años más, su uso tal vez se haya generalizado.
En 1989, el experto en robótica Rodney Brooks escribió un
artículo en el que defendía el empleo de pequeños robots en los
programas de exploración espacial. Su trabajo se titulaba «Rá-
pido, barato y fuera de control: Una invasión robótica del sis-
tema solar», en referencia al conocido aforismo ingenieril se-
gún el cual ningún producto comercial puede ser a la vez rápi-
do, barato y fiable: a lo sumo, debe conformarse con dos de esos
tres atributos. Sin embargo, cuando disponemos de un gran nú-
mero de agentes, el fracaso de uno de ellos no reviste demasia-
da importancia.
Brooks acertó de plano a la hora de reinterpretar dicho con-
cepto en el ámbito de la robótica. Si logramos que un gran nú-
mero de autómatas sencillos trabajen de manera conjunta, no
deberemos preocuparnos por fallos individuales. La única mane-
ra de asegurar el éxito de los exploradores robóticos es permitir
que, de tanto en tanto, alguno de ellos se desplome.
P A R A SA B E R M Á S
Kilobot: A low cost scalable robot system for collective behaviors. Michael Rubenstein,
Christian Ahler y Radhika Nagpal en 2012 IEEE International Conference on Robotics and Auto-
mation (ICRA), págs. 3293-3298, 14-18 de mayo de 2012.
Progress on «pico» air vehicles. R. J. Wood et al. en International Journal of Robotics Research,
vol. 31, n.o 11, págs. 1292-1302, septiembre de 2012.
Canal en YouTube del Laboratorio de Microrrobótica de Harvard: www.youtube.com/Micro-
roboticsLab
Mayo 2013, InvestigacionyCiencia.es  43
 Michel M. Maharbiz es profesor de ingeniería eléctrica
e informática en la Universidad de California.
Su laboratorio ha destacado por implantar en insectos
sistemas de control computerizados.

Hirotaka Sato es doctor en química por la Universidad

Waseda de Tokio, donde ha investigado los procesos
de nanofabricación en electroquímica. Posteriormente
ha trabajado sobre escarabajos cyborg en Berkeley
y en la Universidad de Michigan en Ann Harbor.

ROBÓTIC A

Escarabajos cyborg
Diminutos robots voladores, parte insecto y parte máquina,
ayudarán algún día a salvar vidas en caso de guerra o catástrofe
Michel M. Maharbiz y Hirotaka Sato

L
a ăoĉùa ùoăİĄ ùoĄĉĊÿĊċďû ċĄ ČûĈúaúûĈo ĂoýĈo úû
ingeniería aeronáutica. Su habilidad para esquivar
el matamoscas se debe a la notable velocidad con
que bate sus alas, nada menos que unas 200 veces
por segundo. Semejante rapidez obedece a una bio-
mecánica compleja: sus alas no se mueven por
acción directa de los músculos del tórax; antes
bien, cuando el insecto tensa y relaja de manera rítmica los
músculos, el tórax se deforma y hace vibrar las alas de modo
parecido a como lo harían los brazos de un diapasón. De esta
manera, con un esfuerzo mínimo, la mosca convierte una mi-
núscula cantidad de energía en un vuelo diestro y muy veloz.
En esta época de miniaturización de los circuitos electró-
nicos y avances en las técnicas de microfabricación, los inge-
nieros han intentado construir máquinas voladoras diminu-
tas que emulen esas habilidades. En 2008, la Universidad de
Tecnología de Delft presentó su DelFly Micro: pesaba tres
gramos, su envergadura era de 100 milímetros e iba equipa-
da con una videocámara en miniatura. Un prototipo del La-
boratorio de Microrrobótica de Harvard pesaba solo 0,06 gra-
mos (aun así, cuatro veces más que una mosca), pero una vez
en vuelo ya no podía controlarse. En todo caso, el problema
principal de estos insectos mecánicos reside en la gran can-
tidad de energía que consumen. Nadie ha conseguido bate-

EN SÍNTESIS

El Ejército desea desarrollar robots A día de hoy, los insectos artificia- Una solución pasa por emplear in- Varios grupos de investigación de
voladores en miniatura. Serían de les consumen gran cantidad de ener- sectos reales provistos de implantes Berkeley, Cornell y el Instituto de
DAVID LIITTSCHWAGER

utilidad en conflictos bélicos o en la gía. Las baterías en miniatura exis- electrónicos en el sistema nervioso Tecnología de Massachusetts ya
búsqueda de supervivientes tras una tentes no garantizan más de unos que permitan dirigir su vuelo por han conseguido los primeros esca-
catástrofe. minutos de autonomía de vuelo. control remoto. rabajos cyborg.

78 INVESTIGACIÓN Y CIENCIA, mayo 2011

 Mitad insecto, mitad máquina:
El escarabajo gigante Mecynorrhi-
na torquata, provisto de implantes
electrónicos y un equipo de radio.
XXXXXXXX

Estos permiten controlar a distan-

cia su vuelo.

Mayo 2011, InvestigacionyCiencia.es 79

rías en miniatura que garanticen más de unos pocos minutos
de vuelo.
Nuestro trabajo de los últimos años se ha centrado en evi-
tar tales limitaciones técnicas: en vez de construir un insecto
robótico, nos hemos decidido por emplear insectos reales a
modo de máquinas voladoras. Ello evita la necesidad de bate-
rías y todo el proceso de microfabricación. En su lugar, hemos
diseñado dispositivos para el control del animal: el insecto vue-
la por sí mismo, pero una serie
de circuitos implantados en su Deseábamos
sistema nervioso le transmiten
órdenes (volar hacia arriba o ha-
demostrar que
cia abajo, girar a la derecha o a es posible
la izquierda) procedentes de ope-
radores humanos. En otras pa-
inducir el vuelo
labras, hemos construido cy- de un insecto
borgs voladores, mitad insecto por control
y mitad máquina.
La idea se nos ocurrió hace remoto, dirigir
unos seis años, cuando uno de su trayectoria
nosotros (Maharbiz, experto en
técnicas de microfabricación, y hacer que se
pero por entonces lego en mate- detenga en
ria de insectos) asistía a una
conferencia sobre el tema orga- una posición
nizada por la Agencia de Proyec- prefijada
tos de Investigación Avanzada
para la Defensa (DARPA). Los asistentes presentaron técnicas
que permitían recibir y grabar las señales eléctricas origina-
das en los músculos de insectos en vuelo. Amit Lal, director del
programa y organizador de la conferencia, creía llegado el mo-
mento de investigar la implantación de microcircuitos que in-
dujesen movimientos musculares en el insecto mediante la
transmisión de señales eléctricas.
Los insectos cyborg hallarían numerosas aplicaciones mili-
tares, como averiguar cuántas personas se encuentran en el in-
terior de un edificio e identificarlas antes de ordenar un desa-
lojo. Pero estos híbridos de silicio y carbono también servirían
a fines civiles, como la búsqueda de supervivientes tras una
catástrofe.
¿POR QUÉ ESCARABA JOS?
Con anterioridad a la conferencia de la DARPA, los estudios se
habían centrado en el vuelo de langostas, polillas y moscas. Dada
nuestra experiencia previa en la materia, pensamos que sería
posible evitar los traspiés de los que sufre toda disciplina inci-
piente. En vista de que, a pesar de su gran tamaño, las polillas
y las langostas no pueden cargar con mucho peso, nuestros pri-
meros intentos se dirigieron hacia las moscas.
Las moscas cuentan con varias ventajas. Por un lado, sus ca-
racterísticas biológicas se conocen con gran detalle. Michael H.
Dickinson, del Instituto de Tecnología de California, y otros han
estudiado las contracciones musculares que permiten al in-
secto sustentarse y girar. Además, las moscas aprovechan la
energía con una eficiencia formidable, lo que les permite ba-
tir y orientar las alas a gran velocidad. Sin embargo, no se pres-
tan con facilidad a labores de ingeniería: su diminuto tamaño
exigiría un nanocirujano para implantar en ellas todos los cir-
cuitos necesarios. Así pues, decidimos buscar alternativas. Las
libélulas, de mayor tamaño y con habilidades de vuelo excep-
cionales, adolecían de una excesiva fragilidad. Las cucarachas
constituían otra opción.
80 INVESTIGACIÓN Y CIENCIA, mayo 2011
Fue por entonces cuando cayó en nuestras manos un ejem-
plar de The Biology of the Coleoptera («Biología de los coleóp-
teros»), un manual clásico escrito por R. A. Crowson en 1981.
Allí descubrimos que los escarabajos, al igual que las moscas,
poseen en el tórax una serie de músculos que deforman el
tegumento dorsal y que inducen así la vibración de las alas. La
clase de músculos que intervienen y las posiciones que adop-
tan también resultan similares a las de la mosca. Algunos es-
tudios sobre coleópteros realizados durante los años cincuen-
ta nos indicaron por dónde empezar. Quizá lo más importante
fuese su tamaño —desde un milímetro hasta más de 10 centí-
metros— y el gran número de especies que abarcan —un quin-
to de todas las conocidas—. Si bien el camino se antojaba fácil,
después descubriríamos que en EE.UU. apenas se criaban es-
carabajos del tamaño que necesitábamos. Tardamos años en
conseguir un suministro estable, que ahora importamos de cria-
deros de Europa y Asia.
Fue en ese momento cuando otro de nosotros (Sato, quími-
co especializado en técnicas de nanofabricación) se incorporó
al proyecto en calidad de investigador postdoctoral. Nos propu-
simos demostrar que era posible controlar a distancia el vuelo
de un insecto: ordenarle que echara a volar, gobernar sus giros
y su velocidad, y detenerlo después en una posición prefijada.
Como ingenieros, deseábamos que tales funciones resultasen
reproducibles, fiables y que infligiesen un daño mínimo o nulo
al animal.
Lo primero fue decidir el mínimo de comportamientos bá-
sicos cuyo control nos garantizaría un cyborg rudimentario.
A diferencia de lo que otros grupos habían hecho, nosotros
no deseábamos emplear hilos, ya que habrían de ser largos
y podrían enredarse. En consecuencia, nos decidimos por el
control remoto para poner en marcha y frenar el batido de las
alas, modificar la altura de vuelo e inducir giros a derecha e iz-
quierda. Renunciamos a controlar cada detalle, pues los esca-
rabajos ya exhiben gran habilidad a la hora de nivelar el vuelo
o ajustar su trayectoria y velocidad en función del viento y los
obstáculos. Por último, debíamos garantizar que las señales lle-
gasen hasta el sistema neuromuscular del insecto para que, en
caso de que intentara comportarse de otro modo, pudiéramos
enviarle una contraorden.
La mayoría de los coleópteros que elegimos soportaban car-
gas de entre el 20 y el 30 por ciento de su peso, lo que deter-
minaba el peso máximo del equipo de control. Dado que sabía-
mos qué músculos controlaban los aleteos del escarabajo, su-
pusimos que, si inducíamos impulsos eléctricos de frecuencia
variable a uno y otro lado del cuerpo, alteraríamos el batir de
sus alas y modificaríamos la trayectoria de vuelo.
Los escarabajos se ayudan de una gran cantidad de estímu-
los visuales mientras vuelan. Al igual que en los humanos, la
luz que llega a sus ojos activa neuronas fotosensibles; estas en-
vían señales al cerebro y los ganglios, donde se transforman en
información visual. En el caso de los coleópteros, la cantidad de
luz que llega a sus ojos reviste un papel crucial: si se apaga por
completo la luz de la sala en la que vuela un escarabajo, este se
detiene de inmediato. Ello implica que el animal necesita algún
tipo de información óptica para continuar batiendo las alas. De-
dujimos, por tanto, que la estimulación del lóbulo óptico o del
área cercana a su base quizás indujese respuestas motrices. Para
evitar que una implantación directa en el ojo o en el lóbulo óp-
tico afectase a la capacidad de maniobra del insecto, concentra-
mos la estimulación en las zonas próximas a la base de los ló-
bulos. No fue necesario estimular las neuronas una a una. Al
 A N AT O M Í A D E U N C Y B O R G

Insecto y máquina Mecanismo de vuelo

de un escarabajo
Músculo Los coleópteros no baten directamente las alas.
Los autores emplearon impulsos eléctricos de duración dorsal-longitudinal Dos grupos de músculos se alternan para
determinada para estimular zonas extensas del sis- deformar el tórax (en naranja, los de contracción;
tema neuromuscular del insecto y dirigir así su vuelo. en azul, los de estiramiento), lo que induce
Si la estimulación dependiera de la activación de una una vibración de las alas similar a la
sola neurona, los resultados no podrían repetirse en de los brazos de un diapasón.
un gran número de insectos, ya que, al menor des- Ello imprime al movimiento
una gran rapidez.
plazamiento del implante, se perdería el control del
escarabajo.

Músculo
dorsal-ventral

Control remoto
De modo muy parecido a los coches o aviones
de juguete, durante el vuelo un sistema de
control envía a los insectos órdenes por radio.

Se implantan en el insecto seis

electrodos: cerca de los lóbulos
ópticos izquierdo y derecho, en el
cerebro, en el tórax (contraelectrodo)
y en los músculos basalares de vuelo
derecho e izquierdo.

Una placa base con un circuito impreso

distribuye los impulsos eléctricos hacia el
lugar adecuado para que el insecto remonte
vuelo, maniobre o se detenga. Sobre la placa
1,6 cm puede verse la batería, de color plateado.

Una antena recibe

las órdenes de vuelo
y las transmite a la
placa base. Mecynorrhina torquata
BRYAN CHRISTIE (ilustración); DAVID LIITTSCHWAGER (fotografía)

Tamaño real Microbatería

Primeras experiencias Microcontrolador
Electrodo
Las primeras pruebas con escarabajos verdes de junio (Cotinis texana) ya confirmaron
la posibilidad de controlar las vibraciones de las alas. En un principio, las órdenes se
programaban con anterioridad en un microcontrolador, ya que una radio para el control
inalámbrico suponía demasiado peso para el animal. Cotinis texana (tamaño real)

Mayo 2011, InvestigacionyCiencia.es 81

 VUELO CONTROLADO
La trayectoria de un cyborg
En el laboratorio de Maharbiz (debajo, con Sato de pie), los investi-
gadores dirigen el recorrido de los escarabajos en una cámara de
prueba. En la trayectoria que reproducimos aquí (derecha), el
insecto echó a volar cuando se estimularon sus lóbulos ópticos.
enviar el impulso eléctrico correcto, el sistema nervioso del es-
carabajo se encargaba del resto y el animal se echaba a volar.
INICIOS FALLIDOS
Al principio hubimos de arrostrar un buen número de fraca-
sos. Durante seis meses trabajamos con Zophobas morio, de
1,5 centímetros de longitud y un gramo de peso. Este escara-
bajo se encuentra con facilidad en las tiendas de mascotas, ya
que sus larvas sirven de alimento a salamanquesas y otros rep-
tiles menores. Pero, por desgracia, nunca conseguimos que vo-
lasen, actividad a la que al parecer no son muy dados. No obs-
tante, gracias a ellos aprendimos mucho sobre la anatomía de
los insectos.
Nuestra atención se dirigió después hacia Cotinis texana,
también conocido como mayate o escarabajo verde de junio.
Mide unos 2 centímetros, pesa entre 1 y 1,5 gramos y abunda en
el sudeste de EE.UU. A diferencia de Zophobas, Cotinis goza de
82 INVESTIGACIÓN Y CIENCIA, mayo 2011
Los impulsos eléctricos sobre el músculo basalar derecho inducen
un giro a la izquierda, y viceversa. El vuelo termina cuando los lóbu-
los ópticos reciben un segundo impulso, más largo que el primero,
que satura la transmisión de órdenes a las alas.
Orden de girar a la izquierda
Orden de girar
a la derecha
Orden de girar
a la izquierda
Inicio del vuelo
gran fama como escarabajo volador, razón por la que supone a DAVID LIITTSCHWAGER (fotografía); DATOS TELEMÉTRICOS: SVETOSLAV KOLEV Y NIMBUS GOEHAUSEN, UNIVERSIDAD DE CALIFORNIA EN BERKELEY
menudo un azote para los frutales. Durante dos años compra-
mos miles de ellos a los agricultores, quienes no podían creer
que les pagásemos cinco dólares por insecto para, además, li-
brarles de la plaga.
De los primeros experimentos con Zophobas y Cotinis apren-
dimos la manera de sujetar a los escarabajos sin lesionarlos, así
como el lugar exacto en el que había que adherir los microhilos:
cerca de los músculos dorsales de vuelo y en la base de la cabe-
za. A modo de pegamento, empleamos cera de abejas. Diseña-
mos placas base que recibiesen las instrucciones por radio y
aplicasen las señales eléctricas que deseábamos. En la actuali-
dad, el sistema básico consta de un microcontrolador con radio
incorporada (para recibir las instrucciones), una batería (para
aplicar las descargas eléctricas) y varios hilos de plata de 125
micrómetros de diámetro implantados en el cerebro y en los
músculos responsables del vuelo.
 El prototipo inicial para Cotinis, sin embargo, carecía de
equipo de radio, ya que resultaba demasiado pesado para la car-
ga máxima que podía transportar el animal (entre 200 y 450 mi-
ligramos). Como alternativa, introdujimos las órdenes de vuelo
en el microcontrolador y después observamos el escarabajo en
vuelo libre, sujeto a un hilo o en un sistema de suspensión car-
dán —esto último nos permitía observar el vuelo sin que el in-
secto se moviese del sitio.
Nuestro primer éxito con Cotinis se hizo esperar dos meses.
Tras varios intentos, dimos con una región nerviosa relativamen-
te extensa que, bajo estimulación eléctrica, inducía cambios en
el vuelo reproducibles y predecibles. En concreto, al estimular
con impulsos cortos (de 10 milisegundos de duración) el área del
cerebro situada entre los lóbulos ópticos izquierdo y derecho, el
escarabajo empezaba a batir las alas y adoptaba una postura de
vuelo correcta en casi todos los casos (en un 97 por ciento, para
ser exactos). Pero, además, descubrimos que un impulso de ma-
yor duración sobre la misma zona detenía por completo la vi-
bración de las alas. Habíamos fabricado un interruptor que ac-
tivaba y desactivaba el vuelo del insecto.
Creemos que los impulsos largos sobrecargan las neuronas
de la base del lóbulo óptico e impiden la propagación de cual-
quier otra señal; en particular, también de la encargada de
mantener el batido de las alas. Descubrimos que los impulsos
eléctricos operaban con total independencia de lo que el esca-
rabajo estuviese haciendo en ese momento. Si se encontraba
caminando sobre una mesa en el momento de disparar la se-
ñal de 10 milisegundos, echaba a volar. Si yacía boca arriba al
recibir el impulso, sus alas batían al revés. Y si en el curso del
vuelo recibía un impulso adicional, plegaba las alas, caía y con-
tinuaba a pie. Nada indicaba que los animales sufriesen daño,
tampoco tras caer al suelo. Los escarabajos implantados vivían
tanto tiempo como los no implantados (unos pocos meses), vo-
laban, se alimentaban y copulaban de la misma manera que
los normales.
También hallamos que, al aplicar en rápida sucesión las se-
ñales que activaban y desactivaban el vuelo, podíamos modu-
lar la vibración de las alas. Cuando lo hacíamos mientras el in-
secto volaba, las alas no dejaban de batir, pero disminuían su
ritmo. Con ello regulábamos la potencia de vuelo del escaraba-
jo, como si viniese provisto de un acelerador. Por último, a fin
de inducir giros en el vuelo, implantamos microhilos en los
músculos basalares de vuelo derecho e izquierdo. Al aplicar im-
pulsos de 10 milisegundos al músculo derecho, el insecto gene-
raba más potencia en ese lado y, por tanto, viraba hacia la iz-
quierda. Después pasamos a experimentar con Mecynorrhina
torquata, ya que su peso (8 gramos) le permitía transportar tan-
to el equipo de radio como la carga útil.
EL SIGUIENTE PASO
Por atractivos que se muestren los resultados que hemos ex-
puesto aquí, aún quedan objetivos por cumplir. Si bien hemos
logrado que el escarabajo gire a derecha e izquierda o vuele en
círculos, la meta final consiste en guiar al insecto a través de es-
tructuras tridimensionales complejas y plagadas de obstáculos;
por ejemplo, conseguir que se introduzca por chimeneas o tu-
berías. A tal fin, hemos añadido a la carga útil micrófonos di-
minutos que registran el batido de las alas de un escarabajo en
vuelo. Cuando el sonido alcanza determinado nivel —que, en lí-
neas generales, indica si el ala se encuentra en la posición su-
perior o inferior—, pueden aplicarse impulsos para estimular
los músculos que gobiernan la dirección de vuelo.
Aunque los circuitos funcionan de la manera adecuada, se
requieren mejoras en el código informático de control. A tal
efecto hemos consultado a expertos en el desarrollo de progra-
mas para voladores completamente robóticos. A partir de su
trabajo sobre helicópteros autónomos, Pieter Abbeel, de la Uni-
versidad de California en Berkeley, junto a sus estudiantes Sve-
toslav Kolev y Nimbus Goehausen, trabaja en un sistema de con-
trol para insectos que reformula órdenes complejas («cambiar
el rumbo en 20 grados») en términos operacionales («aplicar
impulsos de 10 milisegundos al músculo basalar izquierdo du-
rante tantos segundos»). El usuario solo ha de indicar las correc-
ciones a la trayectoria y el microcontrolador se encarga de dis-
parar los estímulos necesarios. Para determinar cuáles han de
ser dichos estímulos, estamos utilizando imágenes por resonan-
cia magnética, exploraciones anatómicas detalladas y grabacio-
nes de alta velocidad de los insectos en vuelo. Ello nos permite
resolver la configuración muscular del escarabajo en tres di-
mensiones y averiguar la función de otros músculos responsa-
bles de la orientación de las alas.
¿DEBERÍAMOS CONSTRUIR CYBORGS?
Que un insecto dirigido por control remoto llegue a cumplir
las funciones de un robot sigue siendo una cuestión abierta.
Nosotros, no obstante, nos aventuramos a responder afirmati-
vamente. Al mercado seguirán llegando microcontroladores y
equipos de radio cada vez menores y más potentes, lo que fa-
cilitará un control más fino sobre los escarabajos. Y mientras
persista el problema de conseguir baterías en miniatura con
potencia suficiente o el de diseñar alas mecánicas de gran ren-
dimiento, los escarabajos superarán con mucho a cualquier vo-
lador artificial.
Entre todas las repercusiones de nuestra labor, creemos que
destaca la siguiente. A medida que avancen las técnicas de
microfabricación y progrese el conocimiento de los sistemas
biológicos, aumentará la tentación de introducir interfaces y
procesos de control en organismos vivos. Investigar con insec-
tos nos ayudará a sortear errores cuando se apliquen a organis-
mos superiores, como ratas, cobayas y, en última instancia, se-
res humanos. Nuestros estudios también nos permiten pospo-
ner numerosas cuestiones éticas de mayor calado, que, entre
otros aspectos, atañen al libre albedrío y que se mostrarían mu-
cho más acuciantes en caso de trabajar con vertebrados. Los
coleópteros cyborg no aparcarán el deseo de obtener análogos
robóticos —en vista, sobre todo, de la gran cantidad de máqui-
nas que superan a sus contrapartidas naturales—, pero, en cual-
quier caso, la disciplina de integrar lo orgánico con lo sintéti-
co ya ha comenzado.
PA R A S A B E R M Á S
A radiotelemetric 2-channel unit for transmission of muscle potentials during free flight
of the desert locust, Schistocerca gregaria. H. Fischer, H. Kautz y W. Kutsch en Journal of
Neuroscience Methods, vol. 64, n.o 1, págs. 39-45, enero de 1996.
Wing rotation and the aerodynamic basis of insect flight. Michael H. Dickinson, Fritz-Olaf
Lehmann y Sanjay P. Sane en Science, vol. 284, págs. 1954-1960, 18 de junio de 1999.
A dual-channel FM transmitter for acquisition of flight muscle activities from the freely
flying hawkmoth, Aarius convolvuli. N. Ando, I. Shimoyama y R. Kanzaki en Journal of Neu-
roscience Methods, vol. 115, n.o 2, págs. 181-187, abril de 2002.
Remote radio control of insect flight. H. Sato et al. en Frontiers in Integrative Neuroscience,
vol. 3, artículo 24, 5 de octubre de 2009.
Recent developments in the remote radio control of insect flight. H. Sato y M. M. Mahar-
biz en Frontiers in Neuroscience, vol. 4, n.o 199, diciembre de 2010.
Mayo 2011, InvestigacionyCiencia.es 83
 XXXXXXXX

60  INVESTIGACIÓN Y CIENCIA, abril 2014

 D
A
S ID

S
LO IL
ER LA
E B
T
ÉC
N

D A

NE
IC
A
LN
VU
DR
Puede que pronto escuadrillas de
aeronaves no tripuladas surquen los
cielos con fines civiles. Sin embargo,
varios fallos de seguridad permiten
secuestrarlas con técnicas simples
Kyle Wesson y Todd Humphreys
ISTOCK/TIERO

Abril 2014, InvestigacionyCiencia.es  61

 Kyle Wesson es estudiante de doctorado en ingeniería
eléctrica e informática en la Universidad de Texas en Austin.
Pertenece al Grupo de Comunicaciones y Redes Inalámbricas
del Laboratorio de Radionavegacion, donde desarrolla técnicas
afines al sistema GPS.

Todd Humphreys es profesor de ingeniería aeroespacial

en la Universidad de Texas en Austin. Dirige el Laboratorio
de Radionavegación, donde investiga técnicas de navegación
por satélite.

EL
2 de agosto de 2010, un helicóptero de la Marina estadounidense
sobrevolaba perezosamente el restringido espacio aéreo que se
extiende sobre la capital del país. El acontecimiento podría no
haber pasado de una anotación rutinaria en los registros de trá-
fico aéreo del Aeropuerto Nacional Ronald Reagan, de no ser por
un detalle inquietante: en el aparato no viajaba nadie. Carecía de
ventanas y su cabina solo contenía instrumentación electrónica.
Era un vehículo aéreo no tripulado (VANT) o, más conocido aho-
ra, dron (de drone, «zángano» en inglés).

El Fire Scout MQ-8B, de 1429 kilogramos y 9,7 metros de
largo, había sufrido lo que los encargados de investigar el caso
llamarían después un «problema de programación»: una caí-
da de las comunicaciones con el equipo de operadores que,
impotentes, permanecían en una sala de control de la estación
aeronaval de Patuxent River, en el estado de Maryland. Para
empeorar las cosas, el dron incumplió las instrucciones prepro-
gramadas que, en una situación así, debían hacer que regresara
a la base. El Fire Scout, destinado al reconocimiento de buques
de guerra, había invadido el mismo espacio aéreo que usa el
Air Force One (el avión oficial del presidente de EE.UU.) en sus
despegues y aterrizajes.
Tras media hora de nerviosismo, los operadores lograron
restablecer la comunicación y recuperaron el control del objeto.
Más tarde, un alto cargo de la Marina trataría de resaltar el
lado bueno del incidente subrayando el buen comportamiento
de la aeronave durante aquel desvío inesperado. El sistema de
pilotaje automático, por ejemplo, la mantuvo volando en línea
recta y en un mismo plano.
El caso del Fire Scout ilustra con claridad los enormes pro-
blemas de seguridad que aún plantean los vehículos aéreos no
tripulados. Estos emblemáticos aparatos militares ya están co-
menzando a usarse para toda clase de tareas civiles. La Admi-
nistración Federal de la Aviación estadounidense (FAA) estima
que, hacia 2020, más de 10.000 VANT sobrevolarán el país. Muy
pronto podrán dedicarse a labores de rescate, fumigación de cul-
tivos, vigilancia de líneas eléctricas, investigaciones científicas
y numerosas tareas más.
Los argumentos para emplear drones suenan convincentes.
Prescindir del piloto y de todo el equipo necesario para acomo-
dar a la tripulación y los pasajeros supondría un enorme ahorro
en las operaciones aéreas comerciales. Por el mismo precio que
cuesta alquilar un avión pilotado para llevar a cabo varias ins-
pecciones de la red eléctrica, una empresa podría adquirir una
nave no tripulada que realizaría la misma tarea durante años.
El atractivo de los drones ha cautivado a las mayores empresas
de transporte estadounidenses. Frederick W. Smith, fundador
y presidente de FedEx, habla ya de sustituir por aeronaves no
tripuladas su flota entera de distribución aérea.
También el Congreso de EE.UU. es consciente de que el país
se acerca a la era de los VANT comerciales. Cuando en febrero
de 2012 se aprobó la Ley de Modernización y Reforma de la FAA,
la cámara ordenó a la agencia que redactara un plan completo
para acelerar, de manera segura, la integración de sistemas aéreos
civiles no tripulados en el espacio aéreo del país. Dicho informe
debería estar terminado para 2015.
Por desgracia, no parece probable que la legislación necesaria
para regular el vuelo de drones —en esencia, robots por control
remoto— vaya a estar lista a tiempo. Las aeronaves no tripuladas
exigen ampliar la responsabilidad de la FAA más allá de lo que

EN SÍNTESIS

Se prevé que, hacia 2020, más de 10.000 aero-
naves no tripuladas surquen los cielos de EE.UU.
en labores de vigilancia y rescate, control de redes
eléctricas y otras tareas debido al ahorro que su-
pondrá prescindir de los pilotos.
El uso de estos vehículos plantea toda clase de pro-
blemas de seguridad para las que los organismos
reguladores aún no están preparados. Sus cometi-
dos tradicionales deberán ampliarse para impedir
el secuestro de las aeronaves y otros percances.
Será necesario desarrollar medios técnicos que
garanticen la estabilidad de las comunicaciones con
tierra. Las nuevas regulaciones también deberán
afrontar otras cuestiones, como las relacionadas
con la privacidad.

62  INVESTIGACIÓN Y CIENCIA, abril 2014

 PUNTOS DÉBILES

Maneras de engañar
Satélites GPS
a un dron
Los fallos de seguridad en las transmisiones de con- Transmisión
trol pueden aprovecharse para secuestrar la aeronave. de señales
El envío de señales falsas o el bloqueo de las legítimas de navegación
puede hacer que esta se desvíe de su trayectoria y se
estrelle. Los expertos en seguridad han demostrado que
es posible llevar a cabo varios tipos de ataque, ilustrados
aquí con un modelo Schiebel Camcopter.

Señales del transpondedor

Transmisiones
de suplantación
y bloqueo
Desde tierra, un operador
guía la aeronave mediante
señales de radio que pue-
den ser interferidas.
Señales de control

Las transmisiones de un
transpondedor, que advierten
a otros vuelos de la cercanía
Señales
de la aeronave, pueden ser
suplantadoras
suplantadas o bloqueadas.

Interferencias
Interferencia
La transmisión de señales de ruido
puede bloquear la navegación y otras
comunicaciones clave. Aunque es posi-
ble programar una aeronave para que
regrese a la base si pierde las señales
de control, no se conoce ninguna solu-
ción satisfactoria en caso de que fallen
al mismo tiempo las transmisiones de
la base y la recepción de señales GPS.
Suplantación (spoofing)
Un controlador electrónico puede falsificar
las señales procedentes de los satélites GPS
o de los transpondedores de un avión cer-
cano. Las señales simuladas pueden ser más
intensas que las legítimas, lo que haría que
el dron se desviase de su ruta y se aproxi-
mase en exceso a otra aeronave. Una solu-
ción consistiría en cifrar las comunicaciones
mediante una firma digital reconocible, pero
el desarrollo de una técnica semejante aún
tardará años en llegar. Por el momento, no
se conocen alternativas fiables.

hasta ahora han sido sus cometidos tradicionales, como asegurar
que dos Boeing 747 no se acerquen demasiado uno a otro o que no
sufran las inclemencias meteorológicas. Aunque después de los
atentados del 11-S la misión de la agencia se haya ampliado para
garantizar ciertos aspectos de la seguridad de los vehículos aéreos
(fue la FAA la encargada de supervisar la instalación de puer-
tas reforzadas en las cabinas de pilotaje), la perspectiva de ges-
tionar bandadas de drones plantea más problemas que los que
la agencia puede afrontar.
BROWN BIRD DESIGN
les: la señal entrante de los satélites GPS; uno o varios vínculos
que notifiquen a otras aeronaves los movimientos del vehículo;
y una conexión bidireccional con la base terrestre que permita
a los operadores pilotar la nave. La interrupción de cualquiera
de esos enlaces puede provocar un desastre. Sin embargo, exis-
ten casos para los que no se conoce ninguna técnica clara que
garantice su seguridad.
El GPS constituye la pieza clave del sistema de navegación de
un dron. Complementa a los sensores de guía inercial, los mag-
netómetros, los altímetros e incluso las cámaras. El receptor GPS

ENLACES VITALES ocupa un lugar privilegiado entre todos ellos porque, a diferencia
El más sobrecogedor de todos esos desafíos consiste en asegurar de los demás instrumentos, funciona bajo cualquier condición
las conexiones del aparato con el exterior. Maniobrar un VANT meteorológica sin comprometer nunca su enorme precisión. Pero,
requiere disponer de tres enlaces de comunicación principa- al contrario que la versión militar, el GPS civil es de libre acceso

Abril 2014, InvestigacionyCiencia.es  63

y no está cifrado. Usado hoy en teléfonos inteligentes o relojes
deportivos, carece de cualquier tipo de autenticación, lo que con-
lleva el riesgo de que su señal sea sustituida por una falsa. Este
tipo de ataque se conoce como suplantación (spoofing).
En junio de 2012, en la zona de prueba de misiles de White
Sands, en Nuevo México, nuestro laboratorio demostró que la
vulnerabilidad que presenta el sistema GPS a la suplantación
entraña graves consecuencias para los vehículos aéreos no tri-
pulados. A medio kilómetro de distancia, nuestro dispositivo
tomó el control de un dron de 80.000 dólares. Nuestro aparato,
fabricado a mano, emuló casi a la perfección las señales de
satélite que transmiten las coordenadas al dron. Al no poder
distinguir las señales verdaderas de las falsas, la nave se guió
por las nuestras, más intensas.
Una vez engañado, el dron interpretaba las señales de nues-
tro artilugio como órdenes de posicionamiento. Si estas indica-
ban —falsamente— que la nave estaba ascendiendo, el aparato
bajaba para mantener la altitud programada en su sistema de
autopilotaje. Al tratar de ajustar su posición basándose en datos
erróneos, el dron comenzó a dirigirse en línea recta contra el
suelo. Solo lo salvó de la catástrofe un operador preparado para
desoír las instrucciones falsas y hacerse manualmente con el
control de la nave.
Los riesgos que entraña la suplantación se conocen desde
hace una década. Un informe del Departamento de Transporte
de EE.UU. ya avisó de sus peligros en 2001. Sin embargo, los
legisladores y los fabricantes de sistemas GPS apenas lo tomaron
en consideración hasta hace muy poco, tal vez confiados en que
un ataque de ese estilo resultaba demasiado improbable para
merecer atención. Pero las soluciones técnicas no se antojan fáci-
les. Los métodos para proteger las señales GPS mediante marcas
de agua criptográficas (firmas digitales seguras que certifican la
procedencia de un mensaje y garantizan su contenido) tardarán
años en implementarse. Y otras alternativas no criptográficas
que sí cabría poner en marcha en menos tiempo deben aún
demostrar su validez.
Pero la suplantación del sistema GPS no es la única amenaza
que se cierne sobre los VANT. Bloquear su recepción también
resulta sorprendentemente sencillo. Cerca de la superficie terres-
tre, sus señales se muestran muy tenues: su densidad de flujo
(una medida de la intensidad) no supera a la de una bombilla
de 50 vatios situada a 22.000 kilómetros de distancia. Un dis-
positivo que pretenda interferirlas no tendría más que enviar
una señal ruidosa en la misma región del espectro que emplean
los sistemas GPS. Y casi cualquier aparato electrónico moderno,
ordenadores portátiles incluidos, podría interferir de manera
involuntaria la señal del GPS si se encuentra lo suficientemente
cerca de la aeronave.
Un dispositivo diseñado ex profeso para provocar interfe-
rencias puede llegar a resultar muy eficaz a la hora de alterar el
sistema de navegación de una aeronave no tripulada. En mayo
de 2012, en Corea del Sur, los operadores perdieron el control
de un Schiebel Camcopter S-100, un VANT de reconocimiento de
150 kilogramos que acabó estrellándose contra la base de opera-
ciones. El accidente mató a un ingeniero e hirió a dos técnicos.
Lo más probable es que la secuencia de acontecimientos que
condujeron a la catástrofe se precipitase por efecto de interferen-
cias procedentes de Corea del Norte, a las que se sumaron varios
errores humanos por parte de los operadores del vehículo. Estos
casos ponen de manifiesto que una navegación segura, resistente
a la suplantación y a las interferencias, resultará esencial si
deseamos asegurar un tráfico seguro de aeronaves no tripuladas.
64  INVESTIGACIÓN Y CIENCIA, abril 2014
Un informe reciente
reconocía que, por
el momento, no se
han desarrollado
los medios técnicos
necesarios para dotar
a los drones de un
sistema que impida
las colisiones
PREVENIR LOS CHOQUES
La posibilidad de que un VANT colisione en pleno vuelo con otra
aeronave complicará aún más su aceptación. En los aviones tra-
dicionales, los pilotos se valen del radar y de su sentido de la vis-
ta para detectar la presencia de aviones cercanos. Sin embargo, a
los drones aún les queda un largo camino por recorrer antes de
alcanzar ese nivel de vigilancia. En un informe de 2012, la Ofici-
na de Evaluación Gubernamental de EE.UU. reconocía que, por
el momento, no se han desarrollado los medios técnicos necesa-
rios para dotar a las aeronaves no tripuladas de un sistema an-
tichoque que, al mismo tiempo, respete las normas de la FAA.
No interponerse en el camino de otra aeronave resulta es-
pecialmente difícil para los VANT de menor tamaño. Estos no
pueden transportar los equipos de radar actuales, pues resultan
muy voluminosos y consumen grandes cantidades de energía.
Y aunque las cámaras de luz visible e infrarrojos aportan una
solución asequible y de eficacia razonable, no pueden detectar
objetos detrás de las nubes.
En último término, la solución podría venir de los sistemas
de vigilancia dependiente automática por transmisión (ADS-B,
por sus siglas en inglés). Un transpondedor ADS-B comunica
cada segundo la posición y velocidad de la aeronave, al tiempo
que recibe informes similares de los aparatos que se encuen-
tran cerca. Para 2020, en el marco de una gran revisión del
sistema de tráfico aéreo de EE.UU., la FAA exigirá que todas
las aeronaves, grandes o pequeñas, lleven transpondedores
ADS-B. Siempre que un conjunto de naves próximas —tripu-
ladas o no— se comuniquen su posición mediante ADS-B, las
colisiones podrían evitarse.
Pero, como ocurre con el GPS civil, también el ADS-B tiene su
talón de Aquiles. Sus transmisiones no están autenticadas, por lo
que se prestan a la falsificación. Cuando comenzó a desarrollarse
el ADS-B, en los años noventa, la seguridad no representaba un
problema: la idea de transmitir señales falsas era casi inconce-
bible. Sin embargo, los requisitos técnicos y los conocimientos
necesarios para provocar un ataque han disminuido de modo
alarmante desde entonces. En 2012, los investigadores del Ins-
tituto de Tecnología de la Fuerza Aérea de EE.UU. demostraron
que era posible llevar a cabo toda una serie de ataques median-
te señales falsas. Estas podían codificarse y transmitirse desde
tierra o aire, sin más que usar una antena sencilla. Tales «in-
yecciones falsas» pueden hacer creer al sistema de navegación
de un VANT que una colisión es inminente.
Por otro lado, las mismas técnicas permiten generar cientos
de transmisiones falsas o bloquear la recepción de mensajes legí-
timos. Los mensajes de ADS-B adulterados plantearían mayores
problemas a los drones pequeños que a los aviones tripulados.
En estos últimos, el radar de abordo alerta al piloto, que puede
verificar con rapidez si se aproxima otra aeronave o no. Un
VANT, en cambio, carece de un sistema de alerta semejante.
La FAA pretende eludir el riesgo de los falsos mensajes de
ADS-B por medio de sistemas de multilateración: una técnica que
localiza el origen de una señal a partir de los tiempos relativos
de llegada a varios receptores terrestres para, después, transmitir
esa información a un avión en vuelo. No obstante, un sistema de
multilateración fiable requiere una alternativa precisa al GPS;
sin embargo, aún no existe ninguna versión asequible.
Por último, el control de los VANT se realiza a través de una
conexión inalámbrica entre el operador y la nave. A primera
vista, ello parece plantear menos problemas de seguridad que
el sistema GPS o el ADS-B, ya que existen protocolos de comu-
nicación seguros que lo protegen de la suplantación u otros
ataques. Sin embargo, aún resulta posible bloquear las señales.
La pérdida de contacto con el dron (lo que los expertos llaman la
«caída del enlace») puede ser provocada tanto por interferencias
intencionadas como por un fallo de funcionamiento, problemas
para los que aún no se conocen soluciones satisfactorias. Los
operadores suelen configurar los drones con protocolos que, por
ejemplo, ordenen a la nave regresar a la base si la conexión se
pierde durante más de 30 segundos. Sin embargo, tales métodos
dependen de que el sistema de navegación del dron —en sí vul-
nerable a ataques externos— funcione correctamente y de que
los dispositivos de control no sufran fallos informáticos, como
ocurrió con el Fire Scout de Washington.
Otro problema al que se enfrentan los reguladores es el de
asignar bandas de radio exclusivas a la transmisión de señales
de control. Debido a la escasez del espectro disponible, no pocos
drones se verán obligados a recurrir a frecuencias no protegidas,
empleadas en otro tipo de comunicaciones. En tal caso, las seña-
les podrían verse afectadas por las interferencias involuntarias
que provocasen los dispositivos que ya operan en dichas bandas.
EL PROBLEMA DE LA REGULACIÓN LEGAL
En EE.UU., a la complejidad técnica de lograr VANT seguros
se suma una burocracia lenta y reacia a asumir riesgos, así
como una creciente ofuscación legislativa. Los reguladores
deben aceptar que existe una nueva manera de gobernar una
aeronave. El operador que maneja un VANT no es un piloto
que empuña los mandos sin apartar la vista del parabrisas. En
su lugar, ha de introducir la ruta de vuelo en un ordenador,
controlar el vehículo con una palanca y monitorizar el estado
de varios enlaces de comunicaciones. Durante un vuelo, ha-
brá ocasiones en las que el operador manejará el dron como
si se tratase de un avión de miles de kilogramos dirigido por
control remoto; en otras, puede que la nave vuele por sí sola
con total autonomía.
La FAA tiene a su cargo garantizar que el sistema de tráfico
aéreo del EE.UU. consiga los recursos técnicos necesarios para
que un dron pueda compartir con seguridad el mismo espa-
cio aéreo que un Airbus 380 o un monomotor Piper Mirage.
Por tanto, la agencia deberá aprobar regulaciones que impidan
que la pérdida de las comunicaciones con el dron suponga una
amenaza.
El brillante historial de la FAA en materia de seguridad se
debe, en parte, a su precaución a la hora de adoptar nuevas
técnicas que pudieran perturbar el tráfico aéreo. Ahora, la agen-
cia debe hacer frente a la compleja cuestión de reglamentar el
tráfico de drones al mismo tiempo que lleva a cabo una vasta
modernización del sistema aéreo estadounidense: el Sistema
de Transporte Aéreo de la Siguiente Generación o NextGen,
que pretende sustituir los radares por sistemas de navegación
basados en comunicaciones por satélite. En teoría, el Departa-
mento de Seguridad Nacional debería prestar ayuda, pero sus
responsables han repetido en varias ocasiones que los VANT no
forman parte de sus competencias.
Al elaborar las regulaciones, la FAA tendrá que encontrar
un difícil equilibrio entre la seguridad pública y los beneficios
económicos que conlleva el uso de drones. Exigir que una aero-
nave no tripulada se mantenga siempre al alcance de la vista del
operador reduciría las posibilidades de secuestro, pero haría de
estos vehículos un recurso inútil para multitud de propósitos.
El uso de aeronaves no tripuladas plantea, asimismo, cuestio-
nes de privacidad que, en el pasado, la FAA jamás se ha visto
obligada a considerar. Tanto los grupos que velan por garanti-
zar los derechos de privacidad como varios parlamentarios han
reclamado ya a la agencia que dicte normas que hagan frente
a la posibilidad de que un dron provisto de una cámara de alta
definición sobrevuele patios suburbanos.
Entre tanto, numerosos legisladores no ven con buenos ojos
la introducción de drones, artefactos a los que se han acostum-
brado a ver en los telediarios vigilando y bombardeando zonas
de conflicto en otros países. Al menos 42 estados han propuesto
límites legales a su uso. Una ley aprobada recientemente en
Texas tipifica como infracción que una aeronave no tripulada
tome imágenes de una propiedad privada sin el consentimiento
expreso del dueño. A nivel estatal, una iniciativa legislativa de
2013 ha propuesto prohibir que los cuerpos policiales empleen
drones en labores de vigilancia sin una orden judicial. El mis-
mo proyecto también vetaba el uso de drones equipados con
armamento, tanto por parte de civiles como por parte de las
fuerzas de seguridad.
Parece probable que esa lista de requisitos técnicos y norma-
tivos, así como todas las preocupaciones expresadas por los le-
gisladores, retrasen la adopción de VANT para usos civiles, pero
no que la detengan. Las cuestiones de seguridad que conllevan
deben analizarse con cierta perspectiva. Muchas de sus vulne-
rabilidades son análogas a las que desde hace tiempo afectan a
los vuelos pilotados: un avión también puede ser secuestrado,
su tripulación puede sufrir coacciones y la comunicación con
tierra puede perderse. Con todo, continuamos volando. Y no
porque ignoremos tales riesgos, sino porque los beneficios del
tráfico aéreo superan con creces los inconvenientes. Al final, los
drones exigirán de nosotros una concesión similar.
PARA SABER MÁS
Unmanned aircraft systems: Measuring progress and addressing potential
privacy concerns would facilitate integration into the national airspace
system. Oficina de Evaluación Gubernamental de EE.UU., 18 de septiembre
de 2012. Disponible en www.gao.gov/products/GAO-12-981
Unmanned at any speed: Bringing drones into our national airspace. Wells
C. Bennet. Issues in Governance Studies series, n.o 55. Brooking Institution,
14 de diciembre de 2012. Disponible en www.brookings.edu/research/
papers/2012/12/14-drones-bennett
Abril 2014, InvestigacionyCiencia.es  65
 ESPECIAL
MONOGRÁFICOS DIGITALES
Descubre los monográficos digitales que reúnen nuestros
mejores artículos (en pdf) sobre temas de actualidad

www.investigacionyciencia.es/revistas/especial