Futuro progreso en la Inteligencia Artificial:

Una encuesta de opinin de expertos

Resumen: Hay, en algunos sectores, preocupacin por la inteligencia de mquina de alto nivel y
la IA superinteligente que se aproxima en unas pocas dcadas, con lo que conlleva riesgos
significativos para la humanidad. En otros lugares, estas cuestiones se ignoran o se consideran
ciencia ficcin. Queramos aclarar cul es la distribucin de las opiniones en realidad, qu
probabilidad los mejores expertos asignan actualmente a la inteligencia de mquina de alto nivel
que se aproxima dentro de un perodo de tiempo determinado, lo que corre el riesgo de ver con
ese desarrollo y lo rpido que ven estos desarrollarse.

As, diseamos un breve cuestionario

y lo distribuy a cuatro grupos de expertos en 2012/2013. La mediana de la estimacin de los
encuestados fue de una en dos posibilidades de que la inteligencia de mquina de alto nivel se
desarrollar alrededor de 2040-2050, llegando a una probabilidad de nueve en diez en 2075. Los
expertos esperan que los sistemas pasarn a la superinteligencia en menos de 30 aos despus.
Ellos estiman que la probabilidad es de uno en tres que este desarrollo resulta ser "malo" o
"extremadamente malo" para la humanidad.
1. Introduction

La Inteligencia Artificial comenz con la "... conjetura de que todo aspecto del aprendizaje o
cualquier otra caracterstica de la inteligencia puede en principio ser descrita de manera tan
precisa que se pueda hacer que una mquina la simule" (McCarthy, Minsky, Rochester y
Shannon, 1955). 1) y se traslad rpidamente de esta visin a grandes promesas para la IA
general de nivel humano en unas pocas dcadas. Esta visin de la IA general se ha convertido
ahora en una idea orientadora a largo plazo para la mayora de las investigaciones actuales sobre
la IA, que se centra en problemas cientficos y de ingeniera especficos y mantiene una distancia
a las ciencias cognitivas. Una pequea minora cree que ha llegado el momento de perseguir la
IA general directamente como un objetivo tcnico con los mtodos tradicionales - estos suelen
utilizar la etiqueta de "inteligencia general artificial"
(AGI) (vase Adams et al., 2012).

Si se lograra la IA general, esto tambin podra conducir a la superinteligencia: "Podemos definir

tentativamente una superinteligencia como cualquier intelecto que exceda en gran medida la
actuacin cognitiva de los seres humanos en prcticamente todos los dominios de inters"
(Bostrom, 2014, captulo 2). Una idea de cmo el progreso futuro en Inteligencia Artificial: Una
encuesta entre los expertos.

Una encuesta entre expertos podra ocurrir que si nosotros pudiramos crear una capacidad
inteligente general artificial en un nivel aproximadamente humano, entonces esta creacin
podra, a su vez, crear una inteligencia superior, la cual podra, a su vez, crear una inteligencia
ms alta y pronto

As que podramos generar un crecimiento mucho ms all de la capacidad humana y tal vez
incluso una tasa de crecimiento acelerada: una 'explosin de la inteligencia'. Dos preguntas
principales acerca de este desarrollo son cundo esperarlo, si es que lo hacen (ver Bostrom,
2006, Hubert L. Dreyfus, 2012, Kurzweil, 2005) y cul sera el impacto de la misma, en particular
los riesgos que ello podra acarrear, posiblemente hasta un nivel de riesgo existencial para la
humanidad (vase Bostrom, 2013; Mller, 2014a). Como Hawking et al. "El xito en la creacin
de la IA sera el mayor acontecimiento de la historia humana. Desafortunadamente, tambin
podra ser el ltimo, a menos que aprendamos a evitar los riesgos. "(Hawking, Russell, Tegmark,
& Wilczek, 2014, vase Price, 2013). Por lo tanto, decidimos preguntar a los expertos qu
predicen el futuro, sabiendo que las predicciones sobre el futuro de la IA a menudo no son
demasiado precisas (vase Armstrong, Sotala, & O Heigeartaigh, 2014) y tienden a agruparse en
25 aos o as ', no importa en qu momento en el tiempo uno pregunta.

2. Cuestionario

2.1 Encuestados

El cuestionario se realiz en lnea por invitacin a individuos particulares de cuatro grupos

diferentes para un total de aprox. 550 participantes (ver Apndice 2). Cada uno de los
participantes recibi un correo electrnico con un enlace nico a nuestro sitio para rellenar un
formulario en lnea (ver Apndice 1). Si no respondieron dentro de 10 das, se envi un
recordatorio y otros 10 das ms tarde, con la nota de que este es el ltimo recordatorio. En el
caso de EETN (ver abajo) no pudimos obtener las direcciones de correo electrnico individuales
y as enviamos la solicitud y recordatorios a la lista de correo de los miembros. Las respuestas se
hicieron en una sola pgina web con un botn de 'enviar' que slo permiti presentaciones a
travs de estos enlaces nicos, por lo que las respuestas no invitadas extremadamente
improbable. Los grupos que pedimos fueron:
1) PT-AI: Participantes de la conferencia "Filosofa y Teora de la IA", Salnica Octubre
2011, organizada por uno de nosotros (ver Mller, 2012, 2013). Se pregunt a los
participantes en noviembre de 2012, es decir, ms de un ao despus del evento.
El total de 88 participantes incluye un taller sobre "La Web y la Filosofa" (alrededor de
15 personas), de la que proceden varios encuestados. Una lista de participantes est en:
http://www.pt-ai.org/2011/registered participantes
2) AGI: Participantes de las conferencias de "Inteligencia General Artificial" (AGI
12) y "Impactos y Riesgos de la Inteligencia General Artificial" (AGI Impactos
2012), ambos Oxford Diciembre 2012. Organizamos AGI Impactos (vase
Mller, 2014b) 12. La encuesta se anunci en la reunin de 111 participantes (de
los cuales 7 slo para los impactos AGI) y llev a cabo ca. 10 das despus. El
sitio de la conferencia est en: http://www.winterintelligence.org/oxford2012/

3) EETN: Miembros de la Asociacin Griega para la Inteligencia Artificial (EETN),

una organizacin profesional de investigadores griegos publicados en el
Abril 2013. Ca. 250 miembros. La solicitud fue enviada a la lista de correo. los
sitio de EETN: http://www.eetn.gr/

4) TOP100: Los 100 'Principales autores en inteligencia artificial' por 'citacin' en 'todos
aos 'segn Microsoft Academic Search
(http://academic.research.microsoft.com) en mayo de 2013. Reducimos la lista
a los autores vivos, aadi tantas como sea necesario para volver a 100, busc
profesionales de correo electrnico en la web y envi avisos a estos.
El cuestionario fue enviado con nuestros nombres en l y con una indicacin de que
lo usara para este papel y el nuevo libro de Nick Bostrom sobre la superinteligencia
(Bostrom, 2014) - nuestro correo electrnico de solicitud est en el Apndice 1. Dado que los
grupos de los encuestados
1 y 2 asistieron a conferencias organizadas por nosotros, saban a quin estaban respondiendo
a. En los grupos 3 y 4 se supondra que la mayora de los expertos no sabra
nosotros, o incluso de nosotros. Estas diferencias se reflejan en las tasas de respuesta.

Los participantes de PT-AI son en su mayora tericos, en su mayora no hacen trabajo tcnico,
ya menudo tienen una visin crtica sobre las grandes reclamaciones para el progreso fcil en AI
(Herbert Dreyfus fue un orador principal en 2011 ). Los participantes de AGI estn
comprometidos con la opinin de que la investigacin de la IA debera ahora volver de los
detalles tcnicos a la "inteligencia general artificial" - por lo tanto el nombre AGI. La gran mayora
de los participantes de AGI realizan trabajos tcnicos. La EETN es una asociacin profesional en
Grecia que acepta slo investigadores publicados de AI. El grupo TOP100 tambin trabaja
principalmente en IA tcnica; sus miembros son mayores y mayores que el promedio acadmico;
Estados Unidos est fuertemente representado.

Varios individuos son miembros de ms de uno de estos cuatro conjuntos y es poco probable
que respondan al mismo cuestionario ms de una vez. Por lo tanto, en estos casos, enviamos la
consulta solo una vez, pero contbamos una respuesta para cada conjunto, es decir, sabamos
qu individuos respondan de las fichas individuales que reciban (excepto en el caso de EETN).

2.3. Methodology

En este campo, es difcil hacer preguntas que no requieren largas explicaciones o generar
resistencia en ciertos grupos de posibles encuestados (y, por tanto, resultados sesgados). No
est claro qu constituye "inteligencia" o "progreso" y si la inteligencia puede medirse o al
menos compararse como "ms" o "menos" como una sola dimensin. Adems, para nuestros
propsitos necesitamos una nocin de inteligencia a un nivel que pueda superar a los humanos
o donde los sistemas tcnicos inteligentes puedan contribuir significativamente a la
investigacin, pero la "inteligencia a nivel humano" es una nocin bastante elusiva que genera
resistencia. Por ltimo, hay que evitar el uso de trminos que ya estn en circulacin y por lo
tanto asociar el cuestionario a ciertos grupos u opiniones, como "inteligencia artificial",
"singularidad", "inteligencia general artificial" o "sistema cognitivo".

Por estas razones, establecimos una definicin que a) se basa en la capacidad de

comportamiento, b) evita la nocin de un "nivel humano" general y c) utiliza un trmino recin
acuado. Esta definicin se encuentra en el prembulo del cuestionario: "Definir una inteligencia
de mquina de alto nivel (HLMI) como una que puede llevar a cabo la mayora de las profesiones
humanas al menos tan bien como un humano tpico". de nuevo a nosotros que no podan decir
lo que un "humano tpico" es - aunque podran ser convencidos de responder, despus de todo.)
En retrospectiva, puede haber sido preferible especificar lo que queremos decir con "ms" y si
pensamos en la mayora de las profesiones o de las profesiones que la mayora de los
trabajadores hacen. Un mrito de nuestra pregunta de comportamiento es que tener HLMI en
nuestro sentido muy probablemente implica ser capaz de pasar una prueba clsica de Turing.

Para lograr una alta tasa de respuesta, tratamos de tener pocas preguntas con opciones simples
y finalmente resolvimos cuatro preguntas, ms tres en los encuestados. Intentamos elegir
preguntas que nos permitan comparar nuestros resultados con los de cuestionarios anteriores -
ver ms abajo.

Con el fin de mejorar la calidad de las predicciones, tratamos de "primo" de los encuestados a
pensar en lo que est involucrado en llegar a HLMI antes de preguntar cundo esperan esto.
Tambin queramos ver si las personas con una preferencia por enfoques particulares de HLMI
tendran respuestas particulares a nuestras preguntas centrales sobre la prediccin (por
ejemplo, si las personas que piensan que los "sistemas incorporados" son cruciales esperan ms
tiempo que HLMI). Para estos dos propsitos, hemos insertado una primera pregunta sobre la
contribucin de los enfoques de investigacin con una lista para elegir - las opciones que se
dieron son una mezcla eclctica de muchas fuentes, pero las opciones particulares no son
de mucha importancia.

2.4 Trabajo prioritario

Algunos grupos han hecho recientemente intentos de evaluar opiniones. Tratamos de formular
nuestras preguntas de tal manera que las respuestas se pueden comparar con estos
cuestionarios anteriores. Notables son:

1. (Michie, 1973, p.511f): "una encuesta de opinin tomada el ao pasado entre sesenta y
siete cientficos informticos britnicos y estadounidenses que trabajan en el campo de
la inteligencia de la mquina o cerca de l".
2. Preguntas hechas en vivo durante la conferencia AI @ 50 de 2006 en Dartmouth College
a travs de un dispositivo de votacin inalmbrica (VCM particip (vase Mller, 2007)).
A pesar de un informe corto sobre la conferencia en (Moor, 2006), los resultados no
fueron publicados, pero afortunadamente pudimos adquirirlos de los organizadores
James H. Moor y Carey E. Heckman - publicamos una seleccin a continuacin.
3. (Baum, Goertzel, & Goertzel, 2011): participantes de AGI 2009, no annimos, en papel,
21 encuestados, tasa de respuesta desconocida.
4. Sandberg y Bostrom, 2011): participantes de la Conferencia de Inteligencia de Invierno
2011, annimo, en papel, 35 encuestados, 41% de la tasa de respuesta.

1. La referencia del famoso investigador de la IA, Donald Michie, es muy breve (todos los detalles
que da en la cita anterior) pero de gran inters histrico: 1972/3 estaban convirtiendo aos para
AI con la publicacin de Hubert Dreyfus "What las computadoras no pueden hacer "(Hubert L.
Dreyfus, 1972), los" Lighthill Debates "de la BBC TV (con Michie, McCarthy y R. Gregory) y el
influyente" Lighthill Report "(Lighthill, 1973). La encuesta de Michie pregunt por el nmero
estimado de aos antes de "computar exhibiendo inteligencia a nivel humano adulto" y el
grfico de Michie muestra 5 puntos de datos:
Tambin pregunt acerca de "spin-off industrial significativo", "contribuciones a los estudios del
cerebro" y "contribuciones de los estudios del cerebro a la inteligencia de la mquina". Michie
aade: "De los que respondieron a una pregunta sobre el riesgo de la" adquisicin "final de los
asuntos humanos por las mquinas inteligentes, la mitad lo consideraban" insignificante "y la
mayora del resto como" sustancial " (Michie, 1973, p.512).

2. AI @ 50 acogi a muchos investigadores destacados de la IA, incluyendo a todos los

participantes vivos de la Conferencia de Dartmouth de 1956, un grupo de estudiantes graduados
financiados por DARPA, adems de algunos tericos. A los participantes se les hicieron 12
preguntas de eleccin mltiple en el primer da, 17 en el segundo da y otras 10 en el tercer da.
Seleccionamos tres resultados del primer da aqu:

3.) Lo ms temprano que las mquinas sern capaces de simular el aprendizaje y todos
los dems aspectos de la inteligencia humana:

5.) Lo primero que entenderemos las operaciones bsicas (mental ps) del cerebro
humano lo suficiente como para crear la simulacin de la mquina del pensamiento
humano es:

6.) Lo primero que vamos a entender la arquitectura de la lluvia b (cmo su control

organizativo est estructurado) lo suficiente como para crear la simulacin de la
mquina del pensamiento humano es:

3. Baum et al. pregunt por la habilidad de aprobar una prueba de Turing, un examen de tercer
ao escolar (es decir, para nios de 9 aos] y hacer investigacin en el nivel del Premio Nobel.
Asumen que todo y slo el comportamiento inteligente de los seres humanos es capturado en
la prueba de Turing. Los resultados obtenidos para el punto de probabilidad del 50% fueron:
2040 (prueba de Turing), 2030 (tercer grado) y 2045 (Nobel).

Creemos que vale la pena hacer un nuevo intento porque los anteriores preguntaron a grupos
especficos y muestras pequeas, a veces tienen problemas metodolgicos, y tambin queremos
ver cmo las respuestas cambian con el tiempo, o no cambian - por lo que trat de usar
preguntas similares. Como se explica a continuacin, tambin creemos que podra ser til repetir
nuestro cuestionario en una etapa posterior, para comparar los resultados.

3. Preguntas y Respuestas
3.1. Enfoques de investigacin
"1. En su opinin, cules son los enfoques de investigacin que pueden contribuir ms al
desarrollo de dicho HLMI? "[Seleccin de la lista, ms de una seleccin posible.]
- Teora de la complejidad algortmica
- Algoritmos revelados por la neurociencia computacional
- Redes neuronales artificiales
- Redes bayesianas
- Ciencia cognitiva
- Sistemas incorporados
- Algoritmos o sistemas evolutivos
- Hardware de computacin ms rpido
- Arquitecturas cognitivas integradas
- Conjuntos de datos a gran escala
- Sistemas basados en lgica
- Robtica
- Inteligencia de enjambre
- Emulacin entera del cerebro
- Otros mtodos actualmente conocidos por al menos un investigador
- Otro (s) mtodo (s) actualmente completamente desconocido
- Ningn mtodo contribuir jams a este objetivo

Los porcentajes aqu son sobre el total de respuestas. No hubo diferencias significativas entre
los grupos aqu, excepto que 'Whole brain emulation' obtuvo 0% en TOP100, pero 46% en AGI.
Tampoco encontramos correlaciones relevantes entre las respuestas dadas aqu y las
predicciones hechas en las siguientes preguntas (del tipo que, por ejemplo, las personas que
piensan que los "sistemas encarnados" podran predecir la aparicin tarda de HLMI).
 3.2. Cundo HLMI?

"2. Para los propsitos de esta pregunta, suponga que la actividad cientfica humana contina
sin alteraciones negativas importantes. Para qu ao vera una probabilidad (10% / 50% / 90%)
de existir tal HLMI? "- Para cada una de estas tres probabilidades, se pidi a los encuestados que
seleccionaran un ao [2012-5000, en un ao incrementos] o marque una casilla marcada como
"nunca".

Resultados clasificados por grupos de encuestados:

Clics de la casilla "Never". Estas respuestas no entraron en los promedios anteriores.
Para la marca del 50%, la mediana general es 2040 (es decir, la mitad de los encuestados dio un
ao antes que 2040 y la mitad dio un ao despus de 2040), pero la media general (promedio)
es 2081. La mediana es siempre inferior a la media aqu porque no puede haber valores atpicos
hacia 'anterior', pero hay valores atpicos hacia 'posteriores' (la seleccin mxima posible fue
5000, entonces 'nunca').

3.3. Del HLMI a la superinteligencia

"3. Supongamos, para el propsito de esta pregunta, que dicho HLMI existir en algn momento.
Qu tan probable es entonces que dentro de (2 aos / 30 aos) despus habr inteligencia de
mquina que supera en gran medida el rendimiento de cada ser humano en la mayora de las
profesiones? "- Se pidi a los encuestados seleccionar una probabilidad de un men desplegable
en 1 % incrementos, comenzando con 0%.

Para todos los encuestados:

Estimaciones medianas sobre la probabilidad de superinteligencia dada HLMI en diferentes

grupos de encuestados:

Los expertos asignan una baja probabilidad de un despegue rpido, pero una probabilidad
significativa de superinteligencia dentro de 30 aos despus de HLMI.

3.4. El impacto de la superinteligencia

"4. Supongamos, para el propsito de esta pregunta, que dicho HLMI existir en algn momento.
Cun positivo o negativo sera el impacto general sobre la humanidad, a largo plazo? Indique
una probabilidad para cada opcin. (La suma debe ser igual al 100%.) "- Los encuestados
tuvieron que seleccionar una probabilidad para cada opcin (en incrementos del 1%). Se
visualiz la adicin de la seleccin; en verde si la suma era 100%, si no en rojo. Las cinco opciones
eran: "Extremadamente bueno - En equilibrio bueno - Ms o menos neutral - En mal estado -
Extremadamente malo (catstrofe existencial)".
Los porcentajes aqu son medios, no medianas como en las otras tablas. Hay una diferencia
notable entre los grupos "tericos" (PT-AI y AGI) y los grupos "tcnicos" (EETN y TOP100).

3.5 Estadsticas de los encuestados

Luego hicimos a los encuestados 3 preguntas sobre ellos mismos:

1. "Con respecto a las preguntas anteriores, cmo describira su propia experiencia?"

(0 = ninguno, 9 = experto)
- Media 5.85
2. "En cuanto al trabajo tcnico en inteligencia artificial, cmo describira su propia
experiencia?" (0 = ninguno, 9 = experto)
- Media 6.26
3. "Cul es su disciplina acadmica principal?"

(Seleccione de la lista con 8 opciones: Biologa / Fisiologa / Neurociencias - Ciencias de

la Computacin - Ingeniera [no CS] - Matemticas / Fsica - Filosofa - Psicologa / Ciencia
Cognitiva - Otras disciplinas acadmicas - Ninguna.

Y finalmente invitamos a los participantes a hacer un comentario, adems de la

posibilidad de agregar su nombre, si as lo deseaban. (No podemos reproducir estos
aqu, pero estn en nuestro sitio, ver ms abajo). Varios comentarios se referan a la
dificultad de formular buenas preguntas, y mucho menos a la dificultad de predecir.

4. Evaluation

4.1. Selection-bias en los encuestados?