Universidad TELESUP

Ingeniera de Sistemas
Ciclo 2017-I

La Habitacin china
La habitacin china es un experimento mental, popularizado por Roger Penrose, que
intenta rebatir la validez del Test de Turing a la vez que plantea que una mquina es incapaz
de llegar a pensar. Expone la diferencia que existe entre reconocer la sintaxis y comprender la
semntica, proponiendo que una habitacin cerrada con un mecanismo dotado de la cantidad
suficiente de reglas puede hacerse pasar por una persona. Pero, tiene ese sistema algn tipo
de conciencia o mente? El experimento plantea que la mente humana no funciona como un
programa de ordenador, ni un programa de computadora puede ser una mente. Sigue leyendo,
quizs no seas ms que una pobre mquina que cree que existe.

Hace unos 100 aos, hasta el mismo

Einstein mencionaba que su cerebro era un
excelente laboratorio, en el que poda
plantear los experimentos ms audaces sin
ninguna limitacin. La habitacin china es un
experimento mental de este tipo, que
originalmente fue propuesto por el filsofo
John Searle y ms tarde popularizado por
el fsico y matemtico Roger Penrose. El
objetivo del experimento de Searle es nada
ms ni nada menos que derribar de un
plumazo la idea de que nuestra mente es
similar a un programa de computadora. La
habitacin china busca demostrarnos que
una mquina puede realizar una accin sin entender lo que hace y el por qu lo hace. La lgica
usada por los ordenadores simplemente opera con smbolos sin comprender el verdadero
contenido, un proceso completamente distinto al que (creemos que) ocurre en los seres
humanos.

Supongamos que logramos construir una mquina del tamao de una habitacin,
aparentemente capaz de entender el idioma chino, que funciona de la siguiente manera:
cuando recibe en su entrada textos en el idioma oriental, realiza un proceso interno y
emite como respuesta (coherente) otro texto en chino. Una mquina como esa podra
pasar sin dificultad el Test de Turing, ya que puede convencer a cualquier chino que entiende
su idioma. Searle nos propone que imaginemos que, en lugar de un mecanismo, dentro de la
habitacin se encuentra una persona que no tiene la ms mnima idea del idioma chino.
Se encuentra completamente aislada del exterior, salvo por la ranura por la que entran y salen
las hojas de papel, con los textos escritos en chino. Esta persona tiene a su disposicin, dentro
de la sala, una serie de manuales y diccionarios que le indican las reglas que relacionan los
caracteres chinos de entrada con los que debe escribir para enviar a la salida. Bsicamente,
una serie de premisas del tipo si entran tales caracteres, escribe tales otros". Fuera de esta
sala est el mismo chino que crey que el ordenador hipottico mencionado antes entenda su
idioma.

Searle explica que la habitacin china tiene la capacidad de hacerle creer a la persona que
interacta con ella que comprende el idioma chino, a pesar de que quien est en su interior
nunca haya hablado o ledo ese idioma. En este momento podemos plantearnos algunas
cuestiones bastante espinosas. Cmo puede el operador responder si no entiende el idioma
chino? Son los manuales y diccionarios los que saben chino? Es el sistema completo
(habitacin, operador y diccionarios) el que entiende chino? Searle y Penrose dicen que los
defensores de la inteligencia artificial fuerte, aquellos que defienden la postura de que un
programa de computadora eventualmente podr comprender el lenguaje natural y poseer
propiedades de la mente humana (no simplemente simularlas), deben admitir que, o bien la
Universidad TELESUP
Ingeniera de Sistemas
Ciclo 2017-I

sala comprende el idioma chino, o bien el pasar el test de Turing no es prueba

suficiente de inteligencia. Ya que ninguno de los componentes del experimento comprende
el chino, sus creadores sostienen que aunque el conjunto de las partes sea capaz de superar el
Test, no podemos decir que la persona (o la computadora) que se encuentra dentro de la sala
entienda chino.

Este razonamiento, que no tiene fisuras evidentes, ataca frontalmente la idea de que nuestra
mente es similar a un programa de computadora. Los defensores de la inteligencia artificial
fuerte sostienen que nuestra mente funciona igual que un programa de computadora, y que
nuestro cerebro no es ms que un ordenador biolgico. La mente, en este paradigma, sera
para el cerebro lo que un programa es para la computadora. En este esquema, una
computadora convenientemente programada para simular la inteligencia humana (como el que
se encontrara dentro de la habitacin china), no slo es una simulacin de inteligencia
sino que es inteligencia. Para los defensores de la IA fuerte, los ordenadores digitales
pueden tener mente. Searle, por el contrario, cree que a pesar de que una computadora puede
realizar operaciones de manera completamente formal, expresadas en trminos de smbolos
abstractos (unos y ceros, textos en chino, etc.) no tiene la ms plida idea de lo que est
haciendo. Para el ordenador, esos smbolos no se refieren a nada, no tienen significado, no
tienen contenido semntico y la mquina no tiene conciencia de s misma.

Searle clava una espina en el corazn mismo de la Inteligencia Artificial. Nuestros estados
mentales, sostiene, s tienen contenido semntico (ms all de los rasgos formales que puedan
tener). Cuando nuestros pensamientos versan sobre algo -un paseo por la playa o una cena-
no solo tienen forma sino tambin contenido, o dicho de otra forma, no slo tienen sintaxis
sino tambin semntica. Searle lo resume en una frase: La sintaxis sola no es suficiente
para la semntica y las computadoras digitales en tanto que son computadora tienen, por
definicin, solamente sintaxis. Amn. El seor que est dentro de la habitacin china no
conoce ms que la sintaxis del idioma. Desconoce por completo el contenido de los mensajes.
Los programadores que estn fuera de la habitacin introducen "preguntas" y la persona
dentro de la sala emite respuestas vlidas, gracias a sus diccionarios y manuales. Para los
que estn en el exterior, la habitacin es una experta en chino. Pero la realidad es que quien
est en su interior -sea el hombre o el mecanismo del primer caso- no tiene idea del
significado de esos garabatos que lee y escribe.

Cul es la importancia de la habitacin china? Que manipular smbolos en base a su forma

(sintaxis) no significa que conozcamos su contenido semntico. El argumento de Searle, si es
vlido, representa un duro golpe para la inteligencia artificial. Significa ni ms ni menos que no
es posible crear inteligencia de verdad mediante un programa de computadora. Podemos
simular todo lo que queramos, y engaarnos creyendo que en las tripas de la maquina existe
la inteligencia. Pero independientemente del progreso tecnolgico que alcancemos, una
mquina que aplique reglas no ser otra cosa que la habitacin china, y por lo tanto
incapaz de tener conciencia. Es ms: los que defienden el punto de vista de la Inteligencia
Artificial fuerte, de alguna manera estn diciendo que los humanos tambin somos
simplemente una habitacin china llena de reglas. Si estn en lo cierto, nos engaarnos
a nosotros mismos de una forma espantosa: creemos tener conciencia, suponemos que
"sabemos y entendemos la realidad cuando en realidad somos iguales a la computadora que
cree saber chino.

Cmo sabe el hombre que "sabe"? o ms profundo an, por qu sabe el hombre que existe?
Todos los estmulos que recibimos al ver, tocar, oler u or pueden ser simulados a travs de
mtodos apropiados por una computadora, as que en eso tampoco podemos basarnos para
establecer una diferencia. Si Searle y Penrose se equivocan, no nos diferenciamos en nada de
una mquina llena de reglas. Si estn en lo cierto, tenemos algo que nos hace distintos y que
una computadora jams podr tener. Qu crees?