Sie sind auf Seite 1von 18

Las tecnologas digitales debilitan la capacidad de decidir

Invitado destacado de La noche de la filosofa celebrada en el Centro Cultural Kirchner el 24 de


junio pasado, ric Sadin lleg para la entrevista ms o menos puntual, vestido segn cierto estilo
formal-informal muy en conformidad con su cabellera revuelta. Acompaado por Mateo Schapire
del Institut Franais dArgentine, quien facilit el dilogo, el autor de La humanidad aumentada y
La silicolonizacin del mundo (de prxima publicacin por Caja Negra Editora), se acomod en el
bar de la Librera del Fondo de a poco, luego de saludar, hacer algunos chistes, pedir caf y agua, y
mirar rpidamente el reportaje que le haba realizado Pgina/12, publicado ese da. Ya sentado,
con el grabador encendido, Sadin respondi a la pregunta de apertura con una energa veloz que
no perdera en ningn momento. De mirada inquieta y gestos suaves y acelerados,
conceptualmente preciso pero de espritu fustigador e inconformista, a lo largo de la entrevista
dej algo en claro: la filosofa de la tcnica le interesa antes que nada como crtica poltica de los
sistemas contemporneos de poder.

Aparte de Jacques Ellul y Gilbert Simondon, los maestros que reconoce Sadin sealan claramente
en qu consiste su fuente de inspiracin. Ellul y Simondon, por supuesto dice un poco dudoso
al principio pero tambin Foucault, Rousseau, George Orwell, por quien tengo una pasin
absoluta. En realidad, yo aspiro a ser un autor poltico. De todas maneras, aclara que su posicin
crtica respecto de la tcnica no proviene de ninguno de esos autores (tampoco de Heidegger
subraya) sino del mismo estado de las cosas tcnicas en el mundo actual y de su extrema potencia.
Ha sido una especie de revelacin, declara Sadin con una amplia sonrisa y agrega: Es un chiste,
pero un chiste a medias. A fines de los 90 entend que las tecnologas digitales iban a modificar
totalmente el mundo y que esto llamaba a la investigacin filosfica y al desarrollo de una filosofa
poltica como un deber. Para Sadin, el poder dotado de tecnologas digitales conforma a nuestras
sociedades y, por tanto, es un poder poltico.

La administracin digital del mundo dice con cierto nfasis lleva necesariamente a una
filosofa poltica de la tcnica. Cierta filosofa de la tcnica querra solamente ser eso, pero hoy es
imposible porque las tecnologas digitales exceden el aspecto tcnico y cientfico. Son tecnologas
creadas y desplegadas por un poder econmico-social y, en esa medida, deberamos hablar de
dimensiones tecnoeconmicas y no estrictamente tecnolgicas. En otras palabras, las tecnologas
digitales estn diseadas y determinadas por intereses privados que interfieren en todos los
campos de la vida en comn. Segn Sadin, Ellul (como Orwell) entendi la potencia organizacional
y de dominacin de la tcnica, la organizacin tecnolgica de la sociedad bajo fines de
optimizacin y mercantilizacin. Marx, en ese sentido, slo capt las condiciones materiales de
produccin a travs de la mquina y sus efectos de alienacin sobre el ser humano.
Hoy en da el poder tecnoeconmico afirma Sadin es un potencia organizacional en todas las
escalas de la sociedad que tiene por objetivo satisfacer intereses privados. Ese es el punto central.
Cada vez ms nuestras sociedades estn llamadas a ser testigos en tiempo real de sus actividades
y sus fluidos vitales, sobre todo porque nuestros comportamientos individuales y colectivos
generan datos y objetos conectados. El otro fenmeno tecnolgico mayor es el desarrollo
exponencial de la inteligencia artificial, la coleccin de informacin para ofrecernos
supuestamente bienes de consumo pero que tiene como efecto la automatizacin de amplios
sectores sociales. Se trata de control o simplemente de dominacin? La automatizacin de la
empresas responde Sadin sin prdida de tiempo significa hoy control de datos, sistemas de
inteligencia artificial, medidas de performance del personal, disminucin de la espontaneidad
humana y de la singularidad de cada uno.

La innovacin digital, para Sadin, no es algo para celebrar. La digitalizacin de la realidad (es decir,
la matematizacin del mundo) produce, entre otras consecuencias, una visibilidad en tiempo real
de los fenmenos y una extrema racionalizacin de la sociedad con objetivos de fluidificacin de
hombres o mquinas. De este modo, se ejerce una presin cada vez ms violenta sobre el juicio
humano por medio de asistentes personales (Google, los smartphones, etc.), que hacen un
acompaamiento algortmico de la vida y que pretenden decir la verdad sobre todo para ayudar a
la toma de decisiones y a los hbitos de consumo. Esto supone una puesta en cuestin de valores
humanistas, como la libertad del juicio, reemplazados por un mayordomo digital omnisciente.
Desde un punto de vista colectivo seala Sadin en tono de advertencia ante estos sistemas
de inteligencia artificial conviene preguntarse al modo nietzscheano: quin habla?, yo, con mi
singularidad, o algn otro?Una buena pregunta, desde ya.

Y Sueos y pesadillas del tecnoliberalismo y otra

Somos nuestro cerebro, somos nuestros genes, somos lo que comemos, proponen las tapas de
libros que buscan venderse en los aeropuertos. Somos nuestros datos? Claro que no, dice el
filsofo y ensayista francs Eric Sadin, quien se dedica a investigar qu est realmente en juego en
el estadio actual de desarrollo y uso masivo de tecnologas inteligentes. Lo que ocurre, ms bien,
es que esos datos, recolectados y analizados por dispositivos y algoritmos alojados en el telfono
celular, en redes sociales, en cajeros automticos, en sistemas con los cuales trabajamos,
producen uno, dos, varios perfiles o dobles de nosotros mismos que nos asisten en la vida
cotidiana. Y orientan nuestra vida hacia dos objetivos asegura: la mercantilizacin integral de la
existencia y el aumento del rendimiento.

En su triloga iniciada por Vigilancia global (2009), luego La sociedad de la anticipacin (2011) y,
por ltimo, La humanidad aumentada (Caja negra, 2013), el nico traducido hasta ahora al
castellano, Eric Sadin sostiene que en los ltimos aos las tecnologas digitales promovieron
mutaciones decisivas con amplio alcance antropolgico. Su hiptesis es que asistimos a la
emergencia de una nueva condicin humana asistida y duplicada por robots inteligentes que, en
conjunto, componen un organismo cognitivo aumentado al que le delegamos, querindolo o no,
muchas de las decisiones sobre nuestra vida. El primero de los tres libros se refiere a la
intensificacin de los procedimientos de vigilancia, favorecida por el aumento de la seguridad
global despus de los atentados del 11 de septiembre de 2001. Esto llev, dice Sadin, a que el
conocimiento sobre las personas ya no tuviera tanto que ver con identidades y localizaciones, sino
con huellas informacionales dinmicas, que permiten crear mapas de comportamientos con la
doble vocacin de servir a la seguridad y al marketing.

La segunda parte disecciona esa voluntad anticipatoria de nuestra cultura que huye de la
improbabilidad y el azar como de la peste. En el tercer libro, afirma que estamos inmersos en una
matriz informtica capaz de ampliar sin medida conocida nuestras capacidades cognitivas. Mucho
se ha dicho sobre la inteligencia artificial comenta Sadin desde Pars en esta entrevista por
escrito; en particular, que se rebelar contra sus padres. Esa es una fantasa grotesca: no es la
especie humana la que est en peligro, sino nuestra facultad de juzgar y actuar libremente y con
conciencia.

Hace cuatro dcadas ya se hablaba de la informatizacin de la sociedad. Fue a partir del


informe encargado en 1976 por el entonces presidente de Francia, Valery Giscard dEstaing, a los
funcionarios Simon Nora y Alain Minc. Ese informe diagnosticaba los dilemas econmicos, sociales
y gubernamentales que llegaran con la combinacin entre informtica y telecomunicaciones,
muchos de los cuales luego se desplegaron. En el escenario actual, en el que se nos habla de
innovaciones todos los das, qu es lo realmente nuevo en esta era inteligente de la tcnica?

Inicialmente, el uso de la informtica se orientaba a satisfacer demandas administrativas y


militares: almacenar y manipular la informacin de manera cada vez ms rpida, descifrar
comunicaciones encriptadas y desarrollar clculos predictivos para el envo de misiles durante la
Segunda Guerra Mundial. Durante las dcadas siguientes, se produjo una progresiva
informatizacin de la sociedad, que lleg a los sectores bancario, financiero, de seguros, la
administracin pblica, y alcanz a los individuos a travs del auge de la informtica personal. Ms
tarde, Internet facilit la comunicacin entre personas y el acceso a corpus textuales voluminosos.
Pero en el momento de su sbita generalizacin en la dcada de 1990, fue masivamente ocupada
por el rgimen privado, que la abord como un nuevo canal para la venta y la publicidad. Poco
ms tarde apareci un nuevo modelo, basado en el seguimiento de la navegacin, donde Google
se convirti en el actor principal. Estos ejes no dejaron de sofisticarse en los aos 2000 y asentaron
el dominio definitivo de los poderes econmicos sobre el mundo digital. Hoy se da un brusco
agravamiento de la digitalizacin progresiva del mundo a travs de la diseminacin de sensores en
cada vez ms mbitos de la realidad.

Para usted un momento clave es 2007, con la aparicin de los smartphones. Por qu?

La introduccin del smartphone instituy una conexin espacio temporal virtualmente


ininterrumpida, as como el uso de aplicaciones que permiten gozar de servicios personalizados y
geolocalizados. Recordaremos ms tarde que fue a partir de l que emergieron las premisas del
acompaamiento algortmico de la vida. Denomin antrobologa a esta nueva condicin humana
asistida cada vez ms por robots inteligentes. Los datos que generamos son recolectados sobre
todo por empresas privadas y procesados por sistemas de inteligencia artificial capaces de operar
una presin creciente sobre la decisin humana, como cuando las empresas hacen que los
sistemas digitales sugieran al personal lo que debe decir porque es posible ver en tiempo real
cunto mide su performance. Esto no slo violenta el derecho laboral, sino tambin la integridad y
la dignidad.

La nueva envoltura tecnolgica del mundo, sugiere en el libro, da lugar al desarrollo de una
industria de la vida que procura obtener beneficios de todas nuestras acciones.

Es as. Asistimos al advenimiento de una industria de la vida, que se hizo posible por el cruce
entre la difusin de dispositivos de captacin y la sofisticacin continua de la inteligencia artificial.
Google, empresa que desde 2015 se ha rebautizado Alphabet, se ubica a la vanguardia de esta
industria. La empresa ya no se conforma con obtener beneficios econmicos de su motor de
bsqueda. Tambin ofrece su plataforma de videos en lnea, YouTube; su sistema operativo,
Android; su servicio de cartografa, Google Maps; sus departamentos de investigacin sobre la
salud, Calico; sobre la educacin, Google para la Educacin; sobre las infraestructuras de red,
Google Fiber: sobre robtica, Boston Robotics; sobre urbanismo, Sidewalk Lab; sobre inteligencia
artificial, Google Brain y Google DeepMind; el laboratorio dedicado a los proyectos ms audaces,
Google X, en el que se desarrollaron vehculos autnomos. Tiene su sociedad de inversiones de
riesgo, CapitalG, y otra sociedad de inversiones ms pequea, GV, especializada en el apoyo a la
creacin de empresas o start-up. El nombre, Alphabet, debe tomarse al pie de la letra, ya que
atestigua la aspiracin de jugar con el alfabeto de la vida, para dominar sus diferentes aspectos,
para capitalizar sus manifestaciones, haciendo emerger una economa adosada al flujo
ininterrumpido de la vida y del mundo.

No slo una empresa concentra decenas de sectores; tambin se vuelven empresariables todas
las dimensiones que uno pueda imaginar...

Exacto. De pronto, est emergiendo un horizonte econmico virtualmente infinito. Por ejemplo,
un chupete con sensores estar conectado al registro de salud del nio, y proceder a realizar un
examen de saliva peridico, aconsejar la leche apropiada o los productos alimenticios
adecuados. El aparato de TV puede obtener informacin sobre las prcticas de visin, analizar las
conversaciones que se mantienen cerca de l y recomendar programas de manera personalizada.
Incluso el sueo, que permaneca como el continente inaccesible, ahora puede cuantificarse y ser
objeto de explotacin comercial. El camino ha sido largo en la historia del capitalismo, pero el
tecnoliberalismo realiza el ltimo sueo del capitalismo histrico: se lanz al asalto de la vida, de
toda la vida.

En 1995, Nicholas Negroponte public Ser digital, manifiesto del optimismo tecnolgico de la era
digital. All afirmaba: El futuro ya est aqu, y solo existen dos posibilidades: ser digital o no ser.
Hace pocas semanas, Martin Hilbert, un asesor tecnolgico de la Biblioteca del Congreso de
EE.UU., afirm en una entrevista que la inteligencia artificial ya es una parte inseparable de
nuestra sociedad. Podrs irte a la cordillera, dejar tu celular atrs y dems, pero ya no seras
parte de nuestra sociedad. Dejaras de evolucionar con nosotros, aseguraba. Estamos en una
nueva etapa imparable o estos discursos forman parte de lo que usted llama la dimensin
totmica de la tecnologa?

La ideologa tecnoliberal de Silicon Valley se ha impuesto. Se convirti en el nuevo axioma TINA


(There is no Alternative), celebrado como virtuoso, no slo por la economa sino por la sociedad
en su conjunto. Ante el poder de tales discursos es importante analizar las cosas, poner en
cuestin las evidencias, exponer los intereses en juego as como la magnitud de las consecuencias.
Es tiempo de desarrollar una crtica en todos los niveles de la sociedad, en las ciencias humanas,
en los sindicatos, en las asociaciones de consumidores... Porque si no tomamos el asunto en
nuestras manos, ser el tecnoliberalismo el que disear la forma de nuestras vidas individuales y
colectivas, y eso es inaceptable.
En La humanidad aumentada cita frecuentemente a Jacques Ellul. Una de las ideas persistentes
de Ellul es la de la simplicidad voluntaria, sintetizada en su tica del no-poder. En qu medida
comparte usted esa propuesta?

Todos somos ciudadanos y, al mismo tiempo, consumidores. Por mi parte, llamo a rechazar la
compra de objetos que contengan protocolos inteligentes encargados de prestarnos asistencia
continua, as como computadoras elctricas conectadas que memorizan nuestros gestos en
nuestros hogares. Nunca como hoy negarse a hacer una compra revisti un carcter tan poltico.
Contra la ambicin desmesurada del tecnoliberalismo de querer conducir el curso de nuestras
vidas, tenemos el deber de salvaguardar la parte inviolable de nosotros mismos, que es nuestra
autonoma de juicio y de accin. Lo que est en juego es un conflicto entre modelos de civilizacin,
y hay que elegir. Un modelo est basado en la libre expresin de las personas y el derecho a
decidir por deliberacin el curso de nuestras sociedades. El otro est basado en la algoritmizacin
creciente de la vida, bajo la influencia de la industria digital y como resultado de la presin
continua sobre la decisin humana para satisfacer intereses privados. Es urgente que nos
movilicemos.

Eric Sadin analiza en su obra, y en esta nota, las relaciones entre el individuo, la sociedad, los
datos, los programas, los iPhones o los smartphones, los grandes sistemas que deciden por s solos
y la amenaza de los Data Center.

Desde Pars

Ya no estamos solos. Un doble o muchos dobles nuestros persisten en los incontables Data Center
del mundo, en las redes sociales, las memorias gigantescas de Google, de Facebook o de la
Agencia Nacional de Seguridad de Estados Unidos, la NSA. Es lo que el ensayista francs Eric Sadin,
uno de los autores ms profticos y brillantes en el anlisis de las nuevas tecnologas, llama la
humanidad paralela. Este ensayista francs no comete la tontera de agitar espantapjaros
triviales a propsito de nociones como el transhumanismo. Tampoco se refiere a la fusin fsica
entre el ser humano y las mquinas, el famoso ciborg, ni ahonda en la tesis del fin de una
humanidad recuperada o salvada mediante soportes numricos. No. Eric Sadin piensa de manera
magistral las relaciones entre el individuo, la sociedad, los datos, los programas, los iPhones o los
smartphones, los grandes sistemas que deciden por s solos y la amenaza de los Data Center.

En cada uno de sus libros anteriores, Surveillance Globale, La Socit de lanticipation, Eric Sadin
ha explorado como pocos las mutaciones humanas inherentes a la erupcin de la hiper tecnologa
en nuestras vidas. Lejos de contentarse con un anecdotario trivial de los instrumentos
tecnolgicos que surgieron desde hace dcadas, Sadin los piensa de una forma indita. Su ltimo
libro, LHumanit Augmente, Ladministration numrique du monde (La humanidad aumentada,
La administracin digital del mundo), explora la capacidad cada vez ms creciente que tienen los
dispositivos inteligentes para administrar el rumbo del mundo. El libro gan en Francia el Hub
Awards 2013, un premio que recompens al mejor ensayo del ao.

La obra navega fuera de los senderos evidentes. Ni elogio fnebre de la especie humana ni cntico
de rodillas a las nuevas tecnologas, sino una reflexin pura que demuestra que nos encontramos
en un momento crtico de la historia humana. Para Eric Sadin, Hal 9000, la computadora sper
potente que en la pelcula 2001 Odisea del Espacio equipa la nave Discovery, ha dejado hace
mucho de ser una ficcin: Hal 9000 ha sido incluso superada por la tendencia actual hacia una
administracin robotizada de la existencia. GPS, iPhone, smartphone, sistemas de gestin
centralizados que deciden por s solos, trazabilidad permanente, todo confluye en la creacin de lo
que el autor llama un rgano-sinttico que repele toda dimensin soberana y autnoma. En esta
entrevista con Pgina/12, Sadin analiza ese doble tecnolgico que nos facilita muchas cosas al
tiempo que nos acecha al punto de transformar nuestra humanidad.

Eric Schmidt, el presidente de Google, dice en su ltimo libro The New Digital Age que
acabamos de dejar los starting-blocks de la revolucin numrica. Usted, al contrario, estima
que la revolucin digital se acaba. Fin o nueva fase?

La dcada actual seala el fin de lo que se llam la revolucin digital, que empez a principios
de los aos 80 mediante la digitalizacin cada vez ms vasta de lo real: la escritura, el sonido, la
imagen fija y animada. Ese amplio movimiento histrico se despleg paralelamente al desarrollo
de las redes de telecomunicacin e hizo posible el advenimiento de Internet, o sea, la circulacin
exponencial de los datos en la red. Esta condicin tecnolgica universalizada trastorn
prioritariamente tres dimensiones: las condiciones de acceso a la informacin, el comercio y la
relacin con los otros a travs de los correos electrnicos y las redes sociales. Hoy, esta
arquitectura que no ces de desarrollarse y consolidarse est slidamente instalada a escala global
y permite el advenimiento de lo que yo llamo la era inteligente de la tcnica.

La historia del siglo XXI se parece entonces a una redefinicin de las lneas antropolgicas.
Usted la define como una humanidad comprometida en una odisea incierta e hbrida,
antroplogo-mecnica.

Nuestro tiempo instaura una relacin con la tcnica que ya no est prioritariamente fundada
sobre un orden prottico, o sea, como una potencia mecnica superior y ms resistente que la de
nuestro cuerpo, sino como una potencia cognitiva en parte superior a la nuestra. Hay robots
inmateriales inteligentes que colectan masas abismales de datos, las interpretan a la velocidad
de la luz al tiempo que son capaces de sugerir soluciones supuestamente ms pertinentes, e
incluso de actuar en lugar nuestro, como ocurre con el trading algortmico, por ejemplo.

Precisamente, el trading algortmico desempe un papel nefasto en la crisis financiera de


2008. Un dispositivo creado por el ser humano oper una suerte de sustitucin que termin
ahondando la crisis.
Las transacciones financieras mundiales se llevan a cabo mediante la colecta automatizada de
volmenes astronmicos de datos: su tratamiento en tiempo real, la compra o la venta de
acciones estn a cargo de robots numricos que trabajan a una velocidad que sobrepasa nuestras
capacidades cognitivas. Hace 30 aos, esa actividad estaba realizada por seres humanos, pero fue
poco a poco transferida hacia sistemas interpretativos y reactivos. Ese fenmeno expone el
momento inquietante de nuestra contemporaneidad, donde las producciones tecnolgicas
concebidas por seres humanos nos sustituyen e incluso actan en lugar nuestro.

En su ltimo ensayo, La humanidad aumentada, la administracin digital del mundo, usted


expone un mundo cartografiado de manera constante por los sistemas digitales. Usted muestra
la emergencia de una suerte de humanidad paralela las mquinas destinadas a administrar el
siglo XXI. Se impone una pregunta: qu queda entonces de nuestra humanidad?

La historia de la humanidad est constituida por una infinidad de evoluciones sucesivas en todos
los campos. Desde el Renacimiento, nuestro potencial humano se fund sobre la primaca humana
constituida por la facultad de juzgar, la facultad de decisin y, por consiguiente, de la
responsabilidad individual que funda el principio de la Ley. La asistencia de las existencias por
sistemas inteligentes, adems de que representa una evolucin cognitiva, redefine de facto la
figura de lo humano como amo de su destino en beneficio de una delegacin progresiva de
nuestros actos concedida a los sistemas. Una creacin humana, las tecnologas digitales,
contribuyen paradjicamente a debilitar lo que es propio al ser humano, o sea, la capacidad de
decidir conscientemente sobre todas las cosas. Esta dimensin en curso se amplificar en los
prximos aos. Adems, nuestras vidas individuales y colectivas estn cada vez ms reorientadas
por sistemas que nos conocen con mucha precisin, que nos sugieren ofertas hiper
individualizadas, que nos aconsejan este u otro comportamiento. Por medio del uso de nuestros
protocolos de interconexin se opera una cuantificacin continua de los gestos, la cual autoriza un
asistente robotizado expansivo de las existencias.

Usted se refiere al surgimiento de un componente rgano-sinttico que repele toda


dimensin soberana y autnoma. En suma, el mundo, nuestras vidas, estn bajo el orden de lo
que usted llama la gobernabilidad algortmica. El ser humano ha dejado de administrar.

No se trata de que ya no administre ms, sino de que lo har cada vez menos en beneficio de
amplios sistemas supuestamente ms eficaces en trminos de optimizacin y de seguridad de las
situaciones individuales y colectivas. Esto corresponde a una ecuacin que est en el corazn de la
estrategia de IBM. Esta empresa implementa arquitecturas electrnicas capaces de administrar
por s mismas la regulacin de los flujos de circulacin del trfico en las rutas o la distribucin de
energa en ciertas ciudades del mundo. Esto es posible gracias a la colecta y al tratamiento
ininterrumpido de datos; los stocks de energa disponibles, las estadsticas de consumo, el anlisis
de los usuarios en tiempo real; la energa disponible, las estadsticas del consumo, el anlisis de la
utilizacin en tiempo real. Estas informaciones estn conectadas con algoritmos capaces de lanzar
alertas, de sugerir iniciativas o asumir el control decidiendo por s mismos ciertas acciones:
aumento de la produccin, compras automatizadas de energa en los pases vecinos, o corte del
suministro en ciertas zonas.

Eso equivale a una suerte de prdida mayor de soberana.

La meta consiste en buscar la optimizacin y la seguridad en cada movimiento de la vida. Por


ejemplo, hacer que una persona que pasa cerca de una zapatera pueda beneficiarse con la oferta
ms adecuada a su perfil, o que alguien que se pasea en una zona supuestamente peligrosa reciba
un alerta sobre el peligro. Vemos aqu el poder que se le delega a la tcnica, o sea, el de orientar
cada vez ms con mayor libertad la curva de nuestras existencias. Ese es el aspecto ms
inquietante y ms problemtico de la relacin que mantenemos con las tecnologas
contemporneas.

El escndalo del espionaje que explot con el caso Prism, el dispositivo mediante el cual la NSA
espa todo el planeta, puso al descubierto algo terrible: no slo nuestras vidas, nuestra
intimidad, son accesibles, sino que nuestras vidas estn digitalizadas, convertidas en Big Data,
dobladas.

Prism revel dos puntos cruciales: en primer lugar, la amplitud abismal, casi inimaginable, de la
colecta de informaciones personales; en segundo, la colusin entre las compaas privadas y las
instancias de seguridad del Estado. Este tipo de colecta demuestra la existencia de cierta facilidad
para apoderarse de los datos, guardarlos y, luego, analizarlos para instaurar funcionalidades de
seguridad. La estrecha relacin que liga a los gigantes de la red con la NSA debera estar prohibida
por la ley, salvo en ocasiones especficas. De hecho, no es tanto la libertad lo que disminuye sino
partes enteras de nuestra vida ntima. El medio ambiente digital favoreci la profundizacin
indita en la historia del conocimiento de las personas. Este fenmeno est impulsado por las
compaas privadas que colectan y explotan esas informaciones, a menudo recuperadas por las
agencias de seguridad y tambin por cada uno de nosotros mediante las huellas que diseminamos
permanentemente, a veces sin ser conscientes, a veces de manera deliberada. Por ejemplo, a
travs de la exposicin de la vida privada en las redes sociales.

El caso NSA-Prism marca todo un hito en la historia. De alguna manera, incluso si la gente ha
reaccionado de forma pasiva, hemos perdido la inocencia digital. Cree usted que an persiste la
capacidad de rebelarse en esta gobernabilidad digital?

Con Prism habr un antes y un despus. Este caso mostr hasta qu punto la duplicacin digital
de nuestras existencias participa de la memorizacin y de su explotacin. Esto ocurri en apenas
30 aos bajo la presin econmica y de las polticas de seguridad sin que se haya podido instaurar
un debate a la medida de lo que estaba en juego. Este es el momento para tomar conciencia, para
emprender acciones positivas, para que los ciudadanos y las democracias se apropien de lo que
est en juego, cuyo alcance concierne a nuestra civilizacin.

La ausencia de Europa ha sido en este robo planetario tan escandalosa como cobarde. Usted,
sin embargo, est convencido de que el Viejo Mundo puede ahora desempear un papel central.
Me parece que Europa, en nombre de sus valores humanistas histricos, en nombre de su
extensa tradicin democrtica, debe influir en la relacin de fuerzas geopolticas de Internet y
favorecer la edificacin de una legislacin y una reglamentacin claras. El trmino Big Data, ms
all de las perspectivas comerciales que se desprenden de l, nombra ese momento histrico en el
cual el mundo est copiado bajo la forma de datos que pueden ser explotados en una infinidad de
funcionalidades. Se trata de una nueva inteligibilidad del mundo que emerge a travs de
gigantescas masas de datos. Se trata de una ruptura cognitiva y epistemolgica que, me parece,
debe ser acompaada por una carta tica global y marcos legislativos transnacionales. No
obstante, hay que desconfiar de todo intento de toma de control por ciertos pases capaz de
conducir a una fragmentacin de Internet. Justamente, el valor de Internet radica en su dimensin
universalizada. Me parece que lo que necesitamos es un acuerdo en torno de algunas exigencias
fundamentales.

El smartphone, ese asistente robotizado

En su libro, usted se refiere a una figura mtica del cine, Hal, el sistema informtico de la nave
Discovery que aparece en la pelcula 2001 Odisea del espacio. Hal es, para usted, como la figura
que encarna nuestro devenir tecnolgico a travs de la inteligencia artificial?

Hal es un sistema electrnico hiper sofisticado que representa la figura mayor de la pelcula de
Stanley Kubrick. Hal es un puro producto de la inteligencia artificial, es capaz de colectar y analizar
todas las informaciones disponibles, de interpretar las situaciones y actuar por s misma en funcin
de las circunstancias. Exactamente como ciertos sistemas existentes en el trading algortmico, o en
el protocolo de Google. Hal no corresponde ms a una figura imaginaria y aislada sino a una
realidad difusa llamada infinitamente a infiltrar sectores cada vez ms amplios de nuestra vida
cotidiana.

En esa misma lnea se sita para usted el iPhone o los smartphones. No se trata de juguetitos
sino de un casi complemento existencial.

Creo que la aparicin de los smartphones en 2007 corresponde a un acontecimiento tecnolgico


tan decisivo como el de la aparicin de Internet. Los smartphones permiten la conexin sin ruptura
espacio-temporal. Con ello los smartphones exponen a un cuerpo contemporneo conectado
permanentemente, tanto ms cuanto que puede ser localizado va el GPS. Tambin, a travs de l
se confirma el advenimiento de un asistente robotizado de las existencias por medio de las
innmeras aplicaciones capaces de interpretar un montn de situaciones y sugerirle a cada
individuo las soluciones supuestamente ms adaptadas.

Esos objetos, que son tctiles, nos hacen mantener una relacin estrecha con el tacto. Pero, al
mismo tiempo que tocamos, las cosas se tornan invisibles: toda la informacin que acumulamos
desaparece en la memoria de los aparatos: fotos, videos, libros, notas, cartas. Estn pero son
invisibles.
En efecto, ese doble movimiento trastornante debera interpelarnos. Nuestra relacin con los
objetos digitales se establece segn ergonomas cada vez ms fluidas, lo que alienta una suerte de
creciente proximidad ntima. La anunciada introduccin de circuitos en nuestros tejidos biolgicos
amplificar el fenmeno. Por otro lado, esa familiaridad carnal viene acompaada por una
distancia creciente, por una forma de invisibilidad del proceso en curso. Esto es muy emblemtico
en lo que atae a los Data Centers que contribuyen a modelar las formas de nuestro mundo y
escapan a toda visibilidad. Es una necesidad tcnica. Sin embargo, esa torsin seala lo que se est
jugando en nuestro medio ambiente digital contemporneo: por un lado, una impregnacin
continua de los sistemas electrnicos, y, por el otro, una forma de opacidad sobre los mecanismos
que la componen.

Desarrollar una conciencia crtica

Los poderes pblicos, principalmente en Europa, son incapaces de administrar el universo


tecnolgico, incapaces de encuadrarlo con leyes o fijar lmites. La ignorancia reina, pero la
tecnologa termina por imponerse, al igual que las finanzas, a todo el espectro poltico. De
alguna manera, los poderes pblicos son vctimas de la ignorancia y de lo que Paul Virilio
conceptualiz como nadie: la velocidad.

Una velocidad aumentada sin nunca cesar caracteriza el movimiento vertiginoso imprimido por la
innovacin tecnolgica. Estamos viviendo en el seno de un rgimen temporal que se vuelve
exponencial, prioritariamente mantenido por la industria que impone sus leyes. Lo propio de los
regmenes democrticos es su facultad deliberativa, su capacidad colectiva para elegir
conscientemente las reglas que enmarcan el curso de las cosas. Ese componente est hoy
eminentemente fragilizado. Ahora como en el futuro, debemos enfrentarnos activamente, sin
nostalgia y bajo diversas formas, a la amplitud de lo que est en juego ticamente, bajo la
induccin de esta tecnologizacin de nuestras existencias. Tanto en las escuelas y universidades,
creo que es urgente ensear el cdigo, la composicin algortmica, la inteligencia artificial. Creo
que son los profesores de humanidad numrica quienes deberan ingresar en las escuelas y
contribuir a despertar las conciencias y ayudar a encontrar las perspectivas positivas que se estn
abriendo con este movimiento. Es preciso que en adelante desarrollemos una conciencia crtica
ante nuestra propia utilizacin, que se instaure lo que yo llamo una disciplina de la utilizacin.
Esta disciplina me parece indispensable si no queremos estar infinitamente pegados a las
producciones tecnolgicas, si no queremos volvernos un mismo cuerpo con la tcnica. Es preciso
mantener cierta distancia, porque es la distancia quien condiciona el principio mismo de una
relacin abierta y singularizada con el mundo.

-En esta "era inteligente de la tcnica" se debilita la capacidad humana de decidir. Se diluye lo que
histricamente nos defini como especie: el discernimiento. Hacia dnde vislumbra que se
encamina la humanidad y el rol de nuestra especie?
-La inteligencia artificial se erige de aqu en adelante en una suerte de superyo dotado de la
intuicin de la verdad y llamado a guiar en toda circunstancia nuestras vidas hacia la mayor
eficacia y confort imaginables. Dimensin emblemtica que est en las aplicaciones de asistentes
personales, de eficacia todava balbuciente, como el Siri de Apple, Google Assistant o Alexa, de
Amazon. Se han dicho muchas cosas de la inteligencia artificial, en especial que iba eventualmente
a volverse contra sus progenitores. Visin grotesca y fantasmtica. Porque no es la raza humana la
que est en peligro, sino ms bien la figura humana, en tanto que dotada de la facultad de juicio y
de actuar libremente y a conciencia. Porque es nuestro poder de decisin el que va poco a poco a
ser desposedo, llamado a ser sustituido por sistemas que se suponen omniscientes y ms aptos
para decidir el "perfecto" curso de las cosas en el mejor de los mundos.El sistema Watson por
ejemplo, desarrollado por IBM y que no deja de perfeccionarse, est destinado a guiar la accin
humana en los campos de la medicina, de la actividad bancaria, de las aseguradoras, de la
evaluacin jurdica, del trabajo en las empresas.. Son todos los sectores de la vida los que son
llamados a orientarse por sistemas supuestamente omniscientes, que tienden a excluir la figura
humana del crculo de las decisiones. Por lo dems, esos sistemas proceden de un reduccionismo,
porque todas las cosas del mundo, contrariamente a lo que afirma la ideologa de silicolonizacin
no pueden ser reducidas a datos. Es sobre todo nuestra aprehensin sensible de las cosas la que
tiende a ser siempre postergada en favor de una inteligibilidad de los fenmenos bajo el nico
prisma de los datos numricos.

-En un futuro cercano, gobernados ms por sistemas que tomarn decisiones luego de procesar
infinitos volmenes de datos, Cules podran ser las fisuras del sistema? Qu fenmenos
vislumbra como contraculturales? Existir una forma de rebelarse ante esta ineludible
gobernabilidad digital?

-Todos somos ciudadanos, pero igualmente consumidores, y podemos por medio de decisiones
simples, pero de una temible eficacia, mantener a raya ese modelo. Por mi parte, llamo al rechazo
de la compra de objetos conectados y de protocolos llamados inteligentes, encargados de
asistirnos de manera continua, as como de contadores elctricos conectados que, por ejemplo,
memorizan nuestros gestos en el seno de nuestros habitats. Nunca como hoy el rechazo del acto
de comprar est revestido de semejante alcance poltico, incluso civilizatorio. Contra la ambicin
desmesurada del tecnoliberalismo de querer pilotear el curso de nuestras vidas, debemos
salvaguardar la parte inviolable de nosotros mismos as como nuestra autonoma de juicio y de
accin. Porque lo que est en juego es un modelo de civilizacin contra otro, y hay que elegir. Uno,
del que provenimos, fundado sobre la libre expresin de los individuos y el derecho a decidir
libremente y por medio de la deliberacin del curso de nuestras sociedades. El otro, fundado
sobre la algoritmizacin sin cesar creciente de la vida, sobre el control de la industria de lo
numrico en todos los campos de la vida, que ejerce una presin continua sobre la decisin
humana con vistas a satisfacer slo intereses privados. Resulta urgente movilizarnos. Debemos
esperar que una multitud de iniciativas y de acciones concretas se pongan en marcha, firmemente
decididas a obstaculizar ese anarcoliberalismo numrico indigno y a hacer valer modos de
existencia plenamente respetuosos de la integridad y de la pluralidad de la vida humana.

-Usted postula el nacimiento de una nueva condicin antropolgica: la antrobologa. Podra


explicar en qu consiste usando algunos ejemplos de la sociedad actual y su vnculo con la ltima
tecnologa?

-Hoy, paralelamente a la era del acceso a la informacin que no cesa de intensificarse, se ha


franqueado una nueva etapa. Entramos en lo que llamo "la era de la medida de la vida". Si no
estamos atentos, todo lo que hay en el mundo estar conectado: cuerpos, colchones, espejos,
biberones, vestimentas, cadenas de produccin en las empresas. En teora la lista es infinita. Este
entorno tecnolgico conlleva una visibilidad en tiempo real y eventualmente a un estado
"integral" de nuestras vidas. As como a una cuantificacin continua de nuestros gestos. Los datos
recogidos son tratados por sistemas de inteligencia artificial capaces de actuar retroactivamente
con vistas a dos objetivos. El primero apunta a la propuesta de ofertas o de servicios adaptados,
supuestamente, a cada instante de la vida cotidiana, y que conducen finalmente a un mercadeo
integral de la vida. El segundo apunta a orientar la accin humana. Dimensin particularmente
emblemtica en las empresas, que ve a sistemas dictar los comportamientos del personal en
funcin slo de criterios de optimizacin y de fluidificacin que priva a los individuos de su
espontaneidad y de su poder de invencin. Lo que ultraja no solamente los derechos del trabajo,
sino tambin la integridad y la dignidad humana. Hay que subrayar que esos sistemas salen
directamente de lo que se llama "la innovacin numrica", este nuevo dolo de nuestro tiempo
celebrado por todos con encandilamiento culpable.

-A qu se refiere con lo que llama la "silicolonizacin del mundo"?

-Silicon Valley encarna el insolente triunfo industrial de nuestro tiempo. Rebosa de grupos que
dominan la industria de lo numrico y que acumulan cifras de negocios que hacen soar a los
emprendedores del mundo entero. Todas las regiones del globo buscan, de aqu en adelante,
duplicar su ncleo actual del negocio, ya sea en la economa de datos o de plataformas. Desde
hace un tiempo Silicon Valley no remite ya solamente a un territorio, ha generado un espritu que
pasa a colonizar el mundo, impulsado por numerosos misioneros: industriales, universidades,
think tanks. y por una clase poltica que alienta la construccin de "valleys" sobre los cinco
continentes, bajo la forma de ecosistemas numricos y de incubadores de start-ups. Lo que llamo
la "siliconizacin del mundo" es la conviccin de que ese modelo representa el horizonte
insuperable de nuestro tiempo y que, por aadidura, encarnara una forma luminosa del
capitalismo. Un capitalismo de un gnero nuevo, adornado de "virtudes igualitarias", dado que
ofrece a todos, desde el "start-upper visionario" hasta el "colaborador creativo", o al
"autoemprendedor autnomo" la posibilidad de conectarse y de expandirse. Pero lo que no se ve,
es que ms all de un modelo econmico, lo que se est instalando a toda velocidad es un modelo
civilizatorio, fundado sobre la mercadizacin integral de la vida y la organizacin automatizada de
sectores cada vez ms numerosos de la sociedad.

-Suena peligroso imaginar sociedades donde crezca cada vez ms el poder que se le delega a la
tcnica. Cmo lo ve usted?

-En menos de una generacin, los principios humanos que nos fundan estn siendo erradicados
por los desarrollos de la inteligencia artificial. Porque, segn la visin siliconiana, lo humano no es
gran cosa. Dios no lleg a terminar la creacin. (Lo humano) es una suerte de cuerpo corruptible,
falible, de competencias cognitivas limitadas. Las tecnologas llamadas "de lo exponencial" van a
permitir redimir nuestra pobre condicin y conducirnos sin fin hacia "lo mejor". Es con esa
perspectiva, en conformidad con ese positivismo radical, que hay que entender el delirio
transhumanista, que considera que la tcnica, a partir de ahora, est dotada de un poder tal que
podr detener e invertir el proceso natural de lo viviente. O que incluso fantasea con una grotesca
descarga de informacin del cerebro con chips de silicio, ignorando por completo la irreductible
complejidad de nuestros circuitos neuronales. Es hora de deshacernos de nuestra fascinacin
beata por las tecnologas y de entrar individual y colectivamente en la era de la responsabilidad. Y
eso no tiene que ver slo con prestar atencin a la cuestin de los datos personales. Porque creo
que sobre ese tema estamos en el meollo de uno de los grandes malentendidos de nuestra poca.
La cuestin crucial no tiene que ver con nuestra vida privada, la cual, por cierto, nos importa a
todos, pero que representa tan poco en relacin a lo que actualmente se trama y que debera, por
lo dems, movilizarnos. Porque la gran cuestin no es una cuestin de sociedad, es una cuestin
de civilizacin. Aquella que busca a la larga convertir todo en mercanca, automatizar y orientar la
vida de las personas con el fin de de satisfacer nicamente intereses privados. Ese modelo se
desplegar sobre todo si los datos estn perfectamente protegidos instaurando una "confianza en
la economa numrica", apta para asegurar su expansin. Hay que entender bien el control sobre
la vida que est operando el tecnoliberalismo, al cual sera apropiado oponerle fuerzas contrarias.
Porque de nuestro grado de movilizacin ciudadana y poltica ante estos desafos depender nada
ms ni nada menos que la naturaleza presente y futura de nuestra civilizacin.

..
Escritor y filsofo opuesto al devenir digital del mundo, ric Sadin (Pars, 1973) firma con La
humanidad aumentada un alegato contra las interferencias de la tecnologa en el poder de
decisin humano y contra la mercantilizacin de las distintas vertientes de nuestra existencia que
esconde el auge imparable del big data. Su ltimo ensayo en francs, La siliconizacin del mundo,
donde ahonda en las consecuencias ms prfidas de este modelo emergente de sociedad, ser
traducido al castellano en 2018.

PREGUNTA. Su libro termina con Tetsuo, ese personaje de manga japons con mente humana y
cuerpo tecnolgico. Ya llegamos a ese punto?

RESPUESTA. Hemos superado la era de la digitalizacin para entrar en la de la medicin de la vida.


Los sensores se introducen en nuestro da a da a travs de relojes inteligentes y casas conectadas.
Han aparecido aplicaciones que acumulan datos a una escala gigante, explotados por sistemas de
inteligencia artificial cada vez ms sofisticados. Eso les permite responder a nuestras necesidades
y sugerirnos productos y servicios de manera incesante. Detrs de esas aplicaciones hay una
voluntad de mercantilizar todas las esferas de la vida. Se trata de un acompaamiento algortmico
de nuestra existencia que puede parecer benevolente aunque en realidad tiene finalidad
comercial y esconde intereses privados.

P. Pero sugerir no es obligar. Qu margen de decisin le queda a la voluntad humana?

R. Puede que una recomendacin en Amazon o un anuncio en una web tengan una efectividad
limitada, pero existen otros mecanismos ms coercitivos. Por ejemplo, los sistemas integrados en
el mundo laboral o en la cadencia de produccin de un artculo. Nuestro libre albedro se
desploma a causa de la hipereficacia de la inteligencia artificial.

P. La tecnologa lleva dcadas interfiriendo en la actividad humana. Qu es lo que cambia ahora?

R. Cambia la voluntad de conquistar nuestro comportamiento. El poder de penetracin es mucho


mayor. Esos sistemas son capaces de interpretar situaciones y tomar decisiones sin que el ser
humano tenga que intervenir. Se trata de una ruptura histrica. Espero, como parece insinuar
usted, que la fuerza de decisin humana siga primando. Pero tambin observo una conquista
integral de nuestra vida por parte de las tecnolgicas. Estamos superando un umbral de
liberalismo para entrar en lo que yo llamo tecnoliberalismo, que ya no acepta que ningn rincn
de la existencia humana quede al margen de su control.

P. En el libro sita los orgenes de este fenmeno en el siglo XIX. En qu momento se acelera este
proceso?

R. El punto de inflexin son los atentados del 11-S. La primera potencia econmica y militar
empieza a seguir la pista de los individuos a partir de datos cruzados: comunicaciones telefnicas,
tarjetas de crdito, datos diseminados por Internet A partir de 2011, el desarrollo de los sensores
y la inteligencia artificial posibilita la retroactividad. Es decir, la capacidad de orientar una decisin,
de manera automatizada, a partir de datos sobre el comportamiento que un usuario ha
demostrado tener en el pasado. Estamos dejando atrs la era del acceso, sobre la que discurri
Jeremy Rifkin, para entrar en otra fase distinta. Esa mercantilizacin ya se adentra en campos
como la medicina o la educacin

P. Por qu nadie ha frenado ese desarrollo?

R. Ha emergido una doxa. Se ha generalizado la idea de que ese modelo de sociedad constituye un
horizonte inevitable. Para legitimarlo se utiliza un liberalismo pacfico, de apariencia luminosa,
vehiculado por empresas dinmicas y modernas, todas ellas instaladas en la Costa Oeste y
lideradas por dirigentes que simulan ser el colmo del humanismo. En realidad, todo eso es una
fbula.

P. Qu polticos proponen soluciones acertadas?

R. Ningn poltico quiere meterse en el asunto. Por ejemplo, Emmanuel Macron es uno de los
mejores embajadores de esta ideologa, un propagandista como lo fueron Barack Obama, Hillary
Clinton y el resto de lderes social-liberales. Benot Hamon, candidato a las presidenciales del
Partido Socialista francs, plante algunos de estos temas en su campaa, como la robotizacin o
la renta bsica universal para sus vctimas, pero no respondi de forma satisfactoria al problema.
En realidad, las tecnolgicas estn plenamente a favor de esa renta bsica, porque solucionara de
golpe el problema de la automatizacin. Dar un sueldo a los trabajadores perjudicados por ese
proceso les permitira calmar a la jaura. Lo que ms odian las tecnolgicas es el conflicto. Fjese en
lo que pas con las gafas de Google: en cuanto apareci cierta desconfianza entre los usuarios,
dieron inmediatamente un paso atrs.

P. No ve nada bueno en las nuevas tecnologas?

R. No digo que no tengan ventajas. Est muy bien poder leer The New York Times al despertarse,
comprar un billete de avin en dos minutos o comunicarse gratuitamente con tus amigos en
Japn. Pero tambin observo que se empieza a superar el lmite de la integridad humana. Yo no
quiero vivir con sensores bajo mi cama. Para m, el sueo humano no se puede comercializar. No
hay que rechazarlo todo en bloque, pero tal vez s difundir discursos opuestos a los de los think
tanks liberales. Debera existir un debate social sobre esta cuestin que, por ahora, brilla por su
ausencia.

P. Michel Foucault ya predijo la muerte del hombre. Lo que usted dice es que nos acercamos a
ella.

R. S. Nos dirigimos hacia la muerte de la figura humana segn el modelo de la Ilustracin, que
antes fue el del Renacimiento. Es decir, un ser humano dotado de la capacidad de definirse
libremente a s mismo y de actuar con responsabilidad, que es la nocin sobre la que se erige todo
nuestro rgimen jurdico. Si delegamos cada vez ms decisiones individuales y colectivas ante esos
sistemas tecnolgicos, perderemos nuestro libre albedro y nuestra capacidad poltica. Yo abogo
por reintroducir lo sensible, la contradiccin, la imperfeccin, el miedo al contacto con otro y al
conflicto, cuando este sea necesario.

P. Acab el libro hace cuatro aos. Qu ha cambiado desde entonces?

R. Entonces hablaba de una ambivalencia de la tecnologa que ya hemos dejado atrs. Hemos
entrado en una fase de desarrollo exponencial. Hace cuatro aos tena ms esperanza, mientras
que ahora me queda menos. A no ser que pasemos a la accin y nos opongamos a esta deriva.

La humanidad aumentada. La administracin digital del mundo. ric Sadin. Traduccin de Javier
Blanco y Cecilia Paccazochi. Caja Negra, 2017. 160 pginas. 16 euros.