Bruxelles, le 2 dcembre 2014.

Rponse provisoire dAntoinette Rouvroy la contribution dHenri Verdier

(http://www.henriverdier.com/2014/10/gouvernement-des-algorithmes-whats-next.html ) au dbat sur
le gouvernement des algorithmes (http://digital-studies.org/wp/seminaire-digital-studies-antoinetterouvroy-et-bernard-stiegler-paris-07102014/?lang=fr) .
Ce dbat prend en effet trop souvent la forme d'une joute strile entre les enthousiastes ,
technophiles , amis de linnovation , "ralistes" d'une part et les paranoaques , ludites ,
conservateurs, "rveurs" de l'autre
Sans ncessairement abonder dans le sens des clbrations radieuses du Big Data dont la littrature
regorge : de Ian Ayres ( http://islandia.law.yale.edu/ayers/indexhome.htm ) Alex Pentland (
http://socialphysics.media.mit.edu/book/ ), en passant par la prose d'IBM (
http://www.ibm.com/smarterplanet/us/en/ ), nous sommes servis ! il me parat tout fait vident que
dans de nombreux domaines de la connaissance (gntique, pidmiologie, astronomie, climatologie,
etc.), les perspectives ouvertes par les Big Data et les nouvelles techniques de dataminng et de
visualisation des donnes sont extraordinairement intressantes. Il ne s'agit donc pas de condamner les
Big Data Il s'agirait plutt, enfin, de nous rendre compte que les Big Data, en elles-mmes, ne sont
ni bonnes ni mauvaises, qu'il est absurde d'tre "pour" ou "contre", mais qu'elles ne sont jamais
"neutres": tout dpend des applications envisages, et du rapport (de complmentarit ou de
substitution,...) qu'elles entretiennent avec les autres modes de production de "savoir" dans les
diffrents domaines d'application. Il revient, me semble-t-il, chaque discipline scientifique d'valuer
la pertinence de ce nouveau "prisme perceptuel" et de garantir la robustesse de ce que la discipline
peut produire avec ces nouveaux outils (on peut s'attendre, ds-lors, une rapide dflation des
enthousiasmes pour le Big Data,).
Un architecte de la data pour une banque de dtail mcrivait rcemment pour me
demander des rfrences de recherches qui embrasseraient la globalit du Big Data, dans ses
capacits les plus sombres et ses possibilits de dvoilement et dinterprtation de la complexit." Je
crois que je nai pas pu rpondre sa question car pour moi, il n'y a pas de raison de considrer ces
deux faces, claire et sombre, indpendamment l'une de l'autre, et, dans la mesure o je ne suis pas plus
intresse par la dnonciation de la face sombre que par l'loge de la face claire puisque l'enjeu est,
pour moi, ailleurs, peu de rfrences marquantes me sont venues l'esprit. Sans doute est-ce l le
signe qu'on ne rpond bien qu'aux questions que l'on parvient soimme sadresser (pniblement en
ce qui me concerne). Dans la mesure o comme Michel Foucault (ses travaux sont un peu ma "langue
maternelle"), je pense que les modes de production du savoir et les modes d'exercice du pouvoir sont
indissociablement lis, "co-produits", l'tude des enjeux pistmologiques (possibilits de
dvoilement et d'interprtation de la complexit) est, pour moi, indissociable des enjeux de

philosophie politique (modalits de gouvernement, de rcalcitrante de subjectivation,). Il mest

donc impensable de dissocier ces deux aspects. Mais ma connaissance, il n'existe pas encore, dans la
littrature, d'ouvrage qui prenne en charge ces deux versants prcisment du point-de-vue de leur
indissociabilit. Dans le livre que j'cris en ce moment sur la gouvernementalit algorithmique
(puisqu'on n'est, dit-on tort j'en suis sre en ce qui me concerne, jamais aussi bien servi que par soimme), c'est parce qu'il faut bien se plier la contrainte de la linarit du rcit que je commence par
aborder les enjeux smiotiques et pistmologiques des Big Data Il sagit de montrer leur
extraordinaire potentiel de reconfiguration de la perception, avec tout ce que cette rvolution de l'accs
au "rel" peut ouvrir comme perspectives indites dans une srie de domaines ft-ce que parce quelle
nous dbarrasse partiellement du joug perceptuel impos aux sens ordinaires (et qui nous rend
invitablement "prisonniers" d'un point-de-vue toujours trop partial et d'une perspective toujours trop
partielle). Mais il sagit aussi de montrer que les interfaces cognitives nourries par les Big Data ne font
pas qu'lucider, c'est--dire mettre en lumire, mais qu'elles plongent aussi dans l'ombre tout ce qui
n'est pas numris ni numrisable. C'est donc une "ralit" partielle qu'elles donnent accs,
contrairement ce que prtend l'idologie, trs puissante, qui accompagne le "phnomne" des Big
Data et sur laquelle des botes comme IBM, Palantir, Evolve et bien dautres capitalisent massivement
(d'une manire, en plus, relativement performative grce aux attentes gnres par les promesses du
Big Data). Les dispositifs nourris par les Big Data sont un mode particulier de production de "ce qui
compte comme rel", et si l'objectif est un objectif d'lucidation - et pas un objectif de gouvernement
cyberntique - il est important :
1) de conserver une pluralit, une diversit de modes de production de "ce qui compte comme rel",
de ne pas cder, donc, l'idologie hgmoniste des Big Data, sans rejeter pour autant les perspectives
intressantes qu'elles offrent (perspectives qui, paradoxalement, se prsentent comme mancipes de
l'ide-mme de "perspective" ou de "point-de-vue" situ);
2) de mnager des possibilits de processus de vridiction et de justification, donc de mises l'preuve
des productions de "savoir" manant des Big Data ces procdures devant tenir compte de la nature
des intrts en jeu : suivant une typologie fine des acteurs et surtout de leurs intrts, il est possible de
distinguer les situations dans lesquelles les acteurs ceux qui exploitent les donnes dune part, et
ceux que lon appelle parfois un peu abusivement les utilisateurs (consommateurs, citoyens, qui
sont aussi, en grande partie, les producteurs des donnes) ont des intrts aligns (exemples :
lhpital et les patients ont, en principe, mme si ce nest pas toujours compltement le cas, des
intrts aligns, cest--dire convergents vers la gurison, bonne pour le patient, pour la rputation de
lhpital, etc. alors quune compagnie daviation et les voyageurs peuvent avoir des intrts
dsaligns, la compagnie souhaitant faire payer les voyageurs le plus cher possible tout en restant
concurrentiels, et les voyageurs ayant, eux, intrt payer le moins cher possible). Le profilage
peut jouer soit dans lintrt des deux parties, soit dans lintrt de lune dentre elles seulement, au

dtriment de lautre. Ainsi la classification des patients dans certains profils thrapeutiques est
dans lintrt tant de lhpital que du patient, alors que le profilage des voyageurs dans un certain
profil en fonction de leur prdisposition vouloir payer un certain prix pour un certain voyage (la
personalisation ou le profilage algorithmique permettent dajuster les prix en fonction de la
disposition payer (willingness to pay) de chaque clientau plus le client aura besoin de voyager
telle date rapproche, au plus cher sera son billet), est le plus souvent dfavorable au voyageur (la
somme quil aura dbourser pour voyager tant adapte llasticit de sa disposition acheter un
billet en fonction dune volution des prix, ). En fonction, donc, des applications, et des intrts en
jeu, il importe, afin de protger la partie faible (celle qui subit, gnralement, une asymtrie
dinformation, ntant pas au courant des logiques de traitement de donnes qui prsident aux
dcisions qui laffectent et ne se sachant pas profil ), il sera plus ou moins utile ou ncessaire de
veiller assurer des possibilits de contester les productions algorithmiques (des catgorisations
ou profilages ) :
-

dune part en conservant un certain contrle sur la provenance des donnes. Un exemple

attestant de limportance de conserver ce contrle sur la provenance des donnes : le recours au

datamining, dans le contexte du recrutement ou de la gestion des ressources humaines peut faire
intervenir des collections de donnes en provenance demployeurs anims de prjugs racistes ou
autres, qui auront majoritairement considr comme mauvais employs des personnes dune
certaine origine ethnique. Mais cet animus raciste est rendu imperceptible au cours du traitement
automatis (et qui, parce quil est automatis, parat particulirement objectif) des donnes (un
traitement purement statistique qui tablira, trs logiquement, et sans intention discriminatoire, une
corrlation statistique entre le fait dtre souvent renvoy de son travail et le fait davoir une certaine
couleur de peau). Il sera donc conomiquement rationnel, pour un nouvel employeur faisant appel
au service de recrutement inform par le datamining, de ne pas recruter de personnes ayant cette
couleur de peau quand-bien mme ce nouvel employeur serait, lui, absolument dnu dintention
discriminatoire. Ce contrle sur la provenance des donnes est difficile exiger alors que l'on avance
en direction du "machine learning" ou de l'auto-apprentissage des machines, qui intensifient
lapparence dobjectivit et dimpartialit en faisant oublier que les donnes ne sont jamais donnes
mais toujours produites et construites dans des contextes particuliers.
-

Dautre part, en assurant une certaine publicit (transparence) aux logiques de traitement des

donnes cest--dire aux algorithmes - ce qui est prvu notamment dans les dispositions relatives aux
dcisions prises sur base de traitements automatiss de donnes tant dans lactuelle directive
europenne 95/46 que dans le projet de rglement europen sur la protection des donnes mais rendu
juridiquement difficile du fait que le secret industriel ou le secret dfense, suivant les applications,
permettent de droger la rgle de publicit des dispositifs, y compris ceux qui sont concerns par les
rgles de divulgation prvues par les rgimes de proprit intellectuelle) ;

Enfin, en conservant la possibilit d'opposer aux productions de cette rationalit algorithmique

d'autres types d'noncs fonds sur autre chose que les donnes numrises (par exemple, opposer la
notion de droit la notion de fait qu'impose le prisme de la "donne"; opposer la notion de justice ou
d'quit la notion de "cot rel" ou d'objectivit machinique vhicules par les Big Data; opposer la
notion de tmoignage donnant voix ce qui a disparu sans trace numrique la notion d'une totalit
numrique; etc.) ;
3) de conserver prcieusement des "vacuoles" d'indcidabilit, c'est--dire un espace dans lequel
"dcider" ait encore un sens, et engage encore la responsabilit de celui qui dcide, qui pose un geste
dcisif (qui peut rater) irrductible la seule raction, sur le mode du rflex, aux signaux en
provenance du monde numrique.

Pour suivre, le mme Monsieur me demandait galement sil y avait, dans la littrature, des approches
anthropologiques du Big Data qui rpondraient la question : que dit le Big Data sur lHomme ?.
Bien sr, une premire rponse, un peu rhtorique, serait de dire que, ds-lors que les big data sont
"exploites" des fins de modlisation des comportements humains, elles prtendent dispenser,
notamment, des thories et mthodes d'approche anthropologique, sociologique, ethnographique
"classiques". Une autre rponse, un peu plus srieuse, serait de dire et den considrer srieusement
les consquences que les Big Data n'ont pas, pour "units", les individus, ni mme les objets, mais
les donnes. Les notions d'individu, de sujet, de personne, ou mme de groupe, de collectif, de
communaut, sont, par dfinition pourrait-on dire, dissoutes et exclues dans l'univers des Big Data et
quil n'est donc pas tonnant de ne pas trouver grand chose dans la littrature propos des enjeux
anthropologiques des Big Data. Enfin, on pourrait aussi rpondre que nous manquons un peu de recul
historique pour valuer les implications anthropologiques de ce nouveau "rgime de vrit" (pour
autant que lon accepte de considrer quil sagit bien l dun nouveau rgime de vrit , ce qui ne
va pas de soi). Pour ma part, et dun point-de-vue qui mest subjectif, avec les dformations
rtiniennes qui sont les miennes et dues en partie ma qualit de juriste ou plutt de chercheuse en
philosophie du droit attentive aux problmatiques de lgalit dopportunits, je peux tout au plus
constater que l'engouement pour les modlisations du social informes par les Big Data, loin d'induire
une rupture, un changement de cap relativement la gouvernementalit nolibrale, l'intensifie tout en
l'exonrant de toute exigence de justification. L'hyper-indexation des individus l'chelle infraindividuelle, quasi-molculaire, des "soft data" (donnes manant des rseaux sociaux, des dispositifs
de golocalisation, etc.) ne fait qu'accentuer la mise en concurrence des personnes non seulement sur
base de leurs Cvs, expriences, capacits prouves, projets, mais plus essentiellement sur base de
modles comportementaux (comportementalisme numrique) prdictifs, statistiquement, des
performances futures. Ces modles comportementaux (patterns, ou profils) "naturalisent" des
ingalits socio-conomiques qui en viennent tre considres non plus comme "produites" ou

"construites" mais comme pures "donnes", comme simples "faits" a-politiques. C'est, je pense, cette
intensification de la gouvernementalit nolibrale, de la mise en concurrence des individus l'chelle
de la donnes (asignifiante pour les personnes, mais signifiante pour les algorithmes) dans une
conomie de la rputation (une rputation qui ne se mesure plus que "quantitativement", au nombre
d'"amis" et d'abonns sur les rseaux sociaux, au nombre de "citations", etc.) faisant de chacun
l'entrepreneur de soimme, plus que le "phnomne", en soi, des Big Data, qui serait susceptible de
produire des effets anthropologiques significatifs.
Les enjeux de production de "savoir", les enjeux de gouvernement des conduites, les enjeux de
subjectivation ou d'individuation (comment "devenir sujets" dans un monde de donnes qui dissout
toute forme rsiliante (sujet, objet, groupe,) sont vritablement indissociables. Il ne s'agit donc pas
de montrer, sur le mode d'un "recto-verso", une face brillante et une face sombre, mais bien plutt de
suivre, pas pas, le mtabolisme complexe de co-production du savoir, du pouvoir et des "sujets"
individuels et collectifs. Voil qui replace la problmatique des Big Data dans un contexte d'conomie
politique et dans un mtabolisme de la norme beaucoup plus large (je pense que cet largissement du
contexte est ncessaire pour ne pas "ftichiser" les Big Data dont le succs actuel est le symptme de
beaucoup de choses que lon peut clbrer ou regretter, dont une intensification dune
gouvernementalit nolibrale sur laquelle, in fine, il appartient aux citoyens de poser un jugement.