Le Léviathan algorithmique

Il semble que depuis la sortie du premier iPhone en 2007 l’humanité ait perdu toute conscience critique à l’égard des mécanismes d’aliénation engendrés par la technique. Et le pouvoir de l’hypnose acritique – que l’auteur nomme « sidération » – est d’autant plus grand que cette soumission, parfaitement voulue par de grands groupes industriels, touche à l’organisation de notre société, de nos vies, de nos corps, de nos représentations et du rapport que nous entretenons avec la vérité. Le « changement de statut des technologies numériques » impliquait un nouvel angle d’attaque des stratégies silencieuses à l’œuvre dans l’univers arborescent du numérique, assez aisément fourni par la promotion faite de l’intelligence artificielle depuis 2010.

Éric Sadin, qui a déjà beaucoup écrit sur ces questions, attaque cette fois plus frontalement, en état mental d’urgence, et fustige le story telling actuel construit par une fiction de rationalité. Portée par l’intelligence artificielle à l’échelle du grand public (publicités et arguments de vente souvent proches du délire onirique), introduite dans les rouages des techniques de management et du travail, cette fiction irrigue l’imaginaire social et le monde des valeurs qui le fédèrent. Ce qui anime la force du propos – dont on verra qu’il évolue vers une tonalité singulière –, c’est le constat d’une perte absolue de confiance de l’humanité dans sa capacité à identifier ce qui est bon pour elle et, pire, ce qui relève de la vérité. Plus gravement, sont observées ici une accélération des délégations de valeurs aux machines numériques, une passivité grandissante à l’égard de la transmission de compétences et d’expertises, une acceptation de la modélisation de l’intelligence par une fiction numérique d’efficacité et de raison unifiante chargée de lisser l’imperfection du monde.

En quelques années, bien plus rapidement que pour n’importe quel autre objet technique dans l’histoire humaine, l’intelligence artificielle – autrefois la matière de nombreux films de science-fiction plus ou moins versés dans la dystopie – est devenue la cause d’une nouvelle ruée vers les data, manne industrielle que l’Europe, à la différence de la Chine et des États-Unis, avait complètement manquée, comme le soulignait Laurent Alexandre lors d’une retentissante intervention au Sénat en janvier 2017. Mais contrairement à ce spécialiste de l’IA, Éric Sadin souligne l’aberration constituée par cette fascination du « veau d’or » derrière lequel se précipitent les États, les industries, les imaginaires, et dénonce les conséquences d’une nouvelle modélisation des actions impliquant une modification des comportements sociaux et, à terme, une mise à mort de l’idée même de politique.

L’idée d’une data-driven society – une société dirigée par les données numériques – qui se substituerait aux gouvernements et aux pouvoirs actuels, Éric Sadin en voit les prémisses dans les propos des dirigeants de Google, Amazon ou Facebook et des grands investisseurs du domaine. Le processus en place depuis l’origine de l’informatique grand public rappelle que tout s’est joué au sein d’entreprises qui ont parfaitement compris, dès les années 1970, l’enjeu politique lié à l’influence de tels outils sur la population, ce qui permet de modérer le mythe des inventions isolées réalisées dans d’obscurs garages de Californie pour la pure gloire d’une informatique donnée au monde. 

La réalité est plus violente et on lit entre les lignes de cette « épopée » de l’informatique les souhaits concertés et convergents d’une gigantesque opération de substitution de l’intelligence artificielle aux décisions et aux gouvernements humains. Convoquant simultanément les grandes pensées sociales du xix^e siècle, des référents philosophiques majeurs (Platon, Aristote, Locke, Rousseau, Nietzsche, Hegel, Marx), des informations techniques et des faits d’actualité, Éric Sadin pointe avec vigueur et clarté l’émergence d’un « nouveau régime de vérité » dont les armes sont puissantes : « Il est voué, à terme, à se rapporter à la quasi-intégralité des affaires humaines et à s’exercer en toute circonstance. Il provient, dans chaque domaine d’application, d’une source unique, évacuant de facto le principe d’une appréciation plurielle des choses. Il s’inscrit majoritairement dans une logique de temps réel, révélant des états de fait au moment même où ils se déroulent, poussant conséquemment à agir dans le moindre délai et délégitimant le temps, spécifique, de l’examen humain. Il est affecté d’un statut d’autorité, induit par son efficacité sans cesse amplifiée, tétanisant à la base toute velléité de contradiction. Il relève enfin d’un seul esprit utilitariste, répondant principalement à des objectifs d’optimisation autant qu’à des intérêts privés. »

On ne saurait mieux dire la mise en doute par les thuriféraires de l’intelligence artificielle des valeurs diversifiées de l’expérience, de la qualité de la décision progressivement ajustée au réel, ni mieux évoquer la guerre menée contre le réel lui-même. Ce qui intéresse ici Éric Sadin plus particulièrement, c’est l’intromission des prétendues expertises de l’IA dans les secteurs ultrasensibles de la justice et de la santé. Dans un domaine comme dans l’autre est proposé aux spécialistes, soumis à des cadences de plus en plus insupportables, le support de logiciels présentés comme aides à la décision ou au diagnostic. Les implications d’une telle bascule, qui n’est aujourd’hui qu’expérimentale, pourraient être évidemment dramatiques en ce qu’elles produiraient via des applications autonomes de nouvelles normes de vérité sous le contrôle d’industries privées.

Sous l’emprise de ce qu’Éric Sadin nomme un « léviathan algorithmique », en référence à Thomas Hobbes, soit l’utopie d’un monde mis aux normes des certitudes algorithmiques (dimension déjà observée dans La Vie algorithmique chez le même éditeur en 2015), l’individu, comme être libre de ses choix, se trouve mis au ban même d’une humanité à qui on a vendu une belle histoire destinée à faciliter l’acceptation sociale du processus en cours. Les moyens de séduction sont illimités et ont pour objectif déclaré, notamment au sein des grandes firmes, « un alignement des performances des personnes sur celles des systèmes », dont le traitement par Amazon de ses employés constitue une illustration contemporaine flagrante. Cela pourrait être assez aisément étendu aux procédés managériaux en place dans les grandes entreprises françaises depuis une dizaine d’années, avec les désastres humains que l’on sait : dépression, pathologies diverses, harcèlements de toute nature et suicides. L’alignement de la diversité des comportements possibles, l’amputation voulue des « erreurs » humaines aboutit à une mise aux normes coercitive et utilitariste d’une ampleur sans précédent : « Car c’est notre pluralité même qui est niée pour laisser s’édifier un monde où tout revêt une valeur utilitaire, finissant par rabattre chacun d’entre nous à cette équation. Et alors, nous nous trouvons réduits au rang d’instrument, de simple rouage d’une machinerie impersonnelle, n’étant utilisé, le cas échéant, qu’en fonction des circonstances, voyant la négation de l’exception de chaque être, la figure humaine frappée d’obsolescence [...]. » 

De manière plus surprenante, Éric Sadin détecte dans des systèmes économiques et financiers comme le bitcoin et surtout les blockchains – qui se présentent d’ordinaire, débarrassés qu’ils sont des institutions tierces habituelles, comme « alternatifs » et plutôt hostiles aux systèmes anciens – une reconduction de logiques néolibérales destinées au confort des individus, et le point de vue n’est pas plus tendre à l’égard des « libertariens » ou des « résistants » autoproclamés qui semblent ne servir que leurs propres intérêts au nom d’un monde meilleur usant des armes mêmes de l’économie numérique. De même, l’auteur ne croit pas une seconde à l’idée d’une technologie qui dépendrait de l’usage qu’on en fait, selon le catéchisme d’une éthique complaisamment déployée par les institutions qui tentent de défendre un minimum de protection de la vie privée. Tout ce qui a pu être mis en place relève selon lui de la poudre aux yeux, tant la puissance industrielle et les enjeux financiers engagés dépassent tout ce qu’on pourrait rêver de moduler. Cela explique aussi peut-être la quasi-absence (mais Éric Sadin explore ce domaine dans ses précédents essais) de propos sur l’éducation nationale, non seulement impuissante, mais complice partielle d’une extension des réseaux d’influence du numérique.

Dès lors, convaincus que l’avenir se situe dans l’exploitation de ce potentiel mirifique d’observation, de quantification, de mémorisation et de contrôle, assurés de l’arrivée dans le domaine domestique et privé des systèmes d’intelligence artificielle, les États sont voués à saisir la moindre occasion pour étendre ce second pouvoir, destiné peut-être à les remplacer dans les domaines de la surveillance, du contrôle social et de la guerre. Le dénominateur commun de ce qui est en cours, parfaitement observable, est l’effacement potentiel par les algorithmes de décision des capacités humaines de délibération et de discernement, essentielles par exemple dans le domaine militaire.

La colère et l’indignation étaient déjà palpables dans les essais précédents d’Éric Sadin et les chapitres de conclusion en disaient long sur la conjonction chez lui de l’approche philosophique, de l’émotion et de l’action. Depuis plusieurs années, il s’agit bien pour cet auteur d’interpeller autant l’opinion publique que les institutions politiques, législatives et scientifiques. Dans ce livre, la voix change réellement de nature à partir d’une étonnante tirade du réel (« Le réel est ce qui doit être défendu […]. Le réel, c’est le destin collectif »), juste avant que les dernières pages ne se transforment en un manifeste destiné à mettre en valeur les armes d’une véritable résistance, notamment par son organisation au sein de petites structures, contre ces « dispositifs qui bafouent la dignité humaine », et Éric Sadin plaide pour une considération de la valeur contenue dans notre vulnérabilité.

Le propos enflammé pourrait soudain se comprendre par contresens comme conservateur et rétrograde, mais il s’agit en réalité d’une colère vive et utile contre une « transformation silencieuse » qui n’a d’intelligence que le nom. On en sort donc inquiet mais aussi enrichi, alerté et éveillé, ce qui n’est pas un effet négligeable de cette arme humaine, d’encre et de papier, contre les puissances de destruction qui menacent le socle entier de l’humanisme.