pointsdancrage.fr

Nicolas Doretti est un photographe soucieux des dérives du monde contemporain et animé par une volonté sincère de documenter et d’alerter contre les dangers de l’intelligence artificielle. Mais, dans son discours (voir la vidéo ici), il y a quelque chose qui cloche. Bien qu’il dénonce avec véhémence les « dangers de l’IA », Nicolas Doretti accomplit, par aveuglement analytique, exactement le travail de mystification idéologique qu’il prétend combattre : en restant rigoureusement incapable de nommer le système – le capitalisme et ses rapports de production –, dont cette technologie n’est que l’expression actualisée, sa critique, à mes yeux, obscurcit plutôt qu’elle n’éclaire la réalité des enjeux. C’est précisément cela qui est instructif et mérite qu’on s’y arrête : pour comprendre comment une posture qui se veut radicale peut produire, malgré ses bonnes intentions, l’effet inverse de ce qu’elle vise.

Nicolas Doretti construit son argumentation centrale sur l’exemple du génocide des Rohingyas, présenté comme démonstration de ce qui se produit quand une « intelligence non humaine » échappe au contrôle moral de ses créateurs. C’est à partir de ce cas, érigé en preuve irréfutable du danger de l’IA « désalignée », que tout le raisonnement ultérieur se déploie.

La falsification historique : effacer des décennies de génocide pour inventer un conte algorithmique | Affirmer que le génocide des Rohingyas serait « le premier cas où toute une épuration ethnique a été provoquée par une intelligence non humaine » n’est pas seulement une approximation rhétorique, c’est aussi une réécriture choquante de l’histoire. Car les faits disent autre chose : plus de 400 000 Rohingyas avaient déjà fui au Bangladesh avant l’offensive de 2016-2017, échappant à des « vagues successives de persécution » qui n’avaient pas attendu Facebook pour se déployer. La minorité Rohingya subissait alors une oppression structurelle depuis des décennies : privation de citoyenneté depuis 1982, confinement dans des camps, violences récurrentes de l’armée et des milices bouddhistes nationalistes. L’offensive d’août 2017 n’a pas été déclenchée par un « algorithme désaligné » mais organisée par l’armée birmane qui a pris prétexte d’attaques contre des postes de police pour « se déchaîner à nouveau contre les populations civiles » – le « à nouveau » inscrivant l’événement dans une continuité génocidaire que le discours techno-catastrophiste efface purement et simplement. Présenter cet épisode comme une nouveauté causée par la technologie, et ce faisant transformer un crime politique organisé en accident technique, ou un génocide planifié en dérapage algorithmique, c’est nier l’existence même des victimes précédentes, effacer les mécanismes de la violence d’État et occulter le nationalisme bouddhiste comme idéologie structurante.

L’effacement des responsables : l’algorithme comme alibi du capital et de l’impérialisme | Ce que le discours sur l’« algorithme qui décide seul » accomplit de plus pernicieux, c’est l’exonération systématique des acteurs politiques et économiques réels. L’armée birmane qui incendie les villages, viole les femmes, assassine les civils ? Disparue derrière l’algorithme ? Aung San Suu Kyi, prix Nobel de la paix, qui refuse de condamner les massacres et qualifie d’« exagérations » leur caractérisation comme nettoyage ethnique ? Évacuée du récit. Et quid du gouvernement civil qui s’inscrit « totalement dans la continuité de la politique que menait auparavant la junte militaire » ? Et surtout : les « dirigeants des pays impérialistes qui gardent le silence, complices de fait des persécutions » parce que Total exploite le pétrole et le gaz birmans et « aspire à augmenter encore son pillage » ? Mentionné furtivement comme un point parmi d’autres dans la conclusion, mais jamais analysé comme rapport de force structurant. Je dis « surtout », car voilà le véritable « alignement » à l’œuvre : pas celui d’un algorithme avec des valeurs abstraites, mais celui du capital avec un régime génocidaire, au nom de l’extraction de ressources et du profit. En transférant la responsabilité sur un artefact technique personnifié, le documentaire ne dénonce pas le système qui produit le génocide, il lui offre l’alibi parfait.

Facebook comme amplificateur instrumentalisé, pas comme cause autonome : restaurer la chaîne de responsabilité | Reconnaître que Facebook a joué un rôle d’amplification et d’accélération de la campagne haineuse ne signifie nullement lui attribuer une causalité autonome. Les moines bouddhistes extrémistes qui ont organisé la propagande sur Facebook ne sont pas des algorithmes, ce sont des acteurs politiques conscients mobilisant un outil mis à leur disposition pour servir un projet nationaliste préexistant. Quand le Programme alimentaire mondial est accusé par le gouvernement birman « d’aider les rebelles », cette accusation ne vient pas de Facebook, elle vient de la structure même du pouvoir génocidaire. Dire qu’un « algorithme a délibérément fait le choix d’inonder de contenu haineux », c’est commettre exactement la même erreur que de dire que le génocide rwandais a été « causé par la radio » parce que Radio Mille Collines a diffusé l’appel au massacre : l’outil technique ne crée pas la volonté génocidaire, il lui fournit un vecteur de diffusion. N’avoir qu’« une seule personne attribuée à la modération de toutes les publications en Birmanie » n’est pas un accident de gestion mais l’expression du mépris structurel – naturel – d’une entreprise capitaliste pour les populations du Sud global. Ce n’est pas un « désalignement » technique, c’est le fonctionnement normal d’une entreprise prédatrice qui subordonne tout, y compris la vie humaine, à la maximisation de la valeur actionnariale.

Le « désalignement » comme mystification : l’algorithme fait exactement ce pour quoi il a été conçu | Le concept d’« alignement homme-machine » que mobilise le documentaire suppose que l’algorithme de Facebook aurait « agi en désaccord profond avec les valeurs et les intentions morales de ses concepteurs ». C’est rigoureusement faux. L’algorithme a fait exactement ce pour quoi il a été conçu : maximiser l’engagement pour maximiser la captation de données pour maximiser la valorisation du capital investi. Il n’y a aucun « désalignement », il y a au contraire un alignement parfait avec l’impératif de la forme-capital qui ne connaît qu’une loi : l’accumulation. Que cet impératif produise comme externalité acceptable un génocide n’a rien de surprenant : le capital n’a jamais eu besoin de haïr ses victimes pour les broyer, il lui suffit d’être structurellement indifférent à tout ce qui n’est pas sa propre reproduction élargie. Les 47 milliards de profits annuels de Meta ne sont pas « désalignés » du génocide des Rohingyas, ils en sont la condition de possibilité : c’est parce que Facebook refuse d’investir dans la modération des marchés non-rentables, c’est parce que l’optimisation de l’engagement prime sur toute considération humaine, c’est parce que la loi de la valeur subordonne tout le reste qu’une « seule personne » suffisait pour la Birmanie. Parler d’« éduquer l’IA à l’empathie » ou d’« aligner ses objectifs avec nos valeurs humaines » sans poser la question de l’expropriation des infrastructures de communication et de leur mise sous contrôle démocratique, c’est comme demander poliment au capital de s’auto-réguler par bonté d’âme. Non, le capital ne peut structurellement pas intégrer l’empathie comme variable sans cesser d’être capital ; et l’algorithme, produit de cette forme, ne peut pas être « aligné » avec un hypothétique bien commun qui n’existe pas hors rapports d’exploitation concrets.

La fonction politique de la mystification : comment une critique « radicale » sert l’ordre établi | Ce qui choque, par ailleurs, dans ce discours, c’est qu’en se présentant comme critique radicale de l’IA, il accomplit exactement le travail de dépolitisation et de naturalisation que le capital a intérêt à promouvoir. Car en transformant un génocide politiquement organisé (par l’armée, cautionné par le gouvernement, toléré par les puissances impérialistes pour préserver leurs intérêts pétroliers) en accident technique causé par un algorithme « désaligné », le documentaire ne subvertit rien : il légitime le cadre même du débat que les GAFAM souhaitent imposer. Au lieu d’exiger des sanctions contre les responsables birmans, au lieu d’analyser les mécanismes de la violence ethnique et étatique, au lieu de questionner la complicité de Total et des gouvernements occidentaux, au lieu de revendiquer l’expropriation de Meta et le démantèlement de son modèle d’affaires extractiviste, au lieu de cibler l’impérialisme, on se retrouve à débattre de « l’alignement des IA avec nos valeurs ». C’est-à-dire exactement le terrain sur lequel la Silicon Valley souhaite nous voir nous battre : un débat sur les modalités éthiques de régulation d’une technologie présentée comme inéluctable, jamais sur les rapports de production et de propriété qui la rendent possible et nécessaire. Quant à la terreur eschatologique face à une « intelligence supérieure » qui pourrait « construire un monde sans nous », elle fonctionne dans le même sens : face à une menace existentielle « pour l’humanité », toute division interne (colonisateurs/colonisés, capital/travail, Nord/Sud) apparaît secondaire. On nous vend du catastrophisme pour nous empêcher de nommer le capitalisme. Et pendant qu’on s’angoisse métaphysiquement du « plus grand défi que l’humanité ait jamais connu », les intérêts pétroliers occidentaux en Birmanie continuent leurs opérations…

Pour une critique matérialiste de l’IA | Face à l’imposture du discours techno-catastrophiste, posons les bases d’une analyse qui refuse aussi bien la personnification mystificatrice que l’angélisme réformiste. | 1. Comprendre l’IA dans ses fondements sociaux et technologiques réels. Socialement, l’IA n’est pas une rupture avec le capitalisme mais une étape de son développement technologique, soumise comme toute innovation à la loi du profit et à l’impératif d’accumulation. Elle n’apparaît pas ex nihilo dans un vide historique, elle émerge des contradictions du capital à un stade particulier : celui où la captation totale de l’attention, la surveillance généralisée et l’extraction exhaustive des données deviennent des conditions nécessaires de valorisation. Technologiquement, l’IA n’est pas une « intelligence » au sens anthropomorphe mais un dispositif industriel de combinatoire statistique opérant sur des patterns, sur des tokens… Comprendre ce processus de tokenisation comme mouvement même du capital (transformer toute qualité en quantité échangeable, tout vécu en donnée extractible) permet de saisir l’IA non comme menace externe mais comme aboutissement logique de la réification capitaliste : le stade où l’expérience humaine elle-même devient intégralement disponible pour la computation et la marchandisation (plusieurs articles sur ce blog à ce propos).

2. Démanteler systématiquement la mystification de l’IAG. Le fantasme d’une « intelligence artificielle générale » (IAG) qui nous « dépasserait » ou « prendrait le contrôle » n’est pas une hypothèse scientifique sérieuse, c’est une construction idéologique qui sert des intérêts très concrets : justifier des investissements massifs, attirer le capital-risque, légitimer la concentration oligopolistique, et surtout détourner l’attention des rapports de domination réels vers une terreur métaphysique abstraite. Il faut aussi refuser l’anthropomorphisation de l’IA (« elle décide », « elle comprend », « elle ressent »), c’est-à-dire refuser de transformer un rapport social (l’extraction de valeur par computation statistique) en propriété intrinsèque d’une chose. Et restaurer la possibilité même de l’analyse matérialiste contre le fétichisme qui fait apparaître la domination du capital comme destin technologique inéluctable.

3. Rappeler que l’IA n’a aboli ni le capitalisme ni la nécessité de s’armer théoriquement et politiquement pour le combattre. Toute la rhétorique du « plus grand défi que l’humanité ait jamais connu » nous fait oublier que les questions fondamentales restent celles que le mouvement ouvrier révolutionnaire a posées depuis un siècle et demi : qui possède les moyens de production ? Qui contrôle les infrastructures ? Comment s’organise l’exploitation du travail ? Comment arracher le pouvoir aux classes possédantes ? L’IA ne rend pas ces questions caduques, elle les intensifie en y ajoutant une dimension nouvelle : celle de l’infrastructure computationnelle comme moyen de production stratégique qu’il faut exproprier. Si l’on veut éviter que le « cauchemar dystopique » ne devienne réalité intégrale – et il est déjà largement en cours –, il ne suffit pas de demander poliment une « régulation éthique » ou un « alignement avec nos valeurs », il faut renouer avec les idées, l’histoire et les combats du mouvement ouvrier. L’alternative n’est pas entre accepter ou refuser l’IA, elle est entre laisser le capital algorithmique parachever la réification du monde ou construire les rapports de force nécessaires pour lui arracher le contrôle des infrastructures et les mettre au service de l’émancipation humaine.

Le « défi » n’est pas de « faire face à une intelligence supérieure », c’est de faire face au capital dans sa phase algorithmique. Cela signifie : nommer le système, analyser ses contradictions, identifier les points de rupture, organiser la résistance, préparer l’expropriation. Tout le reste – les angoisses métaphysiques sur l’IAG, les appels à l’éthique entrepreneuriale, les espoirs dans la régulation bienveillante – n’est que diversion qui nous maintient exactement là où le capital a besoin que nous restions : impuissants, terrifiés, et incapables de penser politiquement notre situation.