A propos de : Beyond Algorethics: Addressing the Ethical and Anthropological Challenges of AI Recommender Systems [« Au-delà de l’algorithmique : relever les défis éthiques et anthropologiques des systèmes de recommandation basés sur l’IA »], d’Octavian M. Machidon
Des éléments dans cet article qui disent assez bien comment les systèmes de recommandation opèrent la transformation de l’humain en « fonction input-output » – comme l’écrit Machidon : « Dans ce cadre computationnel, l’utilisateur n’est plus qu’une boîte noire où x [données comportementales] déclenche y [la recommandation générée par l’algorithme] ». Autrement dit, la personne est réduite à un simple nœud de calcul, à un segment de code interchangeable au sein d’une chaîne d’extraction de la valeur attentionnelle. Le capitalisme a donc apparemment trouvé le bon outil pour réduire l’existence à des unités fragmentables et instantanément échangeables.
A ce propos, l’aveu des documents internes de TikTok fait peur : les cadres y reconnaissent que « l’algorithme de recommandation de l’application est conçu pour maximiser l’engagement, même au détriment de la santé mentale des utilisateurs » et que traiter l’usage compulsif n’était « pas une priorité pour aucune autre équipe« . Cela confirme la nature intrinsèquement prédatrice du système, bien au-delà des « biais » ou « effets non intentionnels » que l’article évoque pudiquement.
Moins pertinent, en revanche – et témoignant d’une naïveté confondante –, la proposition de l’auteur d’un cadre tridimensionnel (régulation-recherche-éducation). Comme si le capitalisme algorithmique pouvait faire sienne la dignité humaine et être « réorienté » par des appels éthiques et des comités de surveillance…
Rappel donc : ces systèmes ne sont pas des outils détournés mais l’expression même de la logique capitaliste poussée à son paroxysme : la transformation de toute activité cognitive, émotionnelle et attentionnelle en rente extractible. Dans ce cadre, l’algoréthique et ses « principes de Rome » ne disent que l’incapacité de tout humanisme libéral à comprendre que le parasitisme n’est pas un bug du système mais sa fonction fondamentale.
Les algorithmes du capitalisme ne seront jamais « humano-centrés » mais conçus pour dissoudre l’humain dans le flux de valeur. Pour optimiser non pas le « bien-être » mais l’extraction continue de surplus comportemental dans un monde où respirer, penser, ressentir deviendront des actes productifs tokénisés.
Laisser un commentaire