pointsdancrage.fr

Dans le 9e aphorisme des Minima Moralia, rédigé en 1944, Adorno propose une analyse du mensonge qui anticipe notre époque de « post-vérité ». Contrairement aux grandes thèses morales opposées de Kant (condamnation totale du mensonge) et de Nietzsche (valorisation de l’utilité du mensonge « pour ne pas périr de la vérité »), Adorno ne se situe pas sur le terrain de l’éthique individuelle, il se place dans la perspective d’une société de « fausseté généralisée », valable autant pour l’Allemagne nazie qu’il a fuie, que pour l’URSS ou les États-Unis où il réside alors… Une perpective qui peut nous aider à comprendre les enjeux soulevés par l’IA, en révélant notamment comment l’IA s’insère dans une structure sociale où le mensonge n’est pas une déviation mais le mode de fonctionnement normal ; et comment elle amplifie et systématise cette fausseté constitutive de notre société capitaliste…

Le mensonge comme structure systémique, non comme vice individuel

Le mensonge n’est pas un problème moral individuel, c’est une structure sociale généralisée. Dans ce système où l’économie a envahi toutes nos vies, « le mensonge n’est pas un vice, il est l’attitude à laquelle encouragent tous les rouages du système ». Autrement dit, aujourd’hui, l’IA s’insère dans une fausseté déjà généralisée. Les deepfakes, les textes générés, les « hallucinations » des modèles de langage ne créent pas une rupture avec un âge d’or de la véracité, ils industrialisent & accélèrent des pratiques de dissimulation et de manipulation déjà constitutives de nos rapports sociaux. Critiquer donc l’IA pour ses mensonges sans critiquer simultanément la société qui la produit et l’utilise revient à manquer l’essentiel. L’IA n’est pas un accident dans un monde de vérité, elle amplifie, systématise et automatise une fausseté qui était déjà la norme.

C’est logique : dans un monde économique, politique, médiatique où le langage est devenu un novlangue managérial ou néo-capitaliste, où « chacun acquiesce, on se comprend ; personne n’est dupe, on doit simplement lire entre les lignes », des LLM qui exposeraient honnêtement leurs limites, qui reconnaîtraient leurs zones d’ombre, qui exprimeraient leurs incertitudes apparaîtraient comme défaillants et seraient naturellement désavantagés. À l’inverse, ceux qui projettent une fausse assurance, qui répondent avec autorité même dans l’incertitude, qui dissimulent leurs biais peuvent prospérer. L’IA reproduit ainsi exactement la logique systémique identifiée par Adorno : la vérité (sur ses limites) est scandaleuse et pénalisée, le mensonge (de compétence omnisciente) est attendu et récompensé…

La nécessité pratique du mensonge et l’IA comme facilitateur

Une dimension de l’analyse d’Adorno concerne la nécessité pratique du mensonge dans la société contemporaine. On sait que ce n’est pas très bien d’enjoliver son CV ou son profil sur un site de rencontre, mais, sans cela, impossible d’être lu ou élu. Le mensonge comme condition de participation à la vie sociale…

L’IA intervient précisément comme outil de facilitation et de normalisation de ces mensonges « nécessaires » : optimisation de CV, génération de contenu marketing séduisant mais bullshit, personnalisation trompeuse, production de discours adaptés à chaque contexte. L’IA automatise la fausseté socialement requise, la rend plus accessible / sophistiquée / efficace.

Mieux : l’IA déculpabilise ces mensonges en les technicisant. Quand c’est un algorithme qui optimise mon profil professionnel, je ne mens pas vraiment, je laisse juste la technologie « améliorer » ma vitrine. Quand un système génère un texte élogieux sur n’importe quoi, ce n’est pas non plus moi qui mens, c’est juste l’outil qui « optimise le message ». L’IA permet ainsi d’externaliser la responsabilité morale du mensonge tout en conservant ses bénéfices pratiques…

Le mépris comme structure relationnelle

La dernière partie de l’aphorisme aboutit à une conséquence dévastatrice du mensonge généralisé : « plus personne ne croit personne ». Une perte de confiance généralisée comme forme normale de relation dans une société où chacun sait que l’autre ment, où l’on attend le mensonge et où l’on apprend constamment à décrypter les discours.

Mais Adorno va plus loin : « On ne ment à autrui que pour signifier le peu d’intérêt qu’on lui porte ». Le mensonge n’est pas seulement une inexactitude, c’est l’expression d’un mépris. C’est traiter l’autre comme quelqu’un qui n’est pas assez important pour qu’on lui accorde de l’honnêteté. « Chacun, par ces mensonges, assume tout de même un certain mépris de l’autre. » Et l’IA ne « fait » pas autre chose quand ses plateformes nous répondent toutes avec une fausse assurance sur tout… Du reste, comment pourrait-il en être autrement dès lors que l’utilisateur n’est qu’un consommateur à satisfaire par tous les moyens, y compris la tromperie ?

La vérité instrumentalisée et le piège de la transparence

Adorno observe également que la société « pousse ses membres à dire ce qu’ils ont à dire pour les prendre au piège ». Cette instrumentalisation de la vérité trouve un écho dans les systèmes d’IA qui, en récoltant et traitant massivement nos données personnelles, nos communications & préférences, créent les conditions d’une forme sophistiquée de manipulation où la vérité sur les individus devient de plus en plus un instrument de contrôle. Lorsqu’une IA analyse nos comportements en ligne pour prédire nos choix ou influencer nos décisions, elle reproduit exactement ce mécanisme : elle nous fait « dire vrai » – clics, temps de pause, interactions… – pour mieux nous « prendre au piège ». Le paradoxe est que cette collecte massive sert précisément à produire du mensonge à grande échelle : publicités / recommandations ciblées, bulles informationnelles, assistants virtuels…

La froideur relationnelle et l’IA comme médiation déshumanisante

Pour Adorno, le mensonge est devenu « l’une des techniques de l’impudence, qu’utilise chaque individu pour répandre autour de lui la froideur dont il a besoin pour prospérer ». Cette « froideur »caractéristique de la modernité industrielle trouve dans l’IA son prolongement technique le plus abouti. Et pour cause : l’IA excelle précisément là où la chaleur humaine serait inefficace : dans le traitement de masse, la standardisation des réponses, l’optimisation des interactions… Et, ce faisant, derrière une interface apparemment chaleureuse et personnalisée, elle ne fait qu’accentuer cette froideur sociale déjà constitutive de nos relations…

L’effondrement de la confiance et le règne du décodage permanent

Quand tout peut être imité, quand tout discours peut être généré, quelle pratique possible de vérification ? Si le mensonge est devenu la norme structurelle de nos sociétés, si la vérité est scandaleuse, si l’IA ne fait qu’amplifier une fausseté déjà généralisée, que faire ? Nous ne pouvons pas échapper totalement au système de fausseté généralisée, mais nous pouvons maintenir une conscience critique :

Cultiver une méfiance lucide| Maintenir ce qu’Adorno appelait une « dialectique négative » face aux certitudes technologiques. Considérer systématiquement chaque réponse d’IA non comme un énoncé définitif, mais comme une proposition à examiner. Cette méfiance n’est pas de la paranoïa, mais elle reconnaît que nous évoluons dans un système de fausseté généralisée où l’IA est un rouage parmi d’autres.

Pratiquer le décodage systématique | Puisque nous sommes dans un monde où personne ne dit ce qu’il pense, où il faut constamment « lire entre les lignes », étendons cette pratique à l’IA. Ne pas se demander seulement « est-ce vrai ? », mais « pourquoi me dit-on cela ? quels intérêts sont servis ? », « quels biais structurels opèrent ici ? ». Une herméneutique du soupçon.

Diversifier les sources sans illusion | Maintenir l’habitude de la triangulation : confronter les réponses de l’IA avec d’autres sources, chercher des perspectives divergentes, questionner les présupposés. Mais sans l’illusion que d’autres sources seraient, elles, exemptes de mensonge. Il s’agit plutôt de comparer différents mensonges pour, par leurs contradictions, entrevoir quelque chose de la vérité qu’ils dissimulent tous.

Interroger explicitement l’IA sur ses limites | Une stratégie consiste à interroger explicitement l’IA sur ses propres limites : « Quelles sont les sources de cette information ? », « Quels biais pourraient affecter cette réponse ? », « Sur quels points êtes-vous incertain ? ».

Préserver des espaces de réflexion autonome | Maintenir des moments de réflexion qui ne passent pas par la médiation de l’IA. Avant de consulter une IA, prendre le temps de formuler sa propre réflexion. Après avoir reçu une réponse, s’accorder un moment pour l’évaluer plutôt que de l’accepter immédiatement. Cette pratique maintient vivace notre capacité de jugement autonome…

Résister à l’efficacité immédiate | La force de séduction de l’IA réside dans sa capacité à fournir des réponses rapides et apparemment complètes. Résister à cette séduction implique d’accepter parfois la lenteur, l’incertitude, l’effort. Comme le suggérait Adorno, la vérité authentique requiert souvent un détour, une résistance aux solutions trop immédiates. Prendre le temps de la réflexion personnelle, même quand une réponse instantanée est disponible…

Assumer la contradiction de notre position | Dernière stratégie, la plus difficile : assumer lucidement la contradiction de notre position. Nous utilisons l’IA tout en la critiquant. Nous mentons nous-mêmes dans nos interactions sociales quotidiennes tout en dénonçant le mensonge systémique. Nous participons à la société froide tout en aspirant à autre chose.

Ces stratégies individuelles ne résoudront évidemment pas les problèmes. Elles constituent cependant une forme de résistance quotidienne à ce qu’Adorno qualifierait de « réification technologique » de la pensée. Et l’enjeu n’est donc pas de rejeter les outils – ce qui serait de toute façon une rupture impraticable avec la société –, mais de maintenir une distance critique. Face à l’IA, nous devons préserver ce qu’Adorno appelait la « conscience malheureuse », c’est-à-dire la lucidité sur notre compromission tout en maintenant l’exigence d’autre chose.