En 1947, dans Minima Moralia (1), Adorno écrit une phrase à graver au fronton de tous les laboratoires d’IA : « Croire que la pensée puisse tirer profit du déclin des émotions grâce à l’objectivité qui la caractérise, ou qu’elle n’ait rien à craindre de ce déclin, fait déjà partie du processus d’abêtissement ». En résumé : les systèmes que nous nommons sans rire « intelligents » ne pensent pas, ne peuvent pas penser, et ne penseront jamais. C’est là une vérité matérialiste : puisque la pensée requiert de l’énergie, et que cette énergie provient des investissements libidinaux qui orientent notre rapport au monde, supprimer la source, c’est naturellement devenir « bête » (pure mécanique sans intelligence).
Adorno précise les éléments du processus : d’abord, la mémoire : sans ce désir de faire durer ce qui nous importe, la mémoire se réduit à un enregistrement mort, incapable de sélectionner. Ensuite, l’imagination : c’est parce que nous désirons que nous pouvons imaginer autrement. Enfin, la perception la plus élémentaire : percevoir, c’est toujours déjà sélectionner selon des orientations affectives qui décident de ce à quoi nous devons être attentifs. Ces 3 facultés ne sont pas séparées, elles fonctionnent de concert : pour que je puisse dire « je pense », il faut que l’imagination soit capable de reproduire le passé (mémoire) tout en configurant des relations nouvelles (imagination créatrice). Sans cette synthèse qui maintient ensemble passé et présent, donné et possible, pas de cogito mais seulement une vaine dispersion… Sans perception, sans anticipation, sans l’imagination pour « établir entre des objets cette relation qui est la source inaliénable de tout jugement », il ne reste plus que la tautologie : A = A.
Or, cette structure tautologique, c’est précisément ce que réalise l’IA. C’est-à-dire réarranger statistiquement les patterns présents dans son corpus d’entraînement en calculant des probabilités de succession et en générant de nouvelles séquences qui maximisent ces probabilités. Ce n’est pas de la pensée, c’est juste de la prédiction statistique. Pas de jugement, ni d’imagination, et aucune orientation affective, aucun rapport existentiel vers le monde, aucun investissement libidinal dans ce qu’il traite (2). Cette différence explique pourquoi l’IA ne peut accéder à ce qu’Adorno nomme « objectivation du monde ». L’IA ne manque pas seulement de conscience, elle n’a ni imagination ni mémoire mais seulement leurs simulacres computationnels…
En même temps, c’est vrai, les performances des systèmes sont impressionnantes… Mais si nous somme, en effet, « bluffés », c’est parce que nous confondons la simulation du résultat avec la possession du processus : un programme qui bat les humains aux échecs ne « pense » pas mieux qu’eux, il calcule juste plus exhaustivement les branches de l’arbre de décision ; un modèle qui génère des images « créatives » n’imagine pas d’avantage, il effectue des opérations géométriques dans un espace mathématique. La différence n’est pas de degré mais de nature : si penser n’est rien d’autre que manipuler des représentations selon des règles, alors, oui, un algorithme fait l’affaire ; mais si penser est ce processus organique alimenté par le désir, l’imagination, la perception, alors aucune augmentation quantitative de la puissance de calcul ne pourra jamais combler le gouffre qualitatif qui sépare l’IA de la pensée.
Donc refusons l’imposture conceptuelle qui consiste à nommer « intelligence » ce qui n’est que computation, « conscience » ce qui n’est que traitement d’information, « pensée » ce qui n’est que tautologie statistique & minutieuse simulation…
(1) Intellectus sacrificium intellectus (passage n°79).
(2) L’évocation du « soleil », par exemple, active dans mon esprit des souvenirs d’étés, des images de lumière… Pour le modèle de langage, « soleil » n’est qu’un vecteur dans un espace à plusieurs milliers de dimensions, positionné à telle distance calculable d’autres vecteurs nommés « chaleur », « lumière », « jour ».
Lire aussi :
- [note] Qu’on se le dise : l’IA ne sera jamais consciente
- [note] L’IA comme confusion systématique #1
- [note] L’IA comme confusion systématique #2
- [note] L’IA comme confusion systématique #3
- [note] L’IA comme confusion systématique #4
- [note] L’IA comme confusion systématique #5
- [note] L’IA comme confusion systématique #6 | La destruction de la compréhension mutuelle
- [note] L’IA comme confusion systématique #7 | La destruction de la pensée organique
Laisser un commentaire