Dario Amodei, PDG d’Anthropic (valorisation : 183 milliards), vient de publier « The Adolescence of Technology », 50 pages prophétisant que dans « 1 ou 2 ans » émergera l’équivalent cognitif de « 50 millions de personnes, toutes beaucoup plus compétentes que n’importe quel prix Nobel », et que ces systèmes pourraient développer des « personnalités psychotiques, paranoïaques, violentes ou instables » menaçant l’humanité d’« extermination»… Donc, en 2024, Amodei publiait « Machines of Loving Grace » qui envisageait l’IA compressant 100 ans de progrès médical en une décennie… mais, 1 ans et des ratons laveurs plus tard, il annonce l’apocalypse, une « période chaotique qui mettra à l’épreuve notre identité en tant qu’espèce »…
Qu’est-ce qui a changé pour justifier ce soudain basculement ? Rien. Rien sur le plan technique : les LLMs 2026 ne sont que des versions améliorées de ceux de 2024, donc aucune rupture qualitative. Non, ce qui a changé, c’est la concurrence qui commence à produire de grosses sueurs froides (DeepSeek, c’est déjà 30% utilisation mondiale), ce sont les critiques qui montent (LeCun qualifie les LLMs d’« impasse ») et des valorisations qui deviennent de plus en plus difficiles à justifier… Si l’optimisme ne mobilise plus assez, essayons l’apocalypse !
Petit rappel nécessaire pour garder la tête froide : les LLMs n’ont pas de « personnalités », saines ou pathologiques, ils n’ont pas d’états mentaux non plus, ni d’intentions, et encore moins de vie intérieure. Prétendre le contraire, c’est projeter sur des perroquets stochastiques (qui recombinent statistiquement des patterns linguistiques) des catégories psychiatriques qui n’ont de sens que pour des êtres conscients ! C’est Josh Batson, chercheur chez Anthropic (donc collègue d’Amodei), qui le dit : attendre des LLMs qu’ils aient un « moi » unifié est une « erreur de catégorie, c’est comme demander ce qu’un livre pense vraiment »…
Non, le vrai danger est ailleurs : nous ne devons pas craindre une IA psychotique exterminant l’humanité en 2027, mais, aujourd’hui même, une restructuration massive du travail sans compensation (des millions d’emplois !), une concentration oligopolistique de l’infrastructure computationnelle, une prolétarisation cognitive généralisée (dégradation des compétences, dépendance aux systèmes), une capture toujours plus massive de la recherche et de l’éducation par des intérêts capitalistes, une surveillance algorithmique toujours plus performante, un extractivisme environnemental des datacenters, une privatisation des biens communs numériques, une érosion des capacités cognitives collectives, etc. Autant de dangers qui n’ont pas attendu une supposée IAG pour survenir !
Pour détourner la critique des dangers réels, Amodei rajoute une couche prophétique tout en levant des milliards pour construire exactement ce qu’il dénonce. Mais personne n’est obligé de croire à ses bullshits…
Laisser un commentaire