L'intelligence artificielle générale n'aura pas lieu

En 2025, le concept "d'intelligence artificielle générale", objectif affiché des grandes entreprises d'IA, oriente de facto une part de l'économie mondiale. Alors que personne n'est capable de le définir, que personne ne sait comment l'atteindre, et qu'elle porte en elle un projet eugéniste et suprémaciste.

Ça fait maintenant trois ans. Trois ans que ChatGPT a débarqué dans nos vies, reconfiguré nos espaces informationnels et suspendu notre capacité critique collective. Trois ans que la Silicon Valley s'est engouffrée dans la brèche, déterminée à saturer l'espace cognitif de son imaginaire de science-fiction techno-capitaliste et de confisquer au passage les clés du futur. Trois ans qu'elle entretient l'hypnose à coups d'oracles apocalyptiques, de lettres ouvertes catastrophées, de sommets internationaux aux accents eschatologiques et de révolutions ontologiques éternellement prévues d'ici trois à cinq ans. Trois ans que les corps intermédiaires –presse, classe politique et législateurs – répètent, amplifient et adoptent un lexique et des promesses techno-solutionnistes de plus en plus sectaires et de plus en plus délirantes, à mesure que le produit déçoit et que le vaisseau des valorisations boursières, en accélération constante, s'extrait de la force gravitationnelle des faits. Trois ans qu'un petit groupe de milliardaires illuminés ment, mystifie, manipule, déforme et dissimule au vu et au su de toustes, dans l'impunité la plus totale, sans que personne ne les interroge jamais sur l'impact politique de la technique qu'ils produisent voire sur la nature et le fonctionnement même de la révolution qu'ils nous annoncent. Ni législateurs, ni élus, ni journalistes : personne ne leur demande de comptes, jamais, nulle part. Personne n'exige de clarté. Personne ne réclame de transparence. Alors la charlatanerie continue.

Nous terminons l'an 3 de l'ère de l'IA générative et Dario Amodei, PDG d'Anthropic, la startup évaluée à 350 milliards de dollars qui commercialise le chatbot Claude, explique calmement dans l'émission de CBS 60 Minutes que "ces systèmes vont fondamentalement changer le monde d'ici deux ans; dans dix ans,  tout devient possible" – sachant que le "tout", dans l'esprit d'Amodei, signifie, entre autres, guérir tous les cancers, "doubler l'espérance de vie humaine" et "compresser le 21e siècle", comprendra qui veut. Nous terminons l'an 3 de ChatGPT et Sam Altman, PDG d'OpenAI, la startup évaluée à 500 milliards de dollars qui commercialise ledit chatbot, écrivait en juin dans un message titré "la Singularité douce", avec majuscule, que "nous avons dépassé l'horizon des évènements; le décollage a commencé. Nous sommes tout proches de la création d'une superintelligence numérique. (...) Il est difficile d'imaginer ce que nous aurons découvert d'ici 2035; un jour, nous aurons résolu la physique à haute énergie, le lendemain nous commencerons la colonisation spatiale; d'une découverte majeure en science des matériaux, nous passerons au développement d'interfaces cerveau-machine sans latence." Mark Zuckerberg, un homme qui a un jour dépensé 45 milliards de dollars dans le "métavers", affirmait en juillet que "la superintelligence personnelle est en vue", et avec elle la perspective "d'accélérer le progrès de l'humanité". 

Jamais le dernier à surenchérir dans l'imbécile, Elon Musk, le suprémaciste blanc le plus riche du monde, concepteur du chatbot Grok et serial mythomane de la Silicon Valley, assurait au même moment que "nous sommes proches de la superintelligence. Soit cette année, soit l'année prochaine." Interrogez l'investisseur "techno-optimiste" Marc Andreessen, à genoux devant le miracle du "techno-capital", ou l'investisseur "contrarien" Peter Thiel, actuellement très occupé à avertir les élites MAGA de l'arrivée de l'Antéchrist, et vous aurez droit au même catéchisme chromé. Bref, les broligarques augmentés insistent, de plus en plus lourdement, sur l'idée que demain, très bientôt, tout sera différent, vous verrez. 

Pourquoi? Pour soutirer à leurs créanciers quelques centaines de milliards en plus, pour gratter quelques mois de hype, pour terminer d'étouffer les instances régulatrices, tout ça à la fois ? Sans aucun doute. La mystique est souvent une bénédiction pour les conditions matérielles de son clergé. Mais aussi parce qu'ils croient. Ils croient, avec la certitude insubmersible des fondamentalistes, que leurs armées d'ingénieurs sont sur le point de concevoir, nous assurent-ils, "l'intelligence artificielle générale" – artificial general intelligence, AGI, que l'on résumera dans cet article par son sigle français, IAG. 

Les apôtres du dieu-machine

Dans son articulation actuelle, l'IAG émerge entre 2005 et 2008 de discussions entre Ben Goertzel, chercheur en informatique à qui on doit notamment l'abominable automate humanoïde Sophia, et Shane Legg, chercheur en machine learning mais surtout cofondateur, avec Demis Hassabis et Mustafa Suleyman, de la startup DeepMind, rachetée par Google en 2014, chez qui il occupe la fonction de "Chief AGI Researcher". Précisons-le d'emblée : tous deux adhèrent à la religion transhumaniste. Ils croient dur comme fer, comme Sam Altman et les autres, à l'avènement de la Singularité. Cette sorte d'Apocalypse technoscientifique théorisée en 2005 par le chercheur, inventeur et gourou transhumaniste Ray Kurzweil dans The Singularity Is Near, affirme que la convergence des innovations techniques culminera en un point,"l'explosion d'intelligence", qui inaugurera l'ère du post-humain augmenté, immortel et galactique. IAG et Singularité sont deux faces d'une même pièce : la promesse millénariste d'un futur techno-capitaliste fait de richesses incommensurables et de colonies galactiques, peuplé de surhommes, de nanorobots et de machines pensantes - allez voir la série Altered Carbon, c'est plus simple. IAG, Singularité, "superintelligence", "modèles frontaliers", "IA divine"... quand il s'agit de parler du dieu-machine, les signifiants ont tendance à devenir mouvants, c'est plus pratique pour moduler les prophéties sans jamais avoir à s'en expliquer.

Peu importe son nom, cette machine hypothétique, capable d'égaler les capacités cognitives d'un être humain puis de transcender l'humanité toute entière grâce à l'accélération des découvertes scientifiques, se retrouve dans les manifestes de toutes les entreprises d'IA actuelles. DeepMind a été conçue autour du concept. OpenAI a été créée en 2015 pour "s'assurer que l'AGI bénéficie à toute l'humanité" – et officieusement, comme le révèle la journaliste Karen Hao dans Empire of AI, parce qu'Elon Musk était terrorisé à l'idée que Google, via DeepMind, construise une IAG. Chez Anthropic, né d'une scission de la frange catastrophiste d'OpenAI, le patron Dario Amodei a beau trouver qu'il est "dangereux de décrire des techniques concrètes en termes religieux" et refuser d'utiliser le "terme marketing qu'est l'IAG", le catéchisme autour de la machine pensante est là, dans sa variante "si quelqu'un la construit, tout le monde meurt" - titre de l'affligeant best-seller publié cette année par Eliezer Yudkowsky, "chercheur en IA" autoréférencé, génie autoproclamé, graphomane narcissique, gourou de la secte "Rationaliste" et prophète de malheur suprême de l'IA, qui proposait en 2023 dans le magazine Time, avec sa mesure habituelle, de bombarder les data centers qui hébergent les chatbots.

Les mêmes pseudo-schismes entre chapelles transhumanistes se retrouvent en France. Côté industrie, le PDG de Mistral IA Arthur Mensch affirme certes avec lucidité que"toute la rhétorique de l'IAG revient à créer Dieu" et qu'il refuse donc, en bon athée, d'utiliser le terme, mais Mistral manifeste néanmoins un futur où l'IA, "la technologie la plus importante de notre temps", est "abondante et accessible". Au même moment, les relais médiatiques Laurent Alexandre et Olivier Babeau, dont on cherche encore les qualifications sur le sujet, assurent le catéchisme transhumaniste sur le service public ("arrêtez l'école et greffez-vous des IA dans le cerveau"). Maxime Fournes, notre Eliezer Yudkowsky en VF, à la tête de la branche française de Pause AI qu'il affirme avoir fondée pour "sauver l'humanité", entretient simultanément (notamment sur la chaîne de l'association française transhumaniste) le mirage d'une IAG annihilatrice qu'il faudrait stopper à tout prix car "si l'on crée une superintelligence, c'est game over pour l'humanité" . 

Comme je l'écrivais en 2024 dans Les prophètes de l'IA, tous ces acteurs font partie de la même communauté épistémique, et déploient leurs théologies personnelles à partir du même axiome fallacieux. Cette double Apocalypse  – l'IA nous sauvera toustes/ l'IA nous détruira toustes – et ses multiples déclinaisons impliquent et entretiennent la même certitude techno-déterministe : celle de l'émergence inévitable de l'IAG, de la même manière que les récits du Paradis et de l'Enfer légitiment chacun l'existence de Dieu. En d'autres termes, tous ces types croient, dur comme fer, à la possibilité et l'imminence d'une machine pensante à la puissance divine. 

Une (pas si brève) histoire de l'IAG

En 1951, Alan Turing publie Computing Machinery and Intelligence, article légendaire dans lequel il proposera le fameux "test de Turing". À la question inaugurale "Can machines think?" - "les machines peuvent-elles penser?", Turing répond immédiatement qu'il faudrait d'abord définir ce que signifient "machine" et "penser" car "la question [en ces termes] est trop vague (meaningless) pour mériter discussion". C'est tout l'objet de son "jeu de l'imitation" : l'objectif du "test de Turing" n'est pas d'évaluer la capacité de la machine à "penser" comme un humain, mais à tromper un observateur humain en simulant la pensée. Pour Turing, l'IA est avant tout un dispositif-simulacre, fondamentalement incapable d'égaler une "intelligence" que la communauté scientifique est incapable de définir.

Pourtant, quelques années plus tard, en 1956, John McCarthy réunit une dizaine des meilleurs chercheurs en informatique d'Occident lors du sommet estival de Dartmouth autour de ce qu'il vient de baptiser "intelligence artificielle" : l'hypothèse selon laquelle "chaque aspect de l'apprentissage et toute autre caractéristique de l'intelligence peut en principe être décrite si précisément qu'une machine pourra la simuler." Toutes les bases du mythe de l'IA sont alors posées. McCarthy choisit les termes "intelligence artificielle" plutôt que "cybernétique", "études en automates" ou "traitement d'informations complexes", des termes également utilisés à l'époque,précisément pour sa portée anthropomorphique. Il raisonne en termes marketing. Et ça marche : le sommet de Dartmouth est financé, et le récit de l'IA formalisé par McCarthy et ses collègues devient l'évangile de la recherche. Un évangile bâti par quatre apôtres -John McCarthy, Marvin Minsky, Claude Shannon et Nathaniel Rochester – non pas sur un seul axiome fallacieux, mais sur un assemblage de concepts pseudoscientifiques, à la fois délirants et politiquement radioactifs.

L'"intelligence artificielle" selon Dartmouth, qui est peu ou prou celle qu'on retrouve aujourd'hui derrière l'IAG et la "superintelligence" des Altman, Musk, Zuckerberg et autres, est pensée par un groupe d'hommes blancs, chercheurs en informatique et en mathématiques, diplômés d'université d'élite états-uniennes. Leur conviction est la suivante :  l'intelligence humaine est une suite d'opérations de calcul et de traitement d'informations complexes effectuées exclusivement par le cerveau; ce processus peut être traduit en langage mathématique puis simulé par un ordinateur; contrairement au cerveau humain, l'ordinateur ne vieillit pas, ne se dégrade pas, et sa puissance de calcul peut être augmentée; en toute logique, l'intelligence artificielle finira invariablement par égaler, puis dépasser, l'intelligence humaine. Cette double équivalence – puisque le cerveau est un ordinateur, un ordinateur peut devenir un cerveau –est appelée "métaphore computationnelle". Comme l'explique l'universitaire David Golumbia dans l'excellent The GreatWhite Robot God, ce récit impose l'idée que l'existence humaine puisse être simulée par des procédés techniques. Or cet axiome est doublement faux. Il est d'abord faux d'un strict point de vue neurobiologique : l'intelligence ne se limite pas à un processus de calcul et se situe bien au-delà du cerveau - ce que l'on appelle l'embodiment. Il est ensuite faux politiquement : non content de faire de l'être humain un simple cerveau dans un bocal, il évacue entièrement l'idée d'une intelligence collective pour penser l'individu seul, sans autre rapport avec autrui que la compétition.

Un tas de fumier idéologique

La mise en équivalence arbitraire du cerveau et de l'ordinateur – où, comme le dira encore plus clairement Marvin Minsky en 1956, "le cerveau est une machine de chair" – , la mise en concurrence de l'humain et de la machine et la définition de l'intelligence comme un processus formel, mesurable et reproductible mathématiquement, ont des corollaires bien plus toxiques encore. Elles lient la valeur d'une existence humaine à son classement dans la hiérarchie des intelligences, elle-même constituée grâce au seul outil prétendument "scientifique" de l'époque – le test de QI,  conçu à l'université Stanford en 1916 par Lewis Terman, psychologue et eugéniste, pour "démontrer" mathématiquement "l'hérédité de la faiblesse d'esprit" et l'existence des hiérarchies raciales, genrées et sociales encodées génétiquement. Coïncidence extraordinaire, McCarthy, Minsky et les autres excellent à ce type de test, ce qui légitime leur place au sommet de la hiérarchie sociale et leur candidature à l'augmentation. Car si l'humain est une machine de chair et que la quête de l'intelligence est une quête de supériorité, alors la machine est le devenir logique de l'élite technoscientifique, qui se considère déjà comme un pur cerveau doté d'un corps jetable et se rêve, littéralement, en "ordinateur" - étymologiquement, celui qui ordonne le monde (et ordonne au monde), rappellent les sociologues Marion Fourcade et Kieran Healy dans La société ordinale (2024). À l'aristocratie de droit divin de l'Ancien Régime, explique l'historien François Hartog, la société de l'information a substitué une aristocratie de droit techno-financier. Une congrégation de mages détenteurs des secrets de l'algorithmie, propriétaire des moyens de prédiction du monde.

McCarthy et ses confrères formalisent ce récit de l'IA au moment même où Julian Huxley, biologiste britannique, formalise en 1957 dans New Bottles for New Wine une "religion sans révélation" : le transhumanisme, qui propose d'utiliser la technoscience pour réaliser le "plein potentiel" d'homo sapiens. Star de l'eugénisme libéral élitiste de son époque, il préconise la stérilisation des "strates les plus basses" de la société de classe britannique et la gestion du "stock humain" par le prisme de la gestion agricole. La naissance du mythe de l'IA  se fait donc dans un contexte de pseudoscience et d'obsession du classement des existences – or "classer, c'est dominer", rappelle la sociologue féministe Christine Delphy. Une obsession pour l'évaluation qui remonte, expose Meredith Whittaker dès 2019, au régime plantationnaire, première organisation sociale à penser "scientifiquement" des groupes humains comme des machines. L'approche déshumanisante traverse ensuite toute la révolution industrielle, sous la bannière tayloriste – la généalogie est si claire qu'en anglais états-unien, "usine" ne se dit pas "factory" mais... "plant". Le regard du maître devient celui du contremaître, qui est à son tour encodé dans l'ordinateur idéal du groupe de Dartmouth.

L'intelligence artificielle est donc, dès sa conceptualisation, l'avatar technique d'un projet de domination et de contrôle articulé autour d'une vision suprémaciste : à l'élite cognitive blanche, bourgeoise, masculine et surdiplômée l'augmentation, aux masses laborieuses la surveillance et l'optimisation. Même cette critique n'a rien de nouveau : dès 1976, Joseph Weizenbaum, créateur du premier chatbot de l'histoire (ELIZA) et réfugié de l'Allemagne nazie, comprend la dangerosité d'une minorité radicalisée qui prétend faire émerger une espèce supérieure et contrôler le taux de reproduction de la majorité. Dans Computer Power and Human Reason, qui lui vaudra la mise au ban de la communauté de recherche, il affirme que "l'humain n'est pas une machine" et met en garde contre cette "intelligentsia artificielle". Une génération plus tard, les Musk, Thiel, Andreessen, Altman, Amodei se reconnaissent dans l'"élite cognitive" du pamphlet The Sovereign Individual (l'Individu souverain), paru en 1997 et désormais préfacé par Peter Thiel. Un simple coup d'oeil sur leurs manifestes, sur leur lexique à peine voilé, suffit à identifier des vieux démons maquillés de pseudoscience, réactualisés et ripolinés : transhumanisme, modernisme réactionnaire, eugénisme,"racisme scientifique", élitisme, QI, physiognomonie, phrénologie... Un tas de fumier idéologique regroupé par l'universitaire Emile P. Torres et la chercheuse en machine learning Timnit Gebru sous la bannière TESCREAL. Éternelle obsession de l'évaluation, du classement, des hiérarchies du vivant. 

Les échecs successifs des systèmes d'IA finiront de reléguer le récit de la machine pensante aux marges de la culture nerd... jusqu'aux années 2010, et les progrès fulgurants des réseaux de neurones en reconnaissance d'images. La publication, en 2014, du best-seller pseudoscientifique Superintelligence de Nick Bostrom, alors professeur à Oxford (dans un Future of Humanity Institute fermé en 2024 et décrit depuis comme "de l'eugénisme sous stéroïdes") mais également fondateur de la World Transhumanist Association, réactive la mystique originelle du crew de Dartmouth (faudra-t-il s'étonner d'apprendre que Bostrom, dans une mailing list de 1998, écrivait en toute détente"les Noirs sont plus bêtes que les Blancs"?). Infatigable prosélyte, Bostrom va souffler le lexique pseudoscientifique de l'IA contemporaine – le "risque existentiel de l'IA", la "superintelligence", le "problème de l'alignement", l"'intelligence artificielle générale", etc – à toutes les sphères de décision possibles, de conférences TED en centaines d'interviews et interventions dans la Silicon Valley. L'installation rapide du culte de l'IAG dans la sphère médiatique ces trois dernières années, dans le sillage de ChatGPT, n'a rien d'une surprise : c'est le résultat d'une campagne de marketing politique intense de dix ans, dont les résultats ont dépassé toutes les espérances de ses architectes. 

Délire élitiste, cataclysme collectif

La tech, devenue sans contestation possible l'entité économique la plus puissante au monde, est désormais mue par une croyance sectaire. En trois ans, près de 800 milliards de dollars ont été dépensés pour la quête d'une impossible machine divine, qu'aucun de ses prophètes n'est capable de décrire, mais dont il est interdit de remettre en question l'imminence. L'IAG, écrit Will Douglas Heaven pour la MIT Technology Review (article repris en français dans la newsletter Dans les Algorithmes) est fonctionnellement une théorie du complot : un mensonge élaboré et unificateur, un eux contre nous fanatisant, que la nature nébuleuse rend imperméable à toute déconstruction définitive. On ne peut pas tuer l'IAG car elle ne repose sur rien de tangible. Elle est le vide au coeur de la mégamachine, la Singularité autour de laquelle gravite un techno-capitalisme devenu tellement circulaire que ses champions -Nvidia, Microsoft, OpenAI, Google – sont en train de devenir une seule et même tumeur gigantesque. Ce qui représente désormais 92% de la croissance économique et 40% du PIB des États-Unis, ce qui alimente le plus grand projet d'infrastructure de l'histoire et risque, maintenant que la Silicon Valley émet des milliards de dollars de dettes auprès du secteur bancaire, de provoquer la plus grande catastrophe économique du XXIe siècle, ce n'est pas ChatGPT, Claude et tous les générateurs de slop inutiles et invendables, c'est l'hallucination collective de l'IAG. 

Ce délire messianique est si puissant qu'il convainc désormais Ursula von der Leyen, la présidente de la Commission européenne qui reprenait verbatim en mai dernier la prophétie techno-messianique d'une IAG en 2026. Un lexique de la hype qu'on retrouve dans l'AI Continent Action Plan, publié par la Commission en avril, qui affirme que "la prochaine génération de modèles d'IA frontière marquera un saut qualitatif de compétences vers l'intelligence artificielle générale." – sans fournir aucun argument, puisque l'IAG n'a pas de définition. Parallèlement, un affaiblissement du RGPD au nom de l'entraînement (illégal) des modèles de langage, et un possible délai de mise en application de l'AI Act (déjà particulièrement court-circuité par le lobbying des Gafam, bien aidés par Emmanuel Macron et Cédric O), seraient désormais en discussion dans les couloirs de l'UE.  (En France, le 22 octobre, une proposition de loi déposée au Sénat proposait d'ériger "l'alignement des IA", une autre pseudoscience transhumaniste venue de Nick Bostrom, en "objectif stratégique pour l'Europe". ) Ce n'est plus de la crédulité, c'est de l'emprise. 

Comme l'écrit la revue Tech Policy Press, "des politiques publiques basées sur de la spéculation  ont des conséquences directes sur les contribuables." Des conséquences matérielles, concrètes, environnementales. Un nouveau lumpenprolétariat de l'IA exploité sur l'archipel mondialisé des chaînes de production, des mines de coltan congolaises aux camps de réfugié.es libanais. Des ménages britanniques qui paient l'électricité plus cher pour subventionner celle consommée par les data centers, et qui doivent en plus subir des coupures de courant. L'air pollué de Loudoun County, en Virginie, où s'entassent 200 data centers. De l'eau potable évaporée, du charbon brûlé, une consommation électrique supérieure à plus de la moitié des pays du monde, et pour quoi? Pour ce que Sam Altman ne sait pas définir autrement que comme une "magic intelligence in the sky"; un paravent en forme de divinité informatique pour cacher ce que la journaliste Carole Cadwalladr a qualifié de "data rape": colossal projet d'extraction, de subrogation et de réification du vivant, hors de tout cadre légal et sans consentement collectif.

L'intelligence artificielle générale n'aura pas lieu. Il n'y a pas de marché de l'IA, rien qu'une poignée d'entreprises qui fait mine de gagner de l'argent le temps d'en finir avec la démocratie. La bulle financière qui en résulte explosera avant. Un indice: Peter fucking Thiel, saint patron du capitalisme antidémocratique, a déjà retiré ses jetons de la table de poker.  Les oligarques ne perdront ni fortune, ni pouvoir. L'administration Trump, tellement vérolée que le mot de "corruption" ne suffit plus à décrire son fonctionnement, couvrira leurs pertes, quand bien même elle s'en défend vigoureusement aujourd'hui. Car leurs algorithmes seront si profondément insérés dans l'architecture des États qu'il sera impossible de faire sans. Comme après 2008, lorsque les peuples états-uniens et européens (grecs, espagnols, portugais avant tout) furent sommés de payer de leur poche (et de leurs conditions de vie) les ravages d'un capitalisme spéculatif devenu soudainement "systémique" et indissociable de l'équilibre wetsphalien, pendant que les architectes de la ruine planchaient déjà sur leur prochaine pyramide de Ponzi. 

Il n'y aura pas d'IAG, pas de superintelligence, pas d'immortalité sur Alpha Centauri. Il y a un lent coup d'État technologique, une dégradation ininterrompue des conditions de vie du plus grand nombre. Et peut-être alors qu'une fois la bulle éclatée, une fois le champ hypnotique rompu, journalistes, élus et corps intermédiaires se regarderont dans le miroir et se demanderont, hagards comme les rescapés d'une secte millénariste, comment ils ont pu croire à cette folie.