IA : le futur sera stupide

"Rendormez-vous, on s'occupe de tout"

Dans la mythologie publicitaire des "agents", des logiciels en théorie capables d'effectuer des tâches à notre place, l'oligopole de la Silicon Valley dessine en creux un monde peuplé d'individus sans autonomie, inspiration ou créativité, entièrement dépendants de la machine.

S'il y a bien un sentiment qui ressort lorsque l'on s'impose de regarder les pubs produites par la Silicon Valley pour vendre ses chatbots, c'est à quel point les humains qui habitent ce futur techno-optimisé sont empotés. Peu importe les scénarios (souvent ridicules, parfois gênants, parfois carrément dadaïstes), le constat est toujours le même : la charge cognitive de la vie moderne est vraiment trop pesante pour nos pauvres cerveaux biologiques, mais tout devient plus simple dès l'instant où l'on s'hybride aux machines. Et à ce petit jeu, personne n'excelle plus qu'Apple, dont la série de saynètes publiée depuis 2024 pour nous vanter les mérites d'Apple Intelligence (quelle ironie) semble déterminée à mépriser les clients de la marque, réduits à des sortes d'idiots utiles.

Dans la vie professionnelle, d'abord, où les fabricants d'IA semblent persuadés que nous sommes tous des incompétents et des fainéants qui cherchent en permanence à entretenir l'illusion de la compétence pour garder nos bullshit jobs du tertiaire. Dans "Writing Tools", une espèce d'homme-enfant d'open space à moitié analphabète utilise l'IA pour transformer son dialecte de bro immature en un parfait message professionnel insipide – ces tournures de phrase et ce ton sans âme désormais ironiquement connu comme le "langage ChatGPT" – au plus grand plaisir de son N+1, qu'on imagine facilement utiliser ces outils à longueur de journée. "Change Your Tone"nous présente un employé sur le point d'envoyer un mail cinglant à ses collaborateurs, sauvé par l'IA d'Apple qui réécrit sa diatribe sur un ton bienveillant et empathique. Dans "Catch Up Quick", un middle manager quelconque se retrouve obligé de présenter à ses collègues un document qu'il n'a pas lu. Un rapide coup d'IA et hop, le voilà en possession d'un résumé du contenu en quelques bullet points, suffisant pour donner le change auprès du boss. Abracadabra!

Point commun à toutes ces situations : Apple Intelligence permet de masquer la réalité - l'incompétence, la colère, la fainéantise - derrière la neutralité vide d'un masque algorithmique, idéalement conçu pour répondre à la sociopathie ambiante du monde du travail.

Dans le bureau du futur imaginé par Apple, l'employé devient une sorte de coquille vide, une marionnette de chair qui se contente de vocaliser les propos d'un chatbot. Le problème n'est pas tant le concept d'utiliser des techniques pour en foutre le moins possible dans des boulots aliénants par nature et rémunérés le moins possible (il n'y a pas de petites résistances), encore moins si ça vous permet d'obtenir une évaluation annuelle stratosphérique. Le problème, c'est qu'Apple part du principe que nous sommes tous idiot.es, et que sa béquille algorithmique nous est donc indispensable pour rester a minima productifves pour l'actionnariat. Rendormez-vous, nous dit la marque à la pomme, on s'occupe de tout.

"Un truc intelligent à dire sur Renoir"

À la limite, pourquoi pas. Mais les autres font pire encore. Dans leurs propres séries de publicités pour vanter les capacités de leurs logiciels Gemini et Meta AI, Google et Meta transposent ce présupposé d'humains cognitivement empotés à des situations relevant des sphères personnelle, intime et familiale. Dans "Thermodynamics", un jeune homme s'apprête à rencontrer son beau-père, qui travaille dans la thermodynamique à la Nasa. Plutôt que de questionner sa partenaire sur ce que ça signifie, ou simplement s'intéresser à la question lors de la rencontre, il se précipite sur Meta AI pour accumuler des connaissances superficielles sur le sujet histoire de donner le change - et l'on retrouve ce fil rouge des autres pubs, l'obsession de prétendre à la compétence, partout, avec tout le monde, y compris ses proches. Et tant pis pour l'humanité, l'empathie ou la communication.

Les situations s'enchaînent, de plus en plus ridicules. Là, une utilisatrice organise un club de lecture autour de Moby Dick mais ne va pas lire le livre, préférant demander à Meta AI de le lui résumer -et ses ami.es auront probablement fait pareil, ce qui donnera probablement le club de lecture le plus insipide de l'histoire. Ici, un jeune papa demande à Meta AI "comment faire manger [son] enfant", devant son enfant, comme s'il était un problème à résoudre avec une réponse générée par approximation statistique. Chez Samsung, une adolescente demande à son téléphone si elle peut mettre une robe à la machine, pour s'entendre répondre que c'est écrit sur l'étiquette. Là, un père de famille découvre que le chat a mangé le poisson rouge de sa fille, demande à Meta AI de lui rappeler où il l'a acheté, lui demande ensuite de lui rappeler à quoi ressemble le poisson rouge, tout ça pour que sa fille rentre de l'école avec le poisson originel qu'elle avait emporté ce matin-là ("Hey Meta, trouve-moi un rendez-vous en consultation de neurologie d'urgence"). Enfin, dans la compilation de situations "Prompt your way"  imaginées par les publicitaires de Google, on trouve pêle-mêle : un type qui demande à son IA pourquoi son frigo schlingue, un autre qui demande à Google de lui trouver un "truc intelligent à dire sur Renoir" (pour qui ? on l'ignore), ou une adolescente qui demande à Gemini de lui trouver une excuse pour ne pas dîner avec ses amies assises en face d'elle, et qui le lui font remarquer.

Dans le regard élitiste de la Silicon Valley, la société humaine se résume à un agrégat de sociopathes augmentés, constamment en train de mentir sur leurs niveaux de compétences et de manipuler leurs collègues et leurs proches pour accumuler du capital social et professionnel, et avancer à travers l'existence comme à travers un jeu vidéo, une épreuve à la fois. Des pathétiques winners qui ont tellement naturalisé la privatisation de l'existence qu'ils appliquent l'approche fake it till you make it à leur vie sociale. Personne ne semble avoir d'avis, d'idées, d'imagination ou d'autonomie critique. Personne ne semble capable de communiquer, y compris avec leur cercle intime, y compris lorsque d'autres sociopathes augmentés sont littéralement assis à côté ou en face d'eux. 

Ultra-moderne solitude

La majorité des gens vivent seuls, collés à leurs smartphones, aliénés dans une sorte de cyberpunk de banlieue où le chatbot a remplacé l'implant bionique et le pavillon avec pelouse impeccable a remplacé les tours noires des zaibatsu. Piégés dans un quotidien qui les dépasse, ces humains modernes demandent perpétuellement à leur téléphone de simplifier les choses, de les résumer, de leur expliquer avec des mots simples, en articulant bien, pas trop longtemps et de préférence avec des jolis bullet points. Malheur à celleux qui n'auront plus de batterie : on les retrouvera probablement hagards, les vêtements déchirés, à 30 kilomètres de chez eux, appelant dans le vide un assistant IA absent.  

Rarement une industrie aura autant vendu la capacité de son produit à remplacer ses utilisateurs, en leur faisant comprendre que leur existence idiote et dysfonctionnelle était devenue fondamentalement indésirable. Rarement un cartel d'entreprises nous aura aussi frontalement, littéralement pris pour des cons. Le message est si limpide que même la presse généraliste, New York Times et New Yorkeren tête, l'a compris. Face à son incapacité à trouver des problèmes pour ses solutions, la Silicon Valley a décidé que le problème, au fond, c'était nous, et notre réticence instinctive à se laisser micromanager l'existence depuis un data center en Ohio. Ce qui rend ces publicités fascinantes, c'est qu'elles nous dévoilent le raisonnement absurde des équipes marketing de la Silicon Valley : partir de la solution technique, puis essayer de remonter vers le problème auquel elle aurait peut-être pu répondre, dans une sorte  de rétro-ingénierie existentielle. Vous avez soudainement oublié le nom de votre fille ou l'adresse de votre maison? Vous ne savez plus comment ouvrir une porte ou cuisiner un oeuf ? Pas de souci, l'IA est là pour vous le rappeler. Votre cerveau est soudainement indisponible ? Nous sommes là pour vous. 

Ce que nous dit Big Tech, à travers ces spots dystopiques, c'est qu'elle fait ça pour notre bien. Que nous sommes des éternels bébés incapables de s'occuper correctement de leurs vies. Que nous avons besoin, comme l'explique la Française Fidji Simo, fraîchement nommée "directrice des Applications" chez OpenAI, de coachs virtuels personnalisés capables "de faire remonter nos inconscients à nos consciences" - comprendra qui pourra. Que l'activité cognitive, la réflexion, la création, l'imagination sont des pertes de temps. Pourquoi passer des centaines d'heures à maîtriser une compétence à un niveau médiocre, nous disent-ils, quand un grand modèle de langage peut générer instantanément un résultat parfait? Ne rêvez pas pour autant aux utopies oisives du revenu universel brut et du marxisme automatisé imaginé par l'essayiste Aaaron Bastani en 2019: comme nous l'a appris toute l'histoire de la technique, ce temps nouvellement libéré sera instantanément réinjecté au service de la concentration de richesses. Mais que faire, que devenir, si lire, écrire, écouter et parler sont devenues des compétences superflues ? Si nous ne pensons plus, perdurerons-nous ?

Ce que nous disent enfin ces publicités, c'est que la Silicon Valley et son avatar génératif sont indispensables, à condition que nous sombrions collectivement dans un scénario à la Idiocracy. Les plus mauvaises langues diront que le processus suit son cours et que Big Tech, dans la noble tradition du pharmakon cher à Platon, sert d'abord le poison avant de nous offrir le remède. Pour rendre ses chatbots foireux indispensables, elle doit d'abord emmerdifier la société entière, saboter les fondations même du corps social - l'échange, l'écoute, la délibération, le consensus, la friction, l'empathie. Elle doit simultanément saboter nos capacités cognitives individuelles – apprentissage, mémoire, compétences linguistiques, etc. La dernière étude en date, parue le 10 juin sur le site du MIT, affirme qu'utiliser un assistant IA pour rédiger une dissertation équivaut à accumuler une "dette cognitive" par rapport à ses congénères. Comme les sujets apathiques des pubs Apple, les assistants IA nous proposent de baigner dans l'information, mais d'être incapables de la manipuler. De nous entourer de présences numériques pour nous distraire de nos solitudes. Une catastrophe neurologique planétaire guette, une automutilation cognitive à la fois.

Vision paternaliste

Jusqu'ici habitués des récits vaguement transhumanistes d'extension des capacités cognitives humaines par la machine, Apple, Google, Facebook et les autres ont décidé de changer de crèmerie, basculant dans une insistance paternaliste à nous persuader qu'externaliser l'intégralité de nos cognitions à des logiciels est indispensable si nous voulons survivre au futur automatisé. Les mythes libéraux ravis de la crèche des décennies 2000 et 2010, promesses d'information et de connexions illimitées, promesses d'omniscience et de capacitation individuelle et collective par la médiation technique (culminées en 2011 avec le mirage des "printemps arabes") se sont effacées derrière une vision fondamentalement réactionnaire, paternaliste et autoritaire. La mythologie capacitante a laissé place à une idéologie de la réduction - des compétences, de la vie sociale, de l'existence – et de la dégradation. Dans le monde de l'IA générative, le contrôle devient la première des libertés.

Ces dernières années, la machine à futurs californienne devient carrément angoissante. En 2024, Apple a tenté de nous vendre un monde passé à faire la cuisine avec un énorme casque de VR sur la tête, un cauchemar hyperréel dans lequel une interface à 3500 balles transforme le décor d'un appartement miteux en horizon tropical pixellisé. En 2022, Mark Zuckerberg affirmait que l'avenir de l'espèce humaine passait par la transcendance vers un métavers peuplé d'avatars sans jambes et de publicités conçues à partir de l'analyse de nos mouvements oculaires. Cette nouvelle gradation dans le mépris pour l'existence humaine, cette nouvelle urgence à dévaloriser l'ontologie répond, en creux, à l'inutilité inédite du produit sur lequel l'industrie a une nouvelle fois misé son avenir. Nous avons donc le devoir, comme le suggère Ed Zitron, non seulement de refuser cette version du futur, mais de ridiculiser ses architectes et leurs empires du vide.

Depuis janvier, l'oligopole des producteurs d'IA générative – OpenAI, Alphabet, Meta, Anthropic, et X à sa manière incelo-nazie – nous vend l'arrivée des "agents", une nouvelle génération d'assistants virtuels désormais capables, selon le pitch, d'utiliser d'autres outils numériques pour faire des trucs à notre place. Le problème, c'est que ces "agents", comme les grands modèles de langage, sont invariablement nuls : leur taux d'efficacité, selon une étude de l'université Carnegie Mellon publiée fin juin, oscille entre 30 et 35%. ChatGPT Agent, nous apprend Futurism, met une heure à vous commander des cupcakes et vous propose d'aller visiter un stade de baseball au milieu de l'océan, dans la grande tradition surréaliste des IA génératives. La promesse de productivité ? Dans la seule étude de laboratoire sur la question, les assistants IA augmentent de 20% le temps passé par des développeurs sur une tâche. Ces outils, même inefficaces, promettent déjà d'être des "machines à manipulation", écrivait la chercheuse Kate Crawford dès décembre. D'autant que la Silicon Valley a prévenu :  ces "agents" ne fonctionneront que s'ils ont un accès total à nos existences numériques. Un panoptique contre des fake news : pas facile à vendre comme nouveau paradigme sociotechnique, même en imposant des icônes IA dans toutes nos interfaces, comme l'ont relevé Nolwenn Maudet, Anaëlle Beignon et Thomas Thibault en janvier. A ce stade, vu la nullité du produit et l'agressivité de la stratégie de mise sur le marché, ce n'est plus tant du marketing qu'une forme inédite de racket.

En 2025, seuls 3 à 8% des Américains se disent prêts à payer pour de l'IA ? La Silicon Valley s'en cogne – après tout, ne sommes-nous pas trop bêtes pour comprendre ce qui est bon pour nous?  La révolution aura lieu, et puis c'est tout. Zuckerberg, qui dépense des centaines de millions pour s'offrir les meilleurs chercheurs de la Vallée, va vous entourer d'amis virtuels pour "résoudre" la solitude. OpenAI va vous coacher du matin au soir, et vous avez intérêt à être motivés. Apple va vous aider à manipuler votre entourage, histoire que vous deveniez un winner vous aussi. Gizmodo appelle ça Life as a service. La vie augmentée, sur abonnement, qui sent bon le big data et le développement personnel. L'agent comme substitut à l'agentivité. Malgré la vacuité de ses promesses, ce nouveau régime s'étend. Les chatbots servent déjà de coach de vie, de médecin, de prof, de confident, de compagnie, de partenaire. Dans les béances d'une société néolibérale apocalyptique, où l'État n'est plus que répression et le tissu social n'est plus que compétition, la tech californienne et ses monades proposent d'irrésistibles refuges au réel. Sam Altman assume la filiation avec le film Her, incapable comme une partie de sa caste patronale de reconnaître une dystopie. Des individus sont sauvés par des générateurs de texte,  se radicalisent avec des générateurs de texte, tombent amoureux de générateurs de texte, se font interner à cause de générateurs de texte, se suicident à cause de générateurs de texte. Love as a service, rage as a service, death as a service.