Suite au thread sur X de Jacob Coxon, l'ancien employé d'Anthropic alertant sur une potentielle menace existentielle de l'humanité par l'IA générative, la question de l'IApocalypse a rapidement saturé l'espace médiatique. Le sujet a le mérite d'être vendeur, mais propose une vision biaisée et partielle, très située, des conséquences de l'intelligence artificielle sur nos vies. Jean Lou Fourquet et Jean Cattan nous proposent une autre lecture, un autre point de vue (que nous complétons ici) qui n'est pas forcément plus rassurante mais appelle à une réflexion plus profonde sur les mécaniques discursives des géants de la tech et sur leur influence sur nos démocraties. Tribune
L’écran de fumée de la singularité
Les développeurs de chatbots ont façonné un récit fascinant et terrifiant : celui d’une IA qui, un jour, échapperait à tout contrôle, atteindrait la singularité technologique et menacerait l’humanité dans son existence même. Mais pendant que nous attendons le soulèvement des machines, nous détournons le regard de nombreuses réalités beaucoup plus immédiates, concrètes et documentées. Parmi elles, une reste peu discutée : ces entreprises détiennent une connaissance sans précédent de nos vies intimes, de nos failles et de nos angoisses les plus profondes. Cela leur confère une capacité de manipulation sans pareille. Ce qui s’applique également au dirigeant qui y aurait accès. La chose peut sembler entendue, mais, tant que nous n’y faisons rien et que nous nous exposons à une forme de soumission inédite, il convient d’insister.
Le problème que l’URSS n’a heureusement jamais « résolu »
Dans Nexus, Yuval Noah Harari émet une hypothèse quant aux limites qu’auraient rencontrées certains régimes totalitaires du XXe siècle : parmi bien d’autres facteurs, la fin de leur domination n’aurait pas tant souffert d’un manque d’informations sur leurs populations que de leur incapacité à traiter cette masse de données pour en tirer quelque chose. L’URSS accumulait des millions de transcriptions de conversations espionnées, des rapports et des délations, mais ne disposait pas des outils pour synthétiser et organiser ces informations au service de son entreprise totalitaire. Qu’elle soit avérée ou non, cette hypothèse interroge : à quel régime serions-nous mangés si un dictateur en puissance avait une vue sans limite sur notre intimité ? Il y a fort à parier qu’il bénéficierait de leviers de domination particulièrement puissants.
Si nous citons cette hypothèse, c’est pour la dépasser aussitôt : le plus grand problème auquel nous faisons face ne réside pas seulement dans la capacité de synthèse des données de surveillance. Depuis longtemps, et surtout grâce à Deleuze, nous savons qu’à l’ère de la « communication instantanée » l’enjeu de la domination des foules ne réside pas tant dans la discipline et la restriction des libertés que dans le contrôle des populations et la maîtrise de leurs aspirations, autant dans leur genèse que dans leur assouvissement. Et là où Antoinette Rouvroy parlait de gouvernement algorithmique il nous faut désormais bien comprendre que la notion s’applique non seulement aux plateformes qui déploient des algorithmes, mais aussi aux gouvernements qui bénéficieront du savoir algorithmisé sur les populations. Aujourd’hui, les modèles sous-jacents aux agents conversationnels, par leurs comportements manipulatoires, crochètent la serrure donnant accès aux tréfonds de notre esprit, forgent nos pensées et les synthétisent à leur profit grâce à une capacité de calcul inédite qu’aucun système de surveillance humaine n’avait jamais atteinte.
Des excavatrices de données intimes
L’économie de l’attention, celle des Big Tech historiques, reposait finalement sur des données relativement pauvres : mots-clés, likes, partages, temps d’engagement, commentaires publics. Et c’était déjà beaucoup. Dans Tout le monde ment (Everybody Lies), Seth Stephens-Davidowitz révélait dès les années 2010 que les données de recherche et de comportement en ligne offraient une représentation de ce que pensait la population bien plus fine que n’importe quel sondage officiel.
Mais les chatbots conversationnels entraînent un changement radical d’échelle. Ce qui est collecté n’est plus une trace comportementale indirecte mais une confession directe et « privée ». Nos conversations avec ces IA contiennent nos doutes existentiels, nos secrets familiaux, nos détresses psychologiques, nos opinions politiques non filtrées, livrées dans un cadre que nous percevons, à tort, comme privé et confidentiel : « tout le monde ment … mais pas à son chatbot ». Ces entreprises elles-mêmes ne s’en cachent d’ailleurs pas : elles revendiquent, et assument sans rougir, l’utilisation de ces conversations dans leurs rapports de « lutte contre les ingérences ». Une utilisation présentée comme vertueuse, mais qui révèle, en creux, l’ampleur vertigineuse de l’accès dont elles disposent à nos faits, gestes et pensées intimes.
Une fois ce savoir partagé avec un dirigeant avide de domination, l’intelligence artificielle conversationnelle et commerciale risque de lever l’un des derniers remparts nous séparant d’un totalitarisme définitif.
La stratégie de Donald Trump illustre déjà, sans même recourir à l’IA générative, la manière dont un pouvoir politique peut exploiter la solitude, l’isolement social et l’absence de structures collectives pour capter l’adhésion et le vote d’une population fragilisée. C’est ce qui a fait le cœur de sa stratégie électorale. Ce à quoi s’ajoute que, volontairement ou non, Trump s’adresse à la population selon les codes d’une société «post-littéraire» dont lui et ses équipes cernent les mœurs avec une triste efficacité. Imaginons maintenant ce que deviendrait cette exploitation si elle était alimentée, semaine après semaine, par une cartographie précise et actualisée des états émotionnels, des angoisses et des vulnérabilités de millions de citoyens, produite par des chatbots conversationnels au service du pouvoir exécutif.
Ce n’est plus de la communication politique, ce n’est plus du sondage, dont on sait combien nos dirigeants sont friands, ce n’est plus Cambridge Analytica, c’est un système de gouvernance psychologique de masse, rendu possible par une infrastructure dont bien des architectes des totalitarismes du XXe siècle ont dû rêver.
La menace existentielle est démocratique
La menace existentielle qui pèse réellement sur nous en premier lieu n’est donc pas celle que les développeurs de chatbots agitent. Ce n’est pas l’IA qui se retournerait contre l’humanité dans un scénario de science-fiction mais la menace démocratique, bien plus discrète et déjà en cours : celle d’un pouvoir qui disposerait d’une compréhension si fine et si intime des citoyens qu’il pourrait orienter, manipuler, et in fine exercer un pouvoir sans partage car disposant d’une connaissance dont nul autre ne dispose. En reprenant les chiffres absurdes avancés par le secteur de l’IA commerciale, nous pourrions dire que si notre extermination par des machines a 10% de chances d’advenir, le péril démocratique auquel nous faisons face occupe une bonne part des 90% restants.
En toute hypothèse, la régulation de ces technologies ne devrait pas se concentrer uniquement sur les scénarios catastrophes de « l’IA hors de contrôle » ou sur les risques appréhendés par le règlement européen sur l’IA, mais avant tout sur la reprise de contrôle démocratique effectif sur ces plateformes : usages déconnectés, transparence des usages, limitation de l’exploitation des données conversationnelles, obligations d’effacement, mécanismes anti-centralisation, garde-fous contre toute instrumentalisation politique de ces connaissances, fonctionnalités au service de l’intention de l’utilisateur plutôt qu’au service des intérêts de l’entreprise, etc.
D’où viendra l’apocalypse ?
C’est une chose bien connue, mais il est toujours utile de rappeler que l’apokálypsis renvoie à la notion de révélation : une dynamique, sans aucun rapport avec son sens biblique, déjà bien entamée et maîtrisée par une poignée d’entreprises. À en juger par leur comportement face au pouvoir américain en place, il est assez facile de supposer qu’elles donneraient les clefs de celles-ci à n’importe quel leader patenté. C’est une leçon de L’Ordre du jour d’Éric Vuillard, désormais largement répandue et partagée : les puissances industrielles font et se soumettent à la fois au pouvoir qui les arrange, un pouvoir calqué sur leur mode de fonctionnement, le plus souvent empreint d’extraction, d’ordre et de subordination. Il n’y a aucune raison de voir dans les entreprises du numérique une différence avec les industriels du passé. Seulement leur matériau est la profondeur de nos êtres. Celui qui bénéficierait de leur dévoilement serait alors celui qui nous causerait le plus grand tort. La question n’est donc pas de savoir entre les mains de qui se trouve cette révélation ou à quelles fins elle sera mobilisée, mais de savoir si nous devons laisser cette capacité de révélation exister.
