Six arguments du pape contre l’IA expliqués

Ce lundi 25 mai, Léon XIV a dévoilé l'encyclique "Magnifica Humanitas", un texte de presque cent pages largement dédié à l'intelligence artificielle. Face à ce qu'il qualifie de défi anthropologique majeur, le chef de l'Église catholique somme la communauté internationale de « désarmer l'IA » et de briser la domination des géants de la tech. Dans un style mesuré typique de la prise de parole papale, le pontife critique un capitalisme numérique qui menace la vérité, détruit les emplois et alimente la course aux armements. Synth a résumé ses principaux arguments.

De quoi s’agit-il ? Une encyclique est une lettre à valeur doctrinale adressée par le Pape à l’ensemble des croyants. Celle-ci est la première écrite par Léon XIV depuis le début de son pontificat en mai 2025. Le Saint-Père avait choisi son nom en hommage à son prédécesseur Léon XIII, qui, cent trente-cinq ans en arrière, avait posé les principes de la doctrine sociale dans Rerum novarum (« Des choses nouvelles »). Ce texte visait à formuler un ensemble de recommandations en faveur d’un ordre social plus juste en pleine révolution industrielle.

Pourquoi c’est important ? Par ce texte, le pape cherche à faire de l’Église un acteur central du débat technologique du XXIᵉ siècle. Cela montre que le Vatican considère l’IA comme une rupture sociétale majeure, du même ordre celle introduite par la révolution industrielle, et estime que sa régulation est indispensable. Le Saint-Père y cite notamment Hannah Arendt, Platon… et même Tolkien. « Un clin d’œil du pape américain à la culture populaire », analyse l’historien Jean-Benoît Poulle auprès de Synth, mais également aux néoréactionnaires, dont Peter Thiel, qui se sont emparés du Seigneur des anneaux. « Je veux pas surinterpréter mais les lumières sombres se réfèrent beaucoup à l’heroic fantasy : j’y vois l’idée de dire “ne laissons pas Tolkien” à Curtis Yarvin et compagnie ».

1. La concentration des richesses et l’oligopole de l’IA

L’argument : Le pape dénonce la mainmise d’un petit nombre d’individus et d’entreprises privées sur les outils de production numérique (« brevets, algorithmes, plateformes numériques, infrastructures technologiques, données ») : « Il faut se demander avec réalisme qui détient aujourd’hui ce pouvoir et à quelles fins il l’utilise ».

Le risque : « Lorsqu’un pouvoir d’une telle ampleur se concentre entre quelques mains, il tend à devenir opaque, à échapper au contrôle public, [et à engendrer de] nouvelles dépendances, des exclusions, des manipulations et des inégalités ».

L’idée derrière : la chaîne de valeur nécessaire à la fabrication d’IA générative est totalement dominée par une poignée de sociétés américaines, Microsoft et Google en tête. Celles-ci possèdent une quantité de données sans égale, dont dépendent les acteurs émergents comme OpenAI, Anthropic, DeepSeek. Le pape appelle à l’adoption d’« instruments réglementaires adaptés, capables de préserver la justice et de limiter les effets perturbateurs du pouvoir technologique ». Une direction que ne semblent pas prendre les États-Unis : ce jeudi 21 mai, Donald Trump a repoussé la signature d’un décret très attendu sur la régulation de l’IA et des risques cybersécuritaires, pour ne pas handicaper les champions américains dans leur compétition avec la Chine.

2. Une « nouvelle forme d’esclavage » et d’exploitation

L’argument : L’encyclique établit un parallèle historique très fort en assimilant certaines pratiques de l’industrie de la Tech à une « nouvelle forme d’esclavage » moderne.

L’idée derrière : Le Saint-Père pointe du doigt le coût humain invisible de l’entraînement des modèles et de la chaîne d’approvisionnement (« étiquetage des données, modération des contenus »). Il dénonce notamment l’extraction des terres rares dans certaines régions du monde – l’Afrique n’est pas nommée mais l’allusion est claire – où « des adolescents et des enfants travaillent dans des conditions dangereuses au broyage des matériaux ».

La proposition : Léon XIV en appelle à renforcer « les exigences en matière de transparence des filières qui soutiennent l’industrie technologique et l’économie numérique », et à l’adoption par les entreprises de « critères clairs de vérification éthique préventive ».

3. La guerre et la déresponsabilisation face à la mort

L’argument : Un chapitre entier est consacré à l’urgence de la guerre. Le pape refuse catégoriquement que des décisions susceptibles d’engendrer des morts ou le recours à la force létale soient délégués à des systèmes artificiels.

Le risque : L’utilisation de technologies qui permettent de « frapper sans voir le visage de l’autre abaisse le seuil moral des conflits ». Les impératifs de vitesse et d’efficacité des machines ne doivent pas remplacer le jugement moral humain.

L’idée derrière : En 2024 déjà, le pape François avait appelé à interdire les « armes autonomes létales ». À Gaza comme en Iran, l’augmentation de frappes ciblées par des systèmes d’IA comme Lavender ou Maven Smart System (Palantir) a déjà de lourdes conséquences du point de vue des victimes civiles. Pour lui, il est essentiel que la chaîne des responsabilités reste identifiable : « ceux qui planifient, forment, autorisent et utilisent doivent pouvoir rendre compte de leurs choix ».

4. La dégradation du travail humain

L’argument : Le pape craint que l’IA ne serve à « déqualifier les travailleurs », et que « la recherche d’un profit plus élevé » justifie « des choix qui sacrifient systématiquement l’emploi ».

Le risque : Les licenciements pourraient être massifs. Une étude récente de la compagnie d’assurance-crédit Coface et de l’Observatoire des emplois menacés et émergents (OEM) montre que 16,3 % de l’emploi français serait menacé par l’IA dans les cinq ans à venir. La perspective d’une « job apocalypse » est néanmoins nuancée par des économistes qui voient dans l’IA une excuse mobilisée par certaines entreprises pour justifier des licenciements. Quand ils ne sont pas remerciés, les employés risquent d’être soumis à « une surveillance automatisée et relégués à des tâches rigides et répétitives » privées de sens, insiste le pape.

La proposition : Que « toute mise en place de l’automatisation et de l’IA [s’accompagne] de mesures vérifiables en matière de protection de l’emploi, de reconversion professionnelle et de participation des travailleurs ».

5. Le danger anthropologique : l’affaiblissement de l’esprit

L’argument : L’IA, bien qu’elle puisse être « une aide précieuse » pour obtenir des informations ou traiter des tâches, n’offre qu’une « impression d’objectivité ».

Le risque : La facilité d’utilisation de ces outils risque d’habituer l’humanité à « trop déléguer », affaiblissant par ricochet le jugement personnel, la pensée critique et la créativité humaine.

La proposition : Le pape appelle à « jeûner de l’IA » pour se protéger de la séduction de la machine. Le pape réaffirme également « le rôle central de l’école », un lieu où « les nouvelles générations peuvent apprendre à rechercher et à aimer la vérité ».

6. Le monopole de la vérité et le contrôle social

L’argument : « Ceux qui contrôlent les plateformes numériques (…) ont une capacité remarquable pour influencer l’imaginaire collectif et présenter comme désirable une certaine vision de la réalité », écrit Léon XIV.

Le risque : Le pontife craint que la culture qui se développe sur internet devienne « un instrument de distraction excessive, d’uniformisation et de domination ». En outre, l’encyclique met en garde contre l’utilisation de ces technologies par des régimes autoritaires à des fins de surveillance invasive ou de contrôle social.

La proposition : Léon XIV appelle à plus de transparence algorithmique (« établir des normes qui rendent plus transparentes les logiques selon lesquelles les contenus sont sélectionnés et amplifiés et qui protègent les données personnelles »). Cette obligation de transparence pour les fournisseurs et les opérateurs de certains systèmes d’IA fait notamment partie des éléments figurant dans l’AI Act progressivement déployé par l’Union européenne.

7. Comment l’encyclique a-t-elle été reçue ?

Le cofondateur d’Anthropic, Christopher Olah, faisait partie des trois personnalités laïques ayant pris la parole à la présentation du texte. Un dispositif exceptionnel témoignant du rôle que ce chercheur spécialiste de l’interprétabilité a eu dans la préparation du texte. Reconnaissant que « la pression de rester commercialement viable, de rester en pointe de la recherche [et les] pressions géopolitiques » pouvaient « entrer en conflit avec le souhait de faire le bien », Chris Olah a salué l’initiative du Saint-Père : « Nous avons besoin d’une critique éclairée qui alertera nos laboratoires lorsque nous nous égarerons ».

Cette association n’a pas manqué de susciter des réactions dans les milieux proches du Vatican, et dans le monde de la tech. Timnit Gebru, voix critique de la Silicon Valley, a dénoncé ce « partenariat » : « Le Vatican aurait pu s’associer aux travailleurs exploités des données qui luttent pour leurs droits, aux personnes dont l’eau est polluée qui combattent les centres de données, ou à tant d’autres victimes à travers le monde. Mais non, ils ont mis en avant Anthropic, leur accordant leur aval ».

Outre-Atlantique, le conseiller spécial du président américain Donald Trump sur les cryptomonnaies et sur l’IA, David Sacks, a répondu à l’encyclique en soutenant l’idée que cette technologie doit « servir la dignité humaine, et non devenir un outil de domination ou d’exclusion ». Mais « si nous accordons aux gouvernements un pouvoir absolu sur le développement de l’IA au nom de la sécurité, comment empêcher qu’elle ne soit utilisée pour censurer, surveiller et contrôler les citoyens — comme Orwell l’avait prédit dans 1984 ? », a interrogé cette figure de la tech, issue de la « mafia Paypal ».

Le chercheur canadien Yoshua Bengio, considéré comme l’un des pères de l’IA et voix critique de son développement, a témoigné sur X de son approbation : « Le Vatican et d’autres institutions mondiales peuvent et doivent jouer un rôle dans le dialogue mondial sur l’IA pour sensibiliser le public et mobiliser la société face aux défis à venir. »

« Tous les géants de la tech devraient lire Magnifica humanitas. » Dans La Croix, l’ancien commissaire européen Thierry Breton, engagé de longue date dans la régulation du secteur numérique, a applaudi la réflexion de Léon XIV « avec le regard de celui qui a vécu de près ce que signifie, concrètement, la concentration de pouvoir technologique ». « Voulons-nous que la loi soit faite à Bruxelles et à Strasbourg, ou dans quelques conseils d’administration de la côte ouest des États-Unis ? », a-t-il interrogé.