L’objection de conscience face à l’IA Générative est un moyen, pas une fin

EN UN COUP D’OEIL

• Une résistance matérialiste : Le Manifeste rejette l’IA générative non par principe, mais pour ses effets écologiques, sociaux et politiques concrets.
• L’objection comme levier politique : Refuser l’IA générative, ce n’est pas fuir le débat, c’est créer les conditions d’une alternative réfléchie.
• Un refus pour penser plus large : L’IA générative devient prétexte à interroger notre modèle global, du numérique aux institutions, en passant par nos modes de vie.

Face au déploiement de l'IA générative et notamment à son adoption de plus en plus massive dans les milieux universitaires, 1300 chercheuses et chercheurs ont publié un manifeste appelant au boycot de l'IA intitulé « Face à l’IAg, l’objection de conscience »  . Synth publie la réponse aux critiques qui ont été formulées à l'encontre du manifeste de Guillaume Carbou, Maître de Conférences en Sciences de l’Information et de la Communication à l’Université de Bordeaux et co-rédacteur et signataire du manifeste. 

L’atelier d’écologie politique (Atécopol), collectif toulousain regroupant 300 scientifiques qui s’engagent face à l’urgence écologique, a lancé le 1er décembre un manifeste intitulé « Face à l’IA générative, l’objection de conscience », à destination des personnels de l’enseignement supérieur et de la recherche, et de l’éducation nationale. Le texte soutient que le déploiement massif de l’IAg dans leurs institutions est incompatible avec les valeurs humanistes fondamentales qu’elles sont censées porter pour des raisons écologiques, sociales et démocratiques. Ce manifeste a recueilli plus de 2500 signatures à ce jour et a suscité de nombreuses réactions positives dans la communauté éducative, notamment parce qu’il permet de relier des résistances qui pouvaient auparavant se sentir isolées. Le texte a également donné lieu à un certain nombre de questionnements critiques. On les retrouve notamment dans une tribune publiée par plusieurs collègues sur le site du réseau Terra-HN ou dans un long billet de Grégory Chatonsky sur son blog, récemment synthétisé par une chronique qu’il co-signe avec Anthony Masure dans le Journal du Net.

Ayant participé, avec de nombreuses autres personnes, à la rédaction et à la diffusion du Manifeste, je souhaiterais contribuer au débat que celui-ci a soulevé. Pour ce faire, je propose de commenter la citation suivante, issue de la chronique précédemment citée, et qui synthétise les principales critiques adressées au Manifeste.

Nous posons que les enjeux soulevés par l’IA générative méritent mieux qu’une critique essentialiste, qui non seulement est inopérante, mais qui surtout laisse la voie grande ouverte aux périls qu’elle entend combattre. 

A. Masure et G. Chatonsky – Chronique dans Le Journal du Net

Trois arguments essentiels apparaissent dans cette phrase, et je vais essayer de les discuter séparément.

Refuser l’IA générative réellement existante

Premier argument à sur lequel je me pencherai, l’approche du Manifeste révélerait une vision « essentialiste » de l’IA générative. Cette remarque semble considérer que le Manifeste s’oppose à l’IA générative « en elle-même », voire qu’il développe une critique abstraite de « la technologie » en général. Cette lecture me semble tout à fait infondée. En effet, l’approche du Manifeste est au contraire parfaitement matérialiste : c’est bien parce que l’IA réellement existante est ce qu’elle est que nous appelons à y résister. Nous n’attribuons pas de caractéristiques « essentielles » à l’« IA générative en général » mais bien à un système sociotechnique particulier, avec son infrastructure concrète, les réseaux de pouvoir qu’elle implique, le contexte écologique, politique et social dans lequel elle s’inscrit, etc. Nommer cette approche « essentialiste » relève donc sans doute d’un malentendu sur notre analyse, ou sur la signification de ce terme.

En revanche, supposer, que l’IA générative « pourrait être autre chose » est une position idéaliste car, en effet, en l’état, elle n’est pas autre chose que ce qu’elle est : un outil énergivore à la main d’un système insoutenable et anti-humaniste. Il est peut-être possible, dans un monde qui n’est pas le nôtre, d’imaginer la possibilité d’une IA générative qui respecterait les limites planétaires et servirait le bien commun (encore que je pense sincèrement que cette vision relève d’un manque de prise de mesure de ce que signifie, matériellement, « respecter les limites planétaires », ou même tout simplement l’Accord de Paris), mais, justement parce que nous ne sommes pas essentialistes, nous voyons bien qu’elle n’est pas cela, ici et maintenant. Par ailleurs, le Manifeste ne se positionne pas sur la présence ou non d’IA générative dans une « société idéale ». En cela, nous n’entrons pas dans le débat entre tenants de la « dénumérisation » et promoteurs d’un « alternumérisme » ou d’un « cyber-écosocialisme ». Nous serions ravis d’avoir le loisir de débattre de ces différentes options, mais ce n’est justement pas ce qui se passe aujourd’hui : les IA générative clairement « non désirables » déferlent et menacent de créer des lock-in dans nos institutions. C’est cela que nous appelons à refuser, pour justement ensuite permettre de débattre du « numérique que nous voulons » ou « auquel il faudrait renoncer ».

Objecter n’est pas déserter

Refuser d’utiliser l’IA générative serait inopérant politiquement. Cette inquiétude que l’on retrouve dans plusieurs des réactions au Manifeste me semble très étrange. Il s’agit tout d’abord d’un « homme de paille ». Cela prête une intention au Manifeste qui n’y est pas du tout affichée, à savoir celle de se retirer du débat politique par une simple attitude de « non usage » individuel et puriste. Bien au contraire, le manifeste indique clairement que l’enjeu est d’ouvrir des espaces de débat et d’action à propos de la place et du rôle de nos institutions face à l’IA générative et à la numérisation du monde en général. Ensuite, suggérer qu’exprimer le refus de l’introduction d’une technologie impliquerait mécaniquement un refus à participer à ses modalités de (non)développement me semble une conception très discutable des pré-requis à l’action politique ! D’abord parce que c’est plutôt le contraire qui est vrai (ce sont sans doute celles et ceux qui adoptent une posture d’acceptation passive qui sont le plus désengagés politiquement) ensuite parce que rien n’empêche d’être d’une part signataire du manifeste et d’autre part de participer à la construction des maquettes d’enseignement, de débattre dans les conseils institutionnels, de rédiger des chartes de (non)utilisation institutionnelles, d’intervenir dans des tables-rondes sur le sujet… etc.

Les débats médiatiques et intra-universitaires suscités par le manifeste sont d’ailleurs la preuve par les faits que la démarche est agissante. L’objection de conscience à laquelle nous invitons ne doit ainsi pas être entendue comme un appel à la désertion de la délibération publique ou institutionnelle. Il s’agit au contraire d’un point de départ permettant de donner forme au débat sur la place que pourraient y prendre les IA générative, quitte à ce que cela conduise à envisager de renoncer à leur intégration.

On arrête tout, on réfléchit

La posture de rejet laisserait la voie libre aux promoteurs d’une IA générative « non désirable » et il n’y aurait d’autre possibilité que de participer à l’« expérimenter » pour espérer l’orienter dans une direction désirable. Là encore, le raisonnement m’est étrange. Il l’est tellement qu’il me faut le prendre par plusieurs angles pour arriver à le contester. D’abord : il me semble évident que la résistance au déploiement est en soi une modalité d’action qui peut participer à donner forme à la diffusion de l’IA générative dans nos institutions. Dirait-on que celles et ceux qui ont lutté (victorieusement) contre l’implantation d’un aéroport à Notre Dame des Landes n’ont pas participé à la manière dont se diffusent les infrastructures aéroportuaires en France (et ailleurs) ? La multiplication des mouvements de protestation, voire d’obstruction est évidemment un phénomène qui joue un rôle dans la manière dont les pouvoir publics et les acteurs privés envisagent leur action. Plus encore, les mouvements de résistance sont également toujours des terrains de contre-proposition : avec l’opposition à l’A69 ou la LGV Bordeaux-Toulouse émergent différentes alternatives et contre-modèles de développement. Le rejet initial est ici un puissant vecteur de politisation. Pour revenir au Manifeste : une vague de rejet de l’IA générative dans l’éducation et la recherche modifierait sans aucun doute la manière dont les promoteurs de l’IA générative cherchent à l’y introduire. Ainsi, je ne vois pas en quoi dire haut et fort « nous ne voulons pas de l’IA générative et de son monde », pour reprendre le slogan des ZAD, reviendrait à laisser la porte ouverte aux acteurs dominants de l’IA générative.

Sur un tout autre plan, considérer que la seule voie possible face à la vague qui nous arrive est la participation « réformiste » au développement de l’IA générative relève d’une position fataliste extrêmement contestable. D’abord parce qu’évidemment en termes de développements sociotechniques rien n’est jamais écrit. Pour jouer au futurologue : faut-il aujourd’hui se rendre dépendants de l’IA générative si nous peinons demain à produire assez d’électricité pour nos activités essentielles, si nous n’accédons pas à des métaux stratégiques, si les GAFAM décident de nous retirer tous leurs outils et infrastructures…? Ensuite parce que poser que le développement de l’IA générative est inéluctable consiste à en faire le jeu. C’est cela qui revient à « ouvrir la porte », à refuser de participer à une véritable alternative, à savoir le refus de son introduction dans nos institutions ! Et quand bien même nous penserions possible de développer une IA « alternative » désirable et soutenable : pourquoi faudrait-il pour cela accepter, ici et maintenant, d’utiliser ChatGPT, de faire nos diaporamas avec Gemini, de traduire nos textes avec DeepL, bref d’utiliser l’IA générative qu’on ne veut pas pour faire advenir celle que l’on veut ? Utiliser le poison pour un jour espérer le transformer en remède ? C’est un pari romantique, qui serait plein de panache s’il n’engageait que la vie de celles et ceux qui le prennent. Malheureusement les conséquences destructrices du « pari technologique », c’est-à-dire de l’accompagnement du développement « business as usual » de la modernité technocapitaliste, sont et seront pour tout le monde.

Enfin, et il est crucial de le souligner : notre manifeste ne prétend nullement être une « balle en argent » contre l’IA générative. Nous ne revendiquons pas qu’il s’agit de la seule et unique bonne stratégie pour contrecarrer le rouleau compresseur en marche. Au contraire, et d’ailleurs les nombreuses nuances que nous avons essayé d’introduire dans un texte si court (et qui nous ont d’ailleurs valu des critiques à propos de notre manque de radicalité ou de cohérence !) le suggèrent bien : nous prônons un éclectisme stratégique et un réalisme humaniste (c’est-à-dire que nous prenons acte du fait que les technologies s’imposent largement à nous et qu’une attitude individuelle puriste n’a pas vraiment de sens). Certes, depuis notre position, et au terme de notre réflexion, nous pensons que le refus en bloc est un point de départ pertinent dans la résistance et le nécessaire travail de transformation de nos institutions. Nous pensons que cela présente tout un ensemble d’intérêts, à commencer par celui de créer le débat que nous tenons en ce moment même. Mais nulle part notre manifeste n’a la prétention de dire ce qu’il faut faire exactement et de balayer a priori les diverses autres formes d’intervention. Il est absolument possible de se reconnaître dans le Manifeste, et de participer à se demander si « une autre IA » est possible, d’expérimenter des formes d’alternumérisme ou, à l’opposé du spectre, d’opter pour des actions se revendiquant du luddisme. Le Manifeste dit simplement : la déferlante telle qu’elle nous arrive est inacceptable, il faut d’abord la refuser pour ensuite penser sereinement les alternatives.

Lever les yeux

Pour conclure, je crois qu’un malentendu plus général sur notre démarche doit être levé. A l’instar de toutes les luttes contemporaines (contre une autoroute, un aéroport, un traité de libre-échange, etc.), l’objection de conscience face à l’IA générative dans nos institutions possède un caractère double. Il s’agit d’une part de résister concrètement à quelque chose qui est destructeur ici et maintenant. En l’occurrence il s’agirait pour nous d’éviter que des outils nocifs pénètrent et s’imposent dans nos institutions. Cela serait déjà un « moindre mal ». Mais, comme l’indiquent les slogans classiques « Non à X et à son monde » ou « Ni ici, ni ailleurs », la résistance vise aussi une mise en question plus large d’un modèle de développement global qui pose problème.

Dans ce contexte, l’IA générative constitue ici et maintenant un « momentum », un fil sur lequel nous pouvons tirer parce qu’il dépasse, que tout le monde le voit et qu’il fait parler. Mais c’est bien toute la pelote qu’il faudrait dévider. Car une fois que l’on a accepté le fait, gros comme un éléphant au milieu d’un couloir, que l’IA générative réellement existante est incompatible avec un monde sobre et équitable, on doit admettre qu’il en va de même pour le numérique dans son ensemble, du moins sous sa forme actuelle, et plus généralement de même pour nos modèles économiques dominants, une partie de nos valeurs, de nos institutions, de nos modes de vie, etc. L’objection de conscience face à l’IA générative n’est donc évidemment pas une fin en soi, mais bien plutôt un sujet qui vient contribuer à une remise en question plus large de la trajectoire insoutenable sur laquelle nous sommes engagés. Alors, si celles et ceux qui lisent d’un œil critique notre manifeste se demandent « ah, mais ces universitaires qui mettent en cause l’IA générative, pourquoi ne font-ils pas de même avec la 5G, les accélérateurs de particule, l’A69, ou même encore le café qui coule à flot dans leurs labos ? », c’est qu’ils ont mis le doigt sur le nœud. Or ce nœud, loin d’être une inconséquence de notre part, est précisément l’essentiel du problème et nous invitons toutes celles et ceux qui l’ont maintenant sous les yeux à s’attabler avec nous pour chercher à le dénouer.

C’est donc cela la véritable question que pourrait soulever le manifeste : les fonctionnements actuels de l’université et de l’éducation nationale sont-ils compatibles avec une décroissance énergétique et matérielle globale ? Avec la bifurcation vers un monde sobre, équitable, démocratique ? Sont-ils alignés avec le bien commun dont les coordonnées ont changé avec l’effondrement du mythe de la croissance techno-économique joyeuse pour toutes et tous ? En ce qui concerne l’introduction de l’IA générative, clairement non, et cela justifie en soi une résistance ciblée. Pour le reste, justement, il serait urgent d’en discuter.

1. Face à l’IA générative, l’objection de conscience, l’Atelier de l’écologie politique, 2025 ↩︎