ChatGPT : Vers un monde sans nuances ?

Si on lui pose 15 fois la même question, est-ce que ChatGPT nous répondra 15 fois la même chose ? « En principe, oui, je fournirai la même réponse aux 15 utilisateurs posant la même question, car je m’efforce de donner des informations précises et cohérentes. Cependant, il peut y avoir de légères variations en fonction de la formulation exacte de la question et du contexte donné par chaque utilisateur » — voilà pour la réponse du chatbot.

Doit-on s’en réjouir ? Voilà une question d’une difficulté immense, car il semble qu’il faille choisir entre la peste ou le choléra. Il est aisé d’imaginer les travers d’une approche selon laquelle la machine pourrait personnaliser ses réponses en fonction de son utilisateur ou utilisatrice : chambre d’écho, fausse information et désinformation, capitalisme de surveillance — bref, ce que l’on trouve déjà sur les réseaux sociaux qui ont choisi de coller au plus près des désirs de leurs membres, quitte à tronquer la vérité pourvu qu’on puisse engranger davantage de profit. Si vous qui me lisez débutez une recherche Google avec « les femmes sont… », il est fort probable que la suggestion du moteur de recherche nous propose des complétions automatiques différentes !

Faut-il alors se réjouir que la création d’OpenAI suive une route différente ? Probablement pas, car si nous avons échappé à la peste d’une ultra-personnalisation du chatbot, nous avons droit à un choléra d’un autre genre : l’uniformisation de la pensée.

En répondant 15 fois la même chose, ChatGPT occulte également toute divergence d’opinions, présentant ses réponses comme la vérité ultime. Or, on le sait, ce sont spécifiquement ces divergences qui font la beauté du monde, mais, avec les Large Langage Models (LLM), « les couleurs s’estompent avec une rapidité sans précédent et, sous la couche de vernis craquelé, affleure le piston couleur acier de l’activité mécanique, la machine du monde moderne ». Ces mots, que l’on aurait pu écrire hier, sont de Stefan Zweig dans un petit ouvrage paru en 1925 : « L’Uniformisation du monde ».

À la sortie de la Première Guerre mondiale, et alors que l’industrie poursuit son accélération, l’écrivain constate « [qu’] inconsciemment, une âme unique se crée, une âme de masse, mue par le désir accru d’uniformité ». Loin d’un discours réactionnaire, le génie autrichien se questionne sur cette étrange façon qu’a le monde de devenir de plus en plus lisse ainsi que sur les causes de ce phénomène. Or, quand « les couleurs s’estompent avec une rapidité sans précédent et [que], sous la couche de vernis craquelé, affleure le piston couleur acier de l’activité mécanique [on aperçoit alors] la machine du monde moderne. » Zweig, avant Heidegger, avant Ellul, avant Sadin, nous avertit sur les dangers de la technicisation du monde et sur les dangers d’uniformisation que cette évolution entraîne immanquablement.

Tous ces nouveaux moyens de mécanisation de l’humanité « exercent un pouvoir énorme qui ne peut être dépassé. Toutes répondent en effet à l’idéal le plus élevé de la moyenne : offrir du plaisir sans exiger d’effort. » Le parallèle avec le monde d’aujourd’hui est presque trop facile, presque trop grossier — il est pourtant d’une cruelle justesse. Le scroll infini, l’enchaînement automatique des vidéos ou même la polarisation des débats sont autant de démonstration de l’exploitation d’une faille profondément humaine que l’on pourrait avec flegme appeler la flemme.

Il faut croire que le sujet titillait les intellectuels de l’époque, car c’est en 1931 qu’Huxley publie son célèbre « Meilleur des mondes » dont la description dystopique n’est pas sans rappeler le « vernis craquelé » d’uniformisation qu’évoque le texte de Zweig. Avec la standardisation des individus, des plaisirs, des métiers (du langage, aurait sans doute ajouté Orwell), on standardise les pensées, le réel, la vie. Dans un monde où la nuance disparaitrait, nous ne ferions qu’uniformiser ce qui fait que la vie vaut d’être vécue.

Face à ce sinistre constat, seuls l’éveil et le partage de l’esprit critique peuvent nous éclairer afin de regagner cette envie de l’aspérité. Dans son « Meilleur des mondes », Huxley fait exiger à l’un de ses personnages, le Sauvage, le « droit d’être malheureux ». Dans un plaidoyer d’une beauté sans nom où il réclame le droit de vivre pleinement, ce personnage nous fait réaliser que la vie pleine l’implique par définition pleine de malheurs, de difficultés, de larmes, de sueur, de sang. Mais bon Dieu, quelle vie !

Dans les dernières lignes de ce texte auquel j’ai voulu rendre hommage aujourd’hui, Zweig nous donne également son propre commandement : « La plus haute réalisation de l’homme spirituel reste la liberté, la liberté par rapport à autrui, aux opinions, aux choses, la liberté pour soi-même. Et c’est notre tâche : devenir toujours plus libre, à mesure que les autres s’assujettissent volontairement ! » Tout un programme qui, presque par définition, doit être personnel, doit être unique, doit être in-uniformisable.