Publications
Les temps sont durs pour Google qui ne cesse de tirer dans le pied de son modèle Gemini. Démo manipulée, performances exagérées (au début) et maintenant un scandale que seuls les internet peuvent alimenter. Gemini serait-il trop trop trop woke ?
Après quelques jours d’existence, la fonctionnalité de création d’images de Gemini retourne sur les bancs de l’école pour apprendre à générer des images moins wokes. En tous cas, c’est de cette manière que les médias présentent l’affaire. L’histoire commence quand des utilisateurs demandent à Gemini de générer l’image de personnalités historiques connues ou de reproduire des évènements de l’histoire précis (soldat de la Seconde Guerre mondiale, viking Georges Washington et bien d’autres).
Invariablement, le résultat présente des représentations qui certes mettent en avant la diversité des populations d’aujourd’hui, mais sont totalement fausses d’un point de vue historique. L’Amérique n’a jamais connu de Georges Washington noir, pas plus que les régiments de la Wehrmacht n’étaient constitués de soldats venant du continent africain ou des asiatiques.
Tout aussi problématique, Gemini refuse de fournir les images des manifestations à Hongkong ou celles de la révolte des étudiants chinois à Tiananmen. Les critiques se sont penchées sur la biographie et le compte twitter de Jack Krawczyk, le directeur de la gestion produit de Gemini pour débusquer le responsable de cet enfer technologique et ont trouvée qu’il fallait pour alimenter la thèse du woke libéral tentant d’imposer une idéologie anti-blanc que tous les titres de presse ont repris par la suite.
Sauf que cet évènement, déplorable pour Google et effectivement embarrassant d’un point de vue technologique, montre bien que la représentation de la diversité culturelle dans nos sociétés se heurte à un discours raciste sur le fond. Les allégations de racisme anti-blanc, concept fumeux que le sociologue Eric Fassin a démonté à plusieurs reprises, ont proliféré sur les comptes conservateurs et antilibéraux qui se sont déchainés contre Google. Dans un contexte de politique tendu où les supporters de Donald Trump n’attendent qu’un signe pour s’engager dans une autre guerre culturelle, il n’en fallait pas plus.
Cet évènement montre également qu’un LLM mal maitrisé, mis à disposition du public, montrant d’évidents signes de dérives, de biais et de contresens suggère que des contrôles plus stricts soient menés avant mise sur le marché. Ils montrent également le danger des biais qu’on ne perçoit pas. Ceux qui passent au quotidien pour de simples expressions naturelles de ce que nos sociétés peuvent produire. La misogynie, l’homophobie, l’effacement des minorités, les discriminations de représentation de genre participent des déséquilibres de nos sociétés. Google a raté son produit, mais les réactions à ce raté montrent bien qu’il y a un problème à régler.
