Un média pas anti-tech mais fermement critique

« AI Down Syndrome » : fétichiser la trisomie 21 pour monétiser des deepfakes

EN UN COUP D’OEIL

  • Fantasmes numériques : Des deepfakes de femmes atteintes de trisomie 21 prolifèrent sur les réseaux, nourrissant un fétichisme malsain.
  • Un « proxénétisme IA » émergent : Des tutoriels incitent à créer et monétiser ces faux profils sur des plateformes comme OnlyFans.
  • Lacunes juridiques persistantes : Malgré des lois récentes, les sanctions peinent à endiguer cette exploitation à l’ère de l’IA grand public.
Ce sont des vidéos comme il en existe des milliers sur les réseaux sociaux : des jeunes filles au corps attirant et aux poses lascives. Sauf que celles-ci sont générées par IA et mettent en scène des femmes atteintes de Trisomie 21. Une tendance qui surfe sur la fétichisation de corps porteurs de handicap afin de générer des revenus publicitaires. 

Maria Dopari est une jeune femme de sa génération. Elle se filme face caméra dans sa chambre, en jogging et crop-top, en train de lipsync des musiques en vogue sur TikTok. Sur ses vidéos, où elle multiplie les poses lascives, on peut lire : « Ils critiquent tous ma trisomie 21 jusqu’à ce que… je décide de porter des vêtements moulants ». La jeune femme a cumulé plus de 148 000 abonnés sur Instagram, avant que son compte soit supprimé. Et pour cause : Maria Dopari n’existe pas.

Cette nouvelle « tendance » particulièrement dérangeante a été révélée par une enquête de 404Media publiée mi-mars 2025. Le média d’investigation a relevé une multiplication de faux comptes présentant des jeunes femmes atteintes de trisomie 21 sur Instagram, TikTok et X ces derniers mois. Des comptes qui sont en réalité des deepfakes produits à partir de photos et vidéos volées à des créatrices de contenus et modifiées par intelligence artificielle afin de leur donner un visage de personne trisomique. Selon les données de Google Trends, les recherches des termes “AI Down Syndrome” et “Down Syndrome girl” ont ainsi enregistré des pics de popularité en avril dernier.

Fétichiser le corps, monétiser le handicap

Les comptes qui les postent renvoient quasiment tous à des pages OnlyFans, une plateforme qui permet de diffuser, sous forme d’abonnements payants, des contenus érotiques ou pornographiques. L’objectif est donc clair : attirer la curiosité des spectateurs pour la monétiser grâce à des contenus sexuels de niche. « Avec le numérique, les interdits bougent, et fabriquent de nouvelles formes de curiosité parfois malsaines », commente Médina Koné, enseignante en marketing et communication digitale à l’IIM – Digital School Paris. « La trisomie est-elle un facteur de rupture pour vous ? », ou bien “Sortiriez-vous avec une fille atteinte de trisomie 21 ? », peut-on ainsi lire en légende de ces vidéos. 

La trisomie 21 est une maladie génétique causée par une division cellulaire anormale, où le chromosome 21 est copié de manière totale ou partielle. Les personnes porteuses de cette modification chromosomique sont sujettes à des modifications du développement et de leurs caractéristiques physiques, notamment au niveau du visage. C’est sur ces caractéristiques que les faux comptes jouent pour attirer les likes et les clics vers leurs pages OnlyFans, tout en perpétuant des stéréotypes et une fétichisation des femmes handicapées. Alors même que celles-ci sont particulièrement vulnérables. Selon une étude de l’Association pour l’insertion sociale et professionnelle des personnes handicapées (LADAPT) publiée en 2022, une femme handicapée sur cinq a déjà été victime de viol, une proportion presque deux fois plus grande que l’ensemble des femmes. 
Ces faux comptes et ces fausses influenceuses ne viennent que renforcer l’hypersexualisation et l’objectification des femmes trisomiques. Mais aussi, de potentiellement les exposer à des violences sexistes et sexuelles. 

Un réseau de « proxénètes IA »

La multiplication de ces faux comptes s’explique par la professionnalisation de la production de deepfakes. 404média constate la multiplication de videos-tutoriels, facilement accessibles en ligne, pour créer de fausses images et les monétiser grâce à des plateformes comme OnlyFans. Attirés par l’argent facile, ces “créateurs”, parfois mineurs, créent un véritable “proxénétisme IA”. Ils surfent notamment sur une stratégie publicitaire déjà utilisée par les travailleuses du sexe numérique : attirer les clients sur les réseaux sociaux “classiques” – comme Instagram – en proposant un contenu plus explicite sur des comptes payants. « Avec l’IA générative, on rentre dans une ère où il y a des risques pour les droits fondamentaux, la société et la planète. Et dans le danger dans tout ça, c’est que cette forme d’IA est devenue trop accessible auprès de tout public, parfois mineurs », alerte Magali Germond, fondatrice de LumIAire Conseils et experte en éthique des IA.

En février 2025, une communauté “r/pussydownsyndrom” a même été créée sur Reddit, où les utilisateurs publient des posts issus de ces comptes OnlyFans créés par intelligence artificielle. Magali Germond n’est malheureusement pas surprise par cette tendance de cette utilisation de l’IA à des fins pornographiques. « Malheureusement, cela signifie qu’il y a des gens qui sont friands de ces contenus, voire même certains qui vont trouver cela drôle. », pointe l’experte en éthique de l’IA.

Et la loi dans tout ça ?

Selon le média américain Stateline, en 2023, 98 % des vidéos deepfakes en ligne étaient de nature pornographique. Une technologie utilisée pour humilier en premier lieu les femmes, notamment publiques. « Le fait d’apporter de l’IA sans cadre réglementaire sur les réseaux sociaux, c’est le plus grand danger. On ne se rend pas compte des conséquences, notamment de rendre possible ces prouesses techniques à tout un chacun. Cela vient à s’attaquer à des personnes vulnérables, ou à utiliser la faiblesse des gens », analyse Magali Germond. 

Bien que ces contenus soient principalement conçus outre-Atlantique, ils voyagent y compris sur l’Internet francophone et européen. La loi SREN (sécurisation de l’espace numérique) promulguée en mai 2024 prévoit pourtant que l’auteur d’un deepfake risque jusqu’à 2 ans de prison et 45 000 euros d’amende, s’il est fait sans le consentement de la personne visée. Dans le cas des deepfakes à caractère sexuel, son auteur risque jusqu’à 3 ans de prison et 75 000 euros d’amende. Un arsenal législatif plus strict que l’IA Act porté au niveau européen et entré en vigueur à l’été 2024. « Dans le texte original de l’IA Act, la pyramide des risques n’a pas pensé l’IA générative. Pendant ce temps-là, la technologie avance et explose. Même si on a des revues régulières de la loi, il reste des zones d’ombres », constate pourtant Magali Germond. 

Si beaucoup des faux comptes incriminés ont été supprimés, de nouveaux émergent sans cesse, mettant en scène différents types de handicaps ou malformations, ou bien en présentant des femmes enceintes. Le tout, dopé à l’intelligence artificielle. Malgré la suppression de ses comptes sur les platefomes Instagram, TikTok et X, les vidéos de Maria Dopari, la fausse @DownBaddie, continuent de circuler sur OnlyFans, où elles rapportent de l’argent à son créateur.

Partager cet article
URL partageable
Laisser un commentaire

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *

Lire la suite

Le Deep Blues des échecs

Dans Rematch, Gary Kasparov se bat contre un imaginaire technique, une organisation et finalement contre lui-même
Abonnez-vous à la newsletter
Gardez un oeil critique sur la tech !