Après Maisy Kinsley et Katie Jones, c’est au tour d’Oliver Taylor de faire la une des médias. Ce jeune britannique, dans la vingtaine, étudiant à l’université de Birmingham en Angleterre a produit une petite dizaine de papiers pour le Jerusalem Post et le Times of Israël. Cette petite production d’articles n’est pourtant pas la raison de cette soudaine célébrité. Oliver Taylor, étudiant modèle, est en réalité, une fiction.
La photo d’Oliver Taylor est un deepfake
Le garçon ne paie pas de mine. Son visage juvénile de gendre parfait, barré d’un large sourire, ressemble à ceux qu’on trouve dans toutes les bonnes facultés du Royaume-Uni. Pourtant Oliver Taylor est au cœur d’une affaire étrange, impliquant plusieurs journaux israéliens et l’université de Birmingham. C’est l’agence Reuters qui donne l’alerte au début de l’été 1. Dans un article rapide, Raphael Satter nous livre une petite enquête tout à fait intéressante où il dévoile que Taylor est une fiction. Un profil fantôme, destiné à approcher une cible puis à actionner un plan prédéfini.
À l’instar de Maisy Kinsley et Katie Jones 2, des profils fabriqués de toute pièce pour espionner certaines cibles sur Linkedin, personne n’a pu mettre la main sur la ou les personnes qui se cachent derrière l’avatar. La photo de profil ressemble en tous points à ce qu’il est possible de créer sur le site Thispersondoesnotexist.com3. L’exercice est si simple que la série ci-dessous a été réalisée en quelques minutes, en croisant les images produites par le site avec l’application Faceapp 4 permettant le vieillir les visages.
Taylor n’est que la façade d’une opération de déstabilisation visant un couple d’universitaires Londoniens 5, tout comme Kinsley et Jones servaient d’interface à des opérations de rapprochement avec des diplomates et des chefs d’entreprises influents. La création de ces profils, parfois peu élaborés, parfois plus sophistiqués, a été sans aucun doute réalisée en quelques dizaine de minutes avec des outils accessibles par tous sur internet.
Les salariés sont des deepfakes
Dernière découverte en date, une entreprise entière dont les profils ont été générés artificiellement puis manipulés sur un service bon marché de retouche d’images. C’est Giorgio Patrini, le CEO de Deeptrace, une société spécialisée dans la détection de deepfakes, basée à Amsterdam, qui lève le lièvre.
Here it is: a whole company of GAN-generated fake people! #deepfake
—Giorgio Patrini 🛡️👾 (@GiorgioPatrini) July 27, 2020
Après vérification de journalism.design, les images de profil présentent toutes des artefacts grossiers, cohérents avec l’usage d’un générateur de type Thispersondoesnotexist. Toute l’opération semble d’ailleurs particulièrement opaque et franchement louche. Pas besoin de faire de longues recherches avant de se retrouver dans une impasse (littéralement) en tapant l’adresse supposée de la société. Celle-ci, basée à Manchester, n’est qu’une boite aux lettres, un prête-nom pour sociétés désireuses de passer sous le radar.
Ces fraudes ou ces opérations louches ont de grandes chances de se multiplier à l’avenir, les outils étant abordables, libres d’accès et leur usage anonyme. L’exposition médiatique faible, l’éducation aux médias synthétiques ridicule, contribue au développement de ces pratiques.
Gerald s'est penché sur le berceau des deepfakes alors même qu'ils n'avaient que quelques mois. Depuis, il ne cesse d'observer l'intelligence artificielle prendre une place de plus en plus centrale sur le web, dans nos vies et nos discussions. Ancien photojournaliste, c'est l'image synthétique qui a donc capturé son regard, mais ce sont les questions éthiques et juridiques, les questions liées aux biais et à la discrimination venant des systèmes d'IA qui l'intéresse aujourd'hui. Pour le joindre: [email protected]
Newsguard révèle qu'un réseau de 17 comptes TikTok exploite la synthèse vocale pour propager des théories du complot.
Abonnez-vous à la newsletter
Ouvrez les yeux sur la tech !
Gérer le consentement aux cookies
Pour offrir les meilleures expériences, nous utilisons des technologies telles que les cookies pour stocker et/ou accéder aux informations des appareils. Le fait de consentir à ces technologies nous permettra de traiter des données telles que le comportement de navigation ou les ID uniques sur ce site. Le fait de ne pas consentir ou de retirer son consentement peut avoir un effet négatif sur certaines caractéristiques et fonctions.
Fonctionnel
Toujours activé
Le stockage ou l’accès technique est strictement nécessaire dans la finalité d’intérêt légitime de permettre l’utilisation d’un service spécifique explicitement demandé par l’abonné ou l’internaute, ou dans le seul but d’effectuer la transmission d’une communication sur un réseau de communications électroniques.
Préférences
Le stockage ou l’accès technique est nécessaire dans la finalité d’intérêt légitime de stocker des préférences qui ne sont pas demandées par l’abonné ou la personne utilisant le service.
Statistiques
Le stockage ou l’accès technique qui est utilisé exclusivement à des fins statistiques.Le stockage ou l’accès technique qui est utilisé exclusivement dans des finalités statistiques anonymes. En l’absence d’une assignation à comparaître, d’une conformité volontaire de la part de votre fournisseur d’accès à internet ou d’enregistrements supplémentaires provenant d’une tierce partie, les informations stockées ou extraites à cette seule fin ne peuvent généralement pas être utilisées pour vous identifier.
Marketing
Le stockage ou l’accès technique est nécessaire pour créer des profils d’internautes afin d’envoyer des publicités, ou pour suivre l’internaute sur un site web ou sur plusieurs sites web ayant des finalités marketing similaires.