Un oeil ouvert sur la tech

Comment vivre avec les deepfakes ? Questions techniques

Comment vivre avec les deepfakes ? Quelles solutions adopter pour les intégrer au mieux dans les sociétés du futur ? Les tentatives régulation de l’usage des médias synthétiques politiques et des deep-porns ainsi que les initiatives technologiques dominent pour le moment. Pourtant la question juridique ne concerne pas uniquement les atteintes à la démocratie ou aux femmes et demande une réflexion sur le plan technique qui dépasse le solutionnisme technologique.
  • Première initiative à apparaitre : les détecteurs de deepfakes.
    • C’est une course à l’armement, les détecteurs seront toujours derrière les créateurs puisque comme un antivirus, il faut connaitre l’ennemi avant de pouvoir le combattre.
    • L’écosystème des entreprises de détection se densifie à mesure que l’écho médiatique fait état de la menace, ces entreprises lèvent des fonds sur la promesse de résultats, mais même les plus grands peinent à démontrer des résultats conséquents.
    • Pour afficher une expertise, ces entreprises publient des rapports dont la conclusion pointe toujours dans le même sens le besoin de détecteurs. Ces rapports sont utilisés comme référence, mais comportent de nombreux problèmes et se contredisent parfois entre eux.
  • Seconde initiative : les authentifications
    • Différentes initiatives émergent autour de l’authentification des contenus. Microsoft et d’autres acteurs majeurs sont en pointe sur le sujet et mènent un mouvement qui s’articule en 2 temps, R&D puis implémentation des solutions validées.
    • Cette approche pose deux problèmes :
      • La réponse proposée est une réponse à priori, il s’agit de tracer tous les contenus produits par une catégorie de personnes utilisant un certain type de matériel certifié. Cette réponse instaure de fait une classe de contenus référents, authentiques, une sorte de pravda numérique qui réinstalle les gardiens du temple dans leur rôle de sélecteurs de contenus et d’information. Comment accède-t-on à ce cercle de créateurs de contenus validés ? Quels critères ? Quels contrôles sont exercés sur cette nouvelle organisation transnationale ? Quid du bug ou de la faille, du hack ? Si la pravda numérique est compromise qui pourra-t-on croire ? Il y a lieu d’interroger les conditions d’exercice de cette coalition qui pour le moment repose sur l’opportun partenariat de quelques géants disposant des fonds nécessaires pour développer une/des solutions/s technologiques crédibles. Les petits acteurs qui n’auront pas pu contribuer directement ou indirectement pourront-ils bénéficier de ces solutions ou devront-ils s’en passer et courir le risque de passer à côté d’un fake ? Quel impact sur la réputation des petits acteurs aura cette mise à l’écart ! La crédibilité des uns ne se renforcera-t-elle pas au détriment des autres, captant ainsi les euros d’abonnements que certains lecteurs seront disposés à donner pour continuer d’obtenir une information crédible sourcée ET authentifiée? Le danger est ici évident : créer une information à deux vitesses. L’une certifiée conforme par des organismes dont la seule capacité à se fédérer leur a conféré un pouvoir supérieur en les élevant au rang d’une certaine Noblesse professionnelle. L’autre douteuse par nature, puisque non authentifiés par des mécanismes supposés objectifs, regroupant en son sein les organes indépendants, légitimes ou pas, colporteurs de vraies infos comme de rumeurs ou de fake news. La première payante sera délivrée à ceux capables de cumuler les abonnements, la seconde gratuite, viendra nourrir les fils Facebook de millions de personnes avec un risque potentiel de propager une fausse information.
      • La seconde question pose sur la traçabilité des contenus. Si le dispositif est étendu à l’ensemble des appareils en circulation, par le biais d’un bout de code implémenté de façon standard dans les logiciels d’exploitation à l’instar du codec h.264 qui se retrouve aujourd’hui partout, la traçabilité des contenus sera étendue soudainement à l’ensemble des utilisateurs du monde entier capable de créer un contenu. Quid de l’anonymat et du respect à la vie privée ? S’il est possible de tracer la production d’une image et de remonter jusqu’à l’appareil qui a créé l’image, il n’est pas impossible de retrouver celui qui l’a acheté en premier lieu en croisant le numéro de série et les factures du constructeur. Si on accède aux données de géolocalisation de l’outil, il est aisé de retrouver la personne derrière la caméra, presque en temps réel. Pour les lanceurs d’alertes, les témoins occasionnels, les opposants de régimes politiques et les journalistes indépendants, n’est-ce pas un risque de voir leur situation dévoilée ? N’est-ce pas une responsabilité qui mérite d’être débattue au-delà du cercle de cette coalition ?
Share this article
Shareable URL
Laisser un commentaire

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *

Read next
Abonnez-vous à la newsletter
Ouvrez les yeux sur la tech !