La fin de l’évidence visuelle

Imaginez ça dans quelques années. Une photographie apparait dans votre flux d'infos. Elle montre quelque chose d'important : une manifestation, un accident, une catastrophe naturelle. Vous la regardez. Vous ressentez quelque chose. Peut-être qu'elle est fausse. Vous scrollez...

La photo pourrait être vraie. Quelqu’un pourrait avoir capturé un véritable instant de vérité. Vous ne le saurez jamais, et vous avez appris à ne plus vous en soucier. Le contenu visuel non vérifié est devenu une illustration, vous l’appréhendez comme vos ancêtres appréhendaient les peintures. L’image est évocatrice, possiblement significative, mais ce n’est pas une preuve, et ce ne sera plus jamais une preuve. Bienvenue dans le monde d’après la photographie.

Territoire inexploré

Pendant près de deux siècles, l’appareil photo a servi de témoin mécanique. L’adage « l’appareil ne ment pas » n’a jamais été littéralement vrai, la manipulation a existé depuis les premiers jours du médium, mais c’était fonctionnellement vrai. Créer un faux convaincant nécessitait des ressources, une expertise et du temps. La barrière à l’entrée pour les fraudeurs était suffisamment haute pour que nous puissions accepter les photographies et les vidéos comme des preuves par défaut, de nos rédactions à nos articles scientifiques, en passant par nos tribunaux. Cette barrière a désormais disparu.

Mais voilà ce qui rend ce moment unique : nous n’avons pas simplement perdu confiance dans les images. Nous l’avons perdue alors même que les anciennes structures qui régissaient la confiance dans le texte se sont affaiblies. Avant la photographie, les gens naviguaient dans l’information à travers des gardiens institutionnels. Les éditeurs, les journaux et les diffuseurs avaient une réputation à protéger et des licences à perdre. Les barrières pour toucher un public de masse étaient nombreuses, et elles servaient de filtre approximatif pour forger une crédibilité.

Ces structures se sont érodées. N’importe qui aujourd’hui peut publier. D’un autre côté, les algorithmes amplifient l’engagement, pas l’exactitude. La seule chose qui semblait nous ancrer à une réalité partagée, le document visuel, la chose que nous voyions de nos propres yeux se dissout dans l’incertitude. Nous ne retournons pas en 1838. Nous sommes ailleurs, entièrement ailleurs.

Le basculement

Ce que je décris n’est pas une pure spéculation d’un futur lointain. Nous vivons la transition en ce moment même, et elle s’achèvera dans les années à venir. La technologie pour générer des vidéos photoréalistes d’événements qui ne se sont jamais produits existe aujourd’hui. Le coût de ces créations tend d’ailleurs vers zéro et le temps nécessaire à les créer tend vers quelques secondes.
Ce qui reste, c’est l’adoption, la normalisation du doute, le moment où se poser la question « est-ce réel ? » deviendra la réaction par défaut face à tout contenu visuel.

Ce moment est proche. Vous pouvez le sentir dans l’hésitation avant de partager quelque chose. Dans les avertissements que les organisations de presse incluent désormais presque systématiquement. Dans ce nouveau genre de publication sur les réseaux sociaux, qui n’existe que pour démystifier ce qui n’a jamais été réel. Le changement n’arrive pas. Le changement est là. Nous attendons juste que tout le monde le remarque.

Le dividende du menteur

Certaines personnes croient qu’elles bénéficieront de cette transition. Certains élus, certains dirigeants, certaines personnalités publiques ont remarqué que la machinerie de la responsabilité s’affaiblit. Plus de vidéos compromettantes. Plus de preuves incontestables. Tout peut être nié, et « c’est de l’IA » est maintenant une réponse plausible à toute accusation. Ils ont tort de se réjouir.

Les mêmes outils qui vous permettent de nier des images authentiques seront utilisés pour fabriquer des images de vous. La même érosion de la confiance qui vous protège de la responsabilité sera utilisée comme arme contre vous sans avertissement. Dans un monde où rien ne peut être prouvé, personne n’est en sécurité, y compris, surtout, ceux qui pensaient démanteler le système à leur avantage. Le dividende du menteur est un prêt, pas un cadeau. Il sera encaissé.

La fraction

Seule une petite fraction de la population cherchera activement la provenance de ces contenus. Ce n’est pas nouveau. La plupart des gens n’ont jamais lu de sources primaires, vérifié des affirmations de manière indépendante, ou retracé l’information jusqu’à son origine. Ils se sont appuyés sur des gardiens, des rédacteurs, des éditeurs et des services de normes de diffusion pour faire ce travail en leur nom. La confiance était déléguée, et, pour l’essentiel, le système fonctionnait.

Le problème tient en ce que les gardiens d’aujourd’hui ont changé de nature. L’algorithme d’une plateforme optimise l’engagement, pas la vérité. Un fil d’actualité sur les réseaux sociaux n’a aucune norme éditoriale. Les éditeurs historiques sont devenus des phares d’information biaisés, servant un point de vue très spécifique. Les institutions qui filtraient autrefois l’information avant qu’elle n’atteigne le grand public ont été désintermédiées, remplacées par des systèmes sans volonté ni obligation de vérifier quoi que ce soit.

Nous faisons donc face à un choix. Nous pouvons essayer de reconstruire des structures de filtrage, de nouvelles institutions, de nouvelles normes et de nouvelles barrières entre la fabrication et l’audience. Ou nous pouvons construire des systèmes permettant à quiconque de vérifier l’authenticité sans dépendre d’un gardien. Les deux voies ont un coût.

La vérité comme luxe

Si la vérification nécessite des efforts, une éducation ¹ou l’accès à des outils payants, qu’arrive-t-il à la vérité ? Imaginez le scénario. Les informations fiables se trouvent de plus en plus derrière des paywalls. Les outils de vérification nécessitent une culture technique. Comprendre les métadonnées de provenance exige une éducation que la plupart des systèmes scolaires ne fournissent pas. Les compétences pour naviguer dans un environnement de médias synthétiques ne sont pas uniformément distribuées, et elles ne le deviendront pas rapidement.

Nous nous dirigeons peut-être vers un monde où l’accès à une réalité vérifiée est un marqueur de classe. Ceux qui ont les ressources, l’éducation et le temps habiteront une sphère d’information authentifiée. Tous les autres nageront dans une mer indifférenciée de contenus, incapables de distinguer entre documentaire et fabrication, entre reportage et propagande.

Ce n’est pas un résultat technologique. C’est un choix politique. La question est de savoir si nous rendons l’authentification accessible et universelle, ou si nous permettons qu’elle devienne un autre bien de luxe.

L’alternative

Il existe une autre voie. Les Content Credentials, comme par exemple l’implémentation de la norme C2PA ², offrent un modèle d’authentification sans gardien centralisé. Le principe est simple : signer cryptographiquement le contenu au moment de sa création, enregistrer chaque modification ultérieure dans des métadonnées infalsifiables, et permettre à quiconque d’inspecter cette chaîne de traçabilité. Si cela fonctionne, si l’adoption se généralise, nous obtenons quelque chose de remarquable : un moyen de vérifier l’authenticité qui ne dépend pas de la confiance envers une plateforme, un éditeur ou une institution. Le certificat voyage avec le contenu. N’importe qui peut le vérifier. Mais l’adoption globale sera difficile.

Les Content Credentials nécessitent que les fabricants d’appareils photo, les éditeurs de logiciels, les plateformes et les éditeurs implémentent les normes de manière cohérente. Ils nécessitent que les utilisateurs comprennent ce que signifient les certificats et développent l’habitude de les vérifier. Ils nécessitent qu’un public qui a été formé pendant deux siècles à faire automatiquement confiance aux images apprenne un comportement entièrement nouveau. Ce n’est pas un problème technique. C’est un problème d’éducation. Et l’éducation à cette échelle prend des décennies. Et c’est dans le meilleur des cas. Certains pays pourraient entraver le processus dans l’espoir d’un gain politique. Après tout, une population confuse est plus facile à gouverner qu’une population bien informée.

Ce que cela signifie

Pour les marques : le contenu visuel sera questionné par défaut. L’absence de métadonnées de provenance deviendra un handicap. Les consommateurs, les journalistes et les régulateurs s’attendront de plus en plus à une authentification, et son absence sera interprétée comme suspecte ou fausse.

Pour les organes de presse : ils devront prouver que les images sont réelles et le faire d’une manière que les audiences peuvent vérifier indépendamment. La réputation seule ne suffira plus. Le certificat comptera autant que la marque média.

Pour les institutions : la documentation sur laquelle elles s’appuient, images de surveillance, imagerie médicale et preuves légales, fera face à de nouveaux défis. Les tribunaux et les régulateurs auront besoin de nouveaux cadres pour évaluer les preuves visuelles. Ces cadres n’existent pas encore.

Les individus devront développer de nouveaux instincts. L’habitude de demander « d’où vient cela ? » deviendra aussi essentielle que l’habitude de regarder des deux côtés avant de traverser la rue. Certaines personnes développeront cette habitude. Beaucoup ne le feront pas.

Les organisations peuvent évaluer leur préparation à cette transition. Des modèles de maturité existent pour comprendre où elles se situent, des organisations qui n’ont jamais considéré l’authenticité à celles qui ont intégré la provenance dans toute leur chaîne de production de contenu. Savoir où elles sont est la première étape pour savoir où elles doivent aller, et à quelle vitesse.

Le monde après la photographie

L’appareil photo nous a donné quelque chose d’extraordinaire : un témoin mécanique qui semblait transcender les biais humains. Ce témoin est en train de mourir. Ce qui le remplacera dépend des choix que nous faisons maintenant, concernant les normes, l’éducation, et ceux qui ont accès aux outils de vérification. Nous pouvons construire un futur où l’authenticité est vérifiable et universelle. Ou nous pouvons dériver vers un futur où la vérité est un luxe, et où la plupart des gens abandonnent simplement l’idée de distinguer le réel du fabriqué. La technologie existe pour l’un ou l’autre résultat. La question est de savoir quel futur nous choisissons de construire.

1. Naffi, Nadia, et al. « Pour une éducation aux hypertrucages malveillants et un développement de l’agentivité dans les contextes numériques. » Éducation et francophonie, volume 49, numéro 2, automne 2021. https://doi.org/10.7202/1085307ar ↩︎
2. The Coalition for Content Provenance and Authenticity, or C2PA ↩︎