Histoire de glitchs

C’est tout nouveau, ça vient de sortir et ça s’appelle Recall Me Maybe – on saluera l’audace du titre, clin d’œil astucieux au tube de l’été 2012 par la pop-star Carly Rae Jepsen, Call Me Maybe. Le court-métrage du Financial Times interroge notre rapport au réél, à la machine et à la confiance que nous avons dans nos souvenirs.  

Ne vous cachez pas derrière votre clavier, on le sait, vous vous êtes sûrement déhanchés sur son refrain entraînant, en criant à gorge déployée les quelques vers que votre anglais alors hésitant maîtrisait cependant sans fausse note. Vous vous en souvenez certainement… non ? Enfin, vous vous imaginez vous en souvenir, mais quels souvenirs vous appartiennent vraiment et quels sont ceux que vous avez recréés, consciemment ou non ? Comment, finalement, démêler le vrai du faux ? Le réel du désirable ?

Ces questions, ce sont donc celles que nous pose l’excellent Recall Me Maybe, le dernier court-métrage réalisé par le Financial Times. On ignorait le talent cinématographique et scénaristique des journalistes du FT mais une chose est certaine : on en redemande, tant les questions posées sont vives, le regard acéré, le ton juste. En quelques mots, le film nous raconte l’histoire de Kevin, un grand-père qui perd la mémoire, et de Cass, sa fille qui l’accompagne lors d’un processus médical qui vise à lui recréer des souvenirs grâce à des logiciels d’intelligence artificielle. Le procédé est simple : la fille, Cass, raconte son enfance et ce dont elle se souvient de son père, et le logiciel fait le reste en croisant ce « prompt » avec d’autres données plus générales – exactement ce que ferait un LLM aujourd’hui. Le duo bloque cependant lorsque le logiciel recrée une scène de toutes pièces : Kevin aurait frappé sa fille lors d’un déjeuner familial.

Cette scène, dont aucun des deux protagonistes n’a le moindre souvenir, a-t-elle vraiment eu lieu ? Et, alors que Cass tente de reconstruire les souvenirs de son père, est-il souhaitable de la modifier lorsqu’on lui « télécharge » ses nouveaux souvenirs ?

En à peine 13 minutes, voilà les quelques interrogations que nous pose, et nous impose, le Financial Times. Le récit aborde différents sujets, mais il semble important de revenir sur trois d’entre eux spécifiquement. Tout d’abord, la question des hallucinations et donc, on l’a compris, de notre rapport au réel. La machine est-elle vraiment digne de confiance – “I’m sure it’s just a glitch”, dit Cass lorsqu’elle découvre la scène problématique – et on se questionne tout de suite : si la machine, avec toute sa puissance, nous dit que c’est vrai… c’est que ça doit sans doute l’être ? Les deux personnages en viennent à douter de leurs propres souvenirs, de leur propre ressenti, et nous questionnent sur le pouvoir performatif de la technologie. Le film met également le doigt sur l’épineuse question de l’argent : qui finance quoi et donc, in fine, qui décide quoi ? À un moment, Cass découvre un placement de produit dans un des souvenirs fabriqués de son père : quelle est alors vraiment l’indépendance, la neutralité de la machine ? Vous qui lisez régulièrement Synth, vous savez bien que la technologie n’est pas neutre, elle ne l’est jamais, mais Cass semble le découvrir avec la même violence que l’on attribue supposément à son père.

Enfin, le court-métrage du FT pose la question du narratif animé et mobilisé par celles et ceux qui font la tech, et qui la vendent. Interrogée sur le fait que l’IA a inventé une scène, l’ingénieure responsable rétorque : « elle n’a rien inventé, elle a estimé les probabilités » avant d’ajouter « tout l’univers est fait de probabilités », puis s’en suit une discussion manipulatoire pour s’assurer que, surtout, Cass et son père n’arrêtent pas le processus… et continuent donc de payer.

Il y a quelques jours, des dizaines d’experts ont profité de l’ouverture de l’Assemblée générale des Nations Unies à New York pour appeler à mieux maîtriser le développement de l’IA en rappelant, notamment, les risques de manipulation et de désinformation à grande échelle. Quoi que l’on pense d’une telle démarche – et il y a de nombreuses choses à en dire – elle remet en avant la question des risques liés à l’IA, ce que fait également Recall Me Maybe. La société se pose chaque jour un peu plus la question du vrai et du véritable, et le court-métrage a par ailleurs le talent de le faire d’une façon extrêmement frontale, puisqu’il le fait au sein du cadre le plus intime, la famille, avec une des actions, après (ou avec, c’est selon) l’inceste, les plus violentes qui soit.

À la fin des histoires, quand elles sont bien racontées, on peut souvent tâcher d’en trouver la morale. Alors que celle-ci se termine, le FT se reconnecte à son métier premier, le journalisme, et nous rappelle que ce que nous avons vu n’est, finalement, peut-être pas si éloigné de la fiction. Black Mirror n’aurait pas fait mieux – et c’est glaçant.