Publications
NewsGuard révèle une nouvelle facette inquiétante de la désinformation en ligne. L'organisation publie sur son site qu'un réseau de 17 comptes TikTok exploite la synthèse vocale pour fabriquer des contenus propageant des théories du complot.
Une utilisation de l’IA qui permet de créer des vidéos aux narrations extrêmement réalistes, améliorant leur diffusion auprès d’un public jeune. Depuis juin 2023, ces comptes ont généré environ 5 000 vidéos, recueillant plus de 336 millions de vues.
Dans ces vidéos, le président Obama est accusé d’avoir fait assassiner son chef personnel, on affirme que Jamie Fox a été paralysé par le vaccin contre le COVID-19 et qu’Oprah Winfrey est une travailleuse du sexe. Des thèses infamantes, mensongères, inspirées des pires théories complotistes.
NewsGuard a utilisé le logiciel ElevenLabs pour récréer la voix synthétique qui apparait dans une des vidéos. Pour avoir testé différentes plateformes de génération de voix synthétique, c’est en effet une des meilleures qui respecte le flot naturel des paroles (y compris en français, même s’il s’agit de voix Québecquoises).
L’accessibilité accrue aux outils de génération de voix synthétique combinés à d’autres outils de génération automatique de contenu permet de créer de fausses infos à l’échelle industrielle. La perspective prochaine de l’élection américaine de 2024 permet de craindre le pire.
