Clarifier les enjeux du présent technologique

Chatbots sous contrôle

Remis le 10 novembre à Emmanuel Macron, le rapport de la commission « IA générative et vulnérabilités », réunie par le Conseil de l’intelligence artificielle et du numérique (CIANum) à la demande de la ministre déléguée au Numérique Anne Le Hénanff, formule 18 recommandations (CIANum). Parmi elles : l’interdiction des techniques de conception qui exploitent les vulnérabilités des utilisateur·ices, flagornerie et anthropomorphisme en tête, et une évaluation obligatoire des chatbots grand public avant leur mise sur le marché européen. Les neuf expert·es redoutent l’avènement d’une « économie de la cognition », où les plateformes tireraient profit des facultés cognitives, des émotions et des profils psychologiques de leurs usager·es, publicité glissée dans les réponses comprise. La protection ne doit pas reposer sur les utilisateur·ices, écrit la commission, qui vise le modèle d’affaires et propose d’inverser la logique de sanction a posteriori de la régulation numérique européenne. Reste que ces mesures sont pour l’essentiel conçues comme des contributions françaises à des négociations européennes (révision du règlement sur l’IA, Digital Fairness Act), et que leurs auteur·ices disent ne pas vouloir « mettre un boulet au pied » de l’économie française (AFP via TV5 Monde).

Share this article
Shareable URL
Laisser un commentaire

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *

Read next
Inscrivez-vous à la newsletter
Clarifier les enjeux du présent technologique