AI 2027, une bonne vieille daube

Nous prévoyons que l’impact de l’IA surhumaine au cours de la prochaine décennie sera énorme, dépassant celui de la révolution industrielle.

(une citation du site ai-2027.com)

S’en suit une longue liste de mots assemblés, semble-t-il, par des humains, semble-t-il, intelligents. Ils nous ont rappelé leurs CV, preuve qu’ils le sont ¹. Il faut oser l’argument d’autorité dès l’introduction.

Disons-le tout net : ce texte est mauvais. Le style est pédestre, les auteurs piétinent, les idées développées ne ressemblent aucunement aux petits sentiers escarpés qu’on aime découvrir et goutent franchement les trottoirs usés des zones commerciales. Les auteurs essaient d’effrayer le lecteur avec un discours en apparence sérieux, présenté comme objectif et rationnel et qui camoufle ses inventions sous un sabir pseudo-technique. Osons le dire : la démarche est dégueulasse.

La suspension de l’incrédulité consentie habituellement par tout lecteur de science-fiction ne fonctionne pas. Ou n’a pas fonctionné avec moi. Et Dieu sait que j’en ai lu, des essais, des nouvelles, des romans. Et des articles scientifiques, dans le cadre de mon activité professionnelle en data science.

L’hypothèse principale de AI 2027 est simple. L’intelligence n’est qu’une affaire de puissance de calcul. Elle peut donc faire l’objet d’une course à l’armement. Je ne souviens pas si cette hypothèse est énoncée dans le texte. Non, je ne relirai pas ce pavé pour m’en assurer. Il y a de grandes chances que ce soit un non-dit, un implicite, une idée qui est dans l’air du temps et qui ne souffre donc pas la discussion. C’est dommage, car cette hypothèse est probablement fausse.

J’ai noté trois hypothèses secondaires. Je vous les livre. La construction de l’intelligence créée par exploitation de la puissance de calcul montre une croissance linéaire, en tout cas suffisamment rapide pour ne pas plafonner telles une vulgaire racine carrée ou une tangente hyperbolique. La compréhension de l’intelligence biologique, humaine ou animale, est suffisante pour permettre à nos techniques actuelles de calculer les prochaines étapes sans rencontrer de cul-de-sac conceptuel. Enfin, l’accumulation d’informations permet d’alimenter l’intelligence. Les auteurs décrivent une situation d’auto-amélioration des programmes dits IA.

Ce phénomène de croissance exponentielle provoque une explosion et aboutit à l’émergence d’une superintelligence (cf. Nick Bostrom, non cité). Les auteurs brodent autour de cette idée et essaient de construire un scénario crédible. Ils affirment, principalement.

S’ils affirment, j’affirme. Les quatre hypothèses qui sous-tendent l’évolution du progrès scientifique dans ce texte sont historiquement fausses, et spécifiquement fausses dans le cas de l’intelligence artificielle. Ce texte n’a aucun sens.

Il faudrait écrire un livre entier et déployer une énergie considérable pour discuter les hypothèses avancées par les auteurs et les réfuter. Si le mensonge vole, la vérité ne le suit qu’en boîtant — je plagie Swift ou plutôt Arbuthnot. N’inversons pas la charge de la preuve, c’est aux personnes qui affirment des choses incroyables de les prouver. Les affirmations péremptoires ne fonctionnent pas en science. C’est rédhibitoire.

Rappelons que nous n’avons pas de réelle définition de l’intelligence animale, et encore moins de métrique objective. Je ne parlerai pas de l’évaluation quantitative des performances des développeurs ou des scientifiques humains, leitmotiv du texte. Rappelons que les modèles actuellement les plus performants, ceux qui concentrent l’attention médiatique depuis 2023, manipulent le langage, tirent profit de sa souplesse et exploitent notre capacité à boucher les trous, s’accommoder des imprécisions et comprendre à demi-mot.

Rappelons que les mécanismes d’apprentissage des algorithmes de deep learning restent mystérieux. Rappelons enfin cette citation de Joseph Weizenbaum, créateur d’Eliza, premier agent conversationnel (1967).

Ce que je n’avais pas réalisé, c’est qu’une exposition extrêmement courte à un programme informatique relativement simple pouvait induire de puissantes
pensées délirantes chez des personnes tout à fait normales.

Les progrès techniques sont réels, valables, parfois impressionnants. ChatGPT d’OpenAI est remarquable. Mais ce n’est pas la fin de l’histoire.

Parlons de la fin du texte. Les auteurs proposent deux fins possibles, longues comme un jour sans heavy métal. Je serai honnête avec toi, camarade lecteur. Un grand bâillement m’a avalé et l’ennui a eu raison de ma motivation. Je n’ai pu achever ma lecture.

Ce texte n’est pas sérieux et relève au mieux de l’anticipation, une modalité de la science-fiction. En tant que fan de science-fiction, j’ai bâillé. Le scénario est insipide (juste de la puissance !?), aucune idée folle, incongrue ou étonnante n’est présentée. Aucun monde caché n’est donné à découvrir. Rien ne donne envie de lire le paragraphe suivant. Et le style est nul. Bref, c’est de la daube.

1. Daniel Kokotajlo, un des auteurs de AI2027 est un ancien chercheur de l’OpenAI et il dirige le projet A.I. Futures. ↩︎