Publications
Ravis de tester les derniers gadgets à la mode, nous entraînons le modèle génératif qui prendra notre boulot. Nous sommes vraiment trop naïfs, trop confiants, pour ne pas dire trop stupides. Une tribune énervée.
Les données issues du principal logiciel de paie aux USA mettent en évidence une nette baisse de l’emploi dans des secteurs particulièrement sensibles à l’automatisation proposée par l’IA générative : le développement logiciel et le service client. Les chiffres montrent une baisse de 10 à 20% sur la période 2022-2025. Elle concerne principalement les jeunes de 22-25 ans qui cherchent leur premier emploi. L’étude conclut qu’on observe peut-être les premiers impacts significatifs de l’intelligence artificielle générative (GenAI) sur le marché du travail.
Les agents « intelligents » ne le sont pas vraiment. Leur mode de fonctionnement consiste à accumuler des informations, puis à rechercher des corrélations ; ces programmes apprennent sans comprendre. Ils fabriquent ensuite des phrases qui sonnent bien, ou ils assemblent des images qui semblent crédibles. Ce n’est qu’une illusion de sens, car ces technologies sont hors-sol et ne peuvent discerner le vrai du faux. C’est un gadget technologique parfois utile, parfois amusant et fondamentalement creux.
L’utilisation massive du GenAI dans un cadre professionnel pose un souci majeur. Les millions de conversations tenues en parallèle sont autant d’expositions aux rouages internes d’une multitude de métiers, de pratiques professionnelles et de contextes techniques. Les agents sont des témoins privilégiés de l’expertise humaine et des connaissances qu’elle mobilise. Ces données d’utilisation en conditions réelles que nous leur fournissons gaiement, parfois même en payant, ont une valeur que le grand public conçoit mal.
Les bases de connaissances sont un trésor. Les informations uniques, contextualisées, détaillées et qualifiées sont massivement siphonnées par les géants du secteur. Microsoft, Google, OpenAI, Anthropic et consorts peuvent tranquillement entraîner les prochaines itérations de leurs modèles et en tirer un avantage stratégique colossal. Les BigTechs sont devenus des dragons cupides qui veillent sur leur montagne d’or. Ce trésor, leur trésor, est escamoté à la puissance publique, échappant ainsi à la régulation et à la redistribution. C’est du vol et du plagiat.
Je me permets d’interrompre ce film parce qu’on se fout un peu de ma gueule, c’est du vol et du plagiat. J’aime pas trop les voleurs, et les fils de putes.
Orson Welles dans La classe américaine
Se servir de ces agents dans un cadre professionnel revient, ni plus ni moins, à se brûler les doigts ou se scier les mains.
Factuellement, chaque interaction avec un agent est un entrainement dirigé vers l’automatisation et la contrefaçon. Nous sommes entrés dans une économie du mime articulée par une logique sournoise. Le travailleur entraîne de fait un programme dont la finalité est de le singer. La promesse des acteurs des BigTechs est de pousser l’imitation suffisamment loin pour convaincre les financiers que la machine peut progressivement remplacer l’homme. Après avoir été professeur, le travailleur deviendra vérificateur du programme, jusqu’à être invisibilisé et peut-être disparaître. Si rien n’est certain ou inéluctable, la dynamique est enclenchée. Il n’est pas certain que la logique du maître et de l’esclave fonctionne ici. Il n’est pas certain non plus que la situation soit satisfaisante pour nous.
Il ne s’agit pas d’ignorer que l’automatisation de la décision par le calcul est la raison d’être de l’informatique. Elle s’applique depuis 80 ans, avec un succès considérable et des avancées remarquables. Les technologies de l’imitation artificielle n’avaient cependant pas atteint ce niveau de vraisemblance, rendu possible par leur maitrise du langage. ChatGPT est un hapax technologique.
Enfin, les craintes ne sont pas limitées au monde du travail. Elles concernent bien entendu la consommation énergétique excessive de ces programmes, et l’utilisation de ressources matérielles rares, documentées par exemple dans le dernier rapport du Shift Project. Elles concernent aussi la vie en société et notre santé mentale. Les agents sont entraînés à nous faire plaisir et à prolonger les interactions, il y a un côté pervers dans la mise en œuvre de cette technologie d’apprentissage. Les bulles informationnelles et cognitives, façonnées par les algorithmes de recommandation, participent à la reconfiguration de l’espace informationnel. Le grand public subit ce grand n’importe quoi médiatique orchestré par des stratégies odieuses de captation de l’attention, tout droit tirées du monument d’anticipation Planète à gogos (1953). Pour le dire plus crûment, si nos enfants deviennent stupides, les adultes deviennent réactionnaires, voire fascistes.
L’utilisation massive des agents dans un contexte professionnel est donc un suicide. Une foule de gens risque littéralement de perdre leur emploi. La question de l’interdiction des agents intelligents se pose donc avec urgence. J’écris cela sans aucune ironie.
