Les Algos contre la société : entretien avec Hubert Guillaud

Algorithmes publics et tri social : Des systèmes de notation invisibles renforcent les inégalités au lieu de les corriger. Opacité et complexité croissante : Le fantasme du calcul en temps réel crée une bureaucratie inhumaine, incompréhensible pour les citoyens. Vers un droit à la simplicité : Hubert Guillaud plaide pour des calculs explicables, coconstruits avec les usagers et socialement équitables Journaliste et rédacteur en chef du média en ligne danslesalgorithmes.net, Hubert Guillaud vient de publier « Les algorithmes contre la société » aux éditions La Fabrique. Dans cet ouvrage très documenté et précis, il analyse comment les systèmes de calcul algorithmique, notamment au sein des services publics, contribuent à renforcer les inégalités sociales plutôt qu'à les réduire. Entre scoring des populations, politiques austéritaires et absence de transparence, les algorithmes deviennent des outils de tri social dont les conséquences restent largement invisibles. Gerald Holubowicz : Dans votre livre, vous analysez comment les algorithmes fonctionnent. Certains vont plutôt exclure une catégorie de population, d'autres vont inclure. Comment avez-vous articulé et structuré votre ouvrage par rapport à cette analyse des algorithmes ? Hubert Guillaud : C'est un livre qui s'intéresse particulièrement au calcul du social, c'est-à-dire comment aujourd'hui on fait des calculs sur la société : pour attribuer des places en crèche, attribuer du travail à des demandeurs d'emploi, attribuer des aides sociales, attribuer des salaires à des individus. Le livre interroge comment ces calculs sont effectués et s'ils sont justes ou équitables. Quelles que soient les modalités mobilisées, on se rend compte qu'elles reposent toutes sur la production d'un score - c'est-à-dire une sorte de note - pour chacun selon ce qu'on veut ou ce qu'on cherche à calculer. Pour comprendre ces systèmes de calcul, l'enjeu est de comprendre comment sont mis au point ces différents processus de notation et d'essayer de tisser un fil commun pour analyser leur force et leurs limites.Gerald Holubowicz : Ce qui frappe au fil des pages c'est qu'on se rend compte que nous sommes tous soumis et exposés à ces algorithmes dans notre vie quotidienne. Vous évoquez différentes administrations françaises qui utilisent ces données contre les usagers des services publics. Pourquoi avoir décidé de travailler sur ce point précis, et qu'est-ce que cela révèle de l'usage des algorithmes dans un contexte de service public ? Hubert Guillaud : La question des services publics pose la question de l'équité, de la justice sociale des calculs, du fait de prendre en compte tout le monde pour faire un calcul le plus juste et le plus loyal possible, pour qu'il n'y ait pas de différence de traitement entre les différents administrés. Quand on regarde le fonctionnement de ces systèmes, on se rend compte que tout le monde n'est pas traité de la même manière. Selon les scores obtenus, certaines personnes vont avoir de plus mauvais scores que d'autres, et ce sont souvent les mêmes. Ceux qui sont socialement les moins pourvus vont avoir tendance à être plus surveillés par certaines formes de calcul. C'est le cas des élèves dans Parcoursup, où ceux qui sont un peu moins bons que d'autres sont désavantagés sur la base de critères absurdes et finalement peu différenciants. J'ai donc essayé de comprendre pourquoi certaines personnes sont maltraitées par ces calculs. La sociologue Marion Fourcade parle du "lumpenscoretaria", c'est-à-dire le petit peuple du score. Ce sont ceux qui sont mal notés par les systèmes, et du moment qu'ils sont mal notés par un système, ils ont tendance à être mal notés par d'autres systèmes. Par exemple, pour revenir à Parcoursup, les élèves qui ont une situation sociale difficile vont être aussi les enfants de parents qui auront des difficultés avec la CAF, et ces mêmes élèves, en arrivant sur le marché du travail, vont avoir des difficultés avec France Travail, etc. Il y a une forme de classisme dans ces modes de calcul qui me semble nous intéresser tous en tant que société. Est-ce qu'on veut des calculs qui discriminent, qui catégorisent les gens selon leur catégorie socio-professionnelle, leur genre, etc. ? Je pense qu'il est important de comprendre les limites de ces systèmes. Gerald Holubowicz : Vous prenez plusieurs exemples de cas précis qui peuvent parler à tout le monde. Un des premiers exemples est celui de la Caisse d'Allocations Familiales (CAF) qui a un système très particulier pour noter les usagers. Comment en êtes-vous venu à traiter ce sujet particulier et que s'y passe-t-il concrètement ? Hubert Guillaud : Ce qui se passe à la CAF a été largement documenté par des journalistes, des chercheurs et des militants très actifs sur ces sujets. Le travail de La Quadrature du Net pour documenter les techniques algorithmiques et d'intelligence artificielle mobilisées par la CAF a été remarquable sur ce point. Il y a aussi le travail d'associations d'usagers. Je pense notamment à l'association "Changer de Cap" qui, en 2023, a demandé aux bénéficiaires de leur faire remonter les problèmes qu'ils avaient avec les administrations. Ce qui est ressorti fortement, ce sont les problèmes des usagers avec la CAF. Beaucoup d'entre eux étaient soupçonnés de fraude par le système, et on leur demandait des réajustements, ce qu'on appelle des "indus" - c'est-à-dire devoir rembourser des trop-perçus que la CAF leur aurait versés. C'est très révélateur de la façon dont on fait des calculs à la CAF. Pour la plupart des gens qui ont un revenu très régulier, le calcul est assez simple et les prestations qu'ils reçoivent sont ajustés sur ces rémunérations. Le problème concerne tous ceux qui ne rentrent pas dans ces cases, c'est-à-dire ceux qui n'ont pas de revenus fixes et réguliers d'un mois sur l'autre. Pour eux, le calcul devient bien plus compliqué car il faut calculer des revenus qui peuvent être très aléatoires ou décalés dans le temps. La CAF exige de pouvoir connaître mois par mois l'évolution des revenus. Mais ce "temps réel" est un fantasme. Les salaires ne tombent pas tous au même moment pour tout le monde. Dans ces versements, il y a des éléments complexes comme les tickets restaurant, les jours de congé, etc. Ce fantasme de pouvoir calculer en temps réel les prestations devient très compliqué, surtout pour les gens qui n'ont pas de revenus réguliers. Gerald Holubowicz : Vous dites que la précision remplace l'objectivité, et que cette histoire de calcul détruit les relations sociales qui pourrait améliorer la situation. Comment cela se concrétise-t-il dans le quotidien des agents confrontés aux algorithmes ? Hubert Guillaud : Effectivement, je dis souvent que la précision vient remplacer l'objectivité. Je vais prendre l'exemple de Parcoursup. On y calcule les moyennes des élèves pour les distinguer les uns des autres afin que les formations supérieures puissent les sélectionner. Pour bien les distinguer, il faut aller jusqu'à trois chiffres après la virgule dans leurs moyennes, pour éviter les ex-aequo et pouvoir établir des classements du meilleur au moins bon. Le problème, c'est qu'entre un élève qui a 12,252 et un autre qui a 12,253, il n'y a académiquement aucune différence. Pourtant, pour faire le calcul et établir ces classements, on génère artificiellement des différences entre eux. On retrouve ce même problème dans l'attribution de greffes de rein ou de dialyses aux États-Unis, où il faut distinguer les patients les uns des autres pour pouvoir attribuer des droits. On crée une forme de précision par le calcul qui n'a plus aucune valeur ou qui devient aberrante en elle-même. C'est ce que je critique, dans ce délire de calcul qui se donne l'apparence de la science, on finit par créer de fausses distinctions entre les gens juste pour pouvoir les classer. Je pense que c'est un problème de société qui nécessite de prendre du recul par rapport à ce qu'on veut calculer, comment et pourquoi on le fait. Gerald Holubowicz : Comment se fait-il qu'on se soit lancé dans ce niveau de calcul alors même que, comme vous le notez dans votre livre, l'efficacité de ces algorithmes n'est pas toujours prouvée et parfois les résultats ne sont pas probants ? Comment expliquer ce besoin de calculer ? Hubert Guillaud : Je pense que c'est un développement des systèmes pour eux-mêmes. On développe du calcul, on a une machinerie qui favorise toutes ces formes de calcul, et une fois qu'on y entre, c'est très difficile de s'en extraire. La question qu'on se pose moins c'est de savoir si ce sur-calcul ou ce super-calcul améliore les choses par rapport à des situations plus simples ou à l'absence de calcul ? Est-ce que le développement absolu de la précision, avec aujourd'hui des systèmes d'intelligence artificielle qui examinent tous les critères possibles, a vraiment un sens ? N'y a-t-il pas certains critères qu'il faudrait exclure sans que cela dégrade les résultats ? Cette nouvelle complexité a un autre effet : elle rend la transparence du calcul et sa justice plus difficiles à établir, et surtout plus difficiles à contester par les citoyens. Avant, quand vous aviez un calcul de droit, par exemple pour une aide au logement, les critères étaient plus limités - on regardait vos revenus, le niveau de logement, et c'était à peu près tout. Aujourd'hui, on prend en compte énormément de paramètres. Est-ce que ça améliore vraiment le résultat ? On peut en douter. Et pourtant, cette démonstration est rarement faite. Les spécialistes du sujet disent que généralement, ça n'améliore pas nécessairement les calculs. En revanche, le vrai problème, c'est que ça les rend opaques - nous, en tant que citoyens, ne pouvons pas valider ou évaluer les effets ou les difficultés de ce calcul. Je pense que c'est un vrai enjeu de société : voulons-nous des calculs plus complexes que nous ne comprenons pas, ou des calculs plus simples, explicables et compréhensibles par tous ? Il y a une vraie valeur dans la simplicité et l'explicabilité, surtout quand on constate que la complexité n'améliore pas les résultats. Gerald Holubowicz : Dans ce livre, vous ne faites pas qu'une description des cas problématiques, vous essayez aussi d'apporter des solutions en proposant un certain nombre de directions à prendre pour améliorer la situation. Pourriez-vous nous rappeler les grands axes de ces propositions et l'importance d'impliquer les citoyens dans les structures de décision ? Hubert Guillaud : Ce qui m'a beaucoup marqué partout, c'est que les premiers touchés par ces effets du calcul ne sont pas invités aux discussions - ils sont au menu mais pas à la table des négociations. Les étudiants sur Parcoursup n'ont pas leur mot à dire sur la manière dont ils sont évalués, les usagers de la CAF non plus, ni les demandeurs d'emploi de France Travail. Je pense que, dans les grands systèmes de calcul aujourd'hui, qu'il s'agisse de services publics, de banques ou d'assurances, il faut que les usagers soient représentés, notamment les usagers les plus en difficulté vis-à-vis de ces systèmes. C'est indispensable. Une autre recommandation importante que je fais est de ne pas croire qu'il y a un seul et unique mode de calcul. D'autres sont possibles, on peut faire autrement, plus simplement comme je viens de le dire. On peut prendre en compte moins de critères, ce qui a une vraie valeur, car les gens peuvent alors comprendre ces critères et leur impact. On peut aussi essayer de trouver des modes alternatifs au calcul. Une idée que je remets sur la table est qu'au lieu de calculer toujours plus et mieux, on pourrait aussi rassurer les gens sur le long terme. Le calcul des droits d'aide au logement est devenu trimestriel, et certains estiment qu'il faudrait même le rendre mensuel. Comme vous l'avez compris, c'est très compliqué pour les gens qui n'ont pas des revenus réguliers. Cela leur demande de fournir constamment des informations pour un recalcul qui va souvent se jouer sur des sommes minimes. Avant, on avait un principe qui fonctionnait bien : l'annualisation. Le service public calculait vos droits pour un an, et quelle que soit l'évolution de votre situation, vos droits étaient calculés sur cette durée. C'est plus confortable pour les gens, ils savent combien ils vont toucher pendant la période, sans recalcul constant. Cela avait une vraie vertu, notamment pour les plus démunis. Aujourd'hui, on cherche des économies qui sont souvent négligeables. Il serait bien plus simple de revenir à des formes d'annualisation plutôt que ce "temps réel" qui ne nous mène nulle part, sauf à stresser les publics et les agents, sans résoudre ni les problèmes de pauvreté ni les problèmes d'accès aux droits. Le livre « Les algorithmes contre la société » est disponible aux éditions « La Fabrique »

Thématiques

Le best of

Dire “merci” à ChatGPT coûte des millions : l’impact énergétique caché de nos politesses numériques

États-Unis : un régime en pleine accélération techno-fasciste

Tech et Défense : la « DefTech » française en ordre de bataille

Félix Tréguer : « La reconnaissance faciale on ne l’encadre pas, on la refuse »

Pour aller plus loin

Les Algos contre la société : entretien avec Hubert Guillaud

Pour continuer à lire l'article

Je soutiens Synth

Je partage l'article

Dire “merci” à ChatGPT coûte des millions : l’impact énergétique caché de nos politesses numériques

États-Unis : un régime en pleine accélération techno-fasciste

Tech et Défense : la « DefTech » française en ordre de bataille

Félix Tréguer : « La reconnaissance faciale on ne l’encadre pas, on la refuse »

Léon XIV défie Silicon Valley : quand le Vatican revendique la gouvernance de l’intelligence artificielle

Thématiques

Le best of

Pour aller plus loin

Les Algos contre la société : entretien avec Hubert Guillaud

Pour continuer à lire l'article

Je soutiens Synth

Je partage l'article

Partager cet article

Lire la suite