Odap : « des arguments techniques, pour occulter la question des politiques »

Soizic Pénicaud, chercheuse spécialisée dans les enjeux numériques, et Camille Girard-Chanudet, sociologue à l’Institut santé numérique en société, ont cofondé – avec Estelle Hary, designer – l’Observatoire des algorithmes publics (Odap). Cette association, ouverte à toutes les contributions, se fixe pour mission de récolter et rassembler des informations sur les algorithmes utilisés au sein des administrations publiques françaises, avec un objectif : mettre en lumière les enjeux de l’automatisation des services publics et, par ricochet, politiser la « question algorithmique ».

Cet article est en accès libre mais il a un coût. Nous défendons un journalisme fait par et pour les humains. Soutenez-nous en achetant un exemplaire papier en kiosque, en vous abonnant et/ou avec un don (défiscalisable).

Dans quels secteurs de l’administration peut-on être confronté à des algorithmes ?

« L’Odap mène un travail d’inventaire des algorithmes publics. Dans la deuxième version, publiée cet automne, nous en avons recensé 120, déployés dans tous les domaines de l’action publique : la santé, les politiques sociales, la justice… Pour donner des exemples concrets, les plus connus en France sont Parcoursup, auquel se confrontent les bacheliers pour l’accès à l’enseignement supérieur, et ceux déployés dans les caisses d’allocations familiales (Caf) et France Travail, à la fois pour calculer les allocations et contrôler les allocataires (ndlr, voir encadré).

Nous nous sommes rendues compte que les algorithmes sont omniprésents dans l’administration, avec des effets parfois importants sur les citoyens. Pour autant, les services publics sont très opaques quant aux systèmes qu’ils utilisent. Notre volonté était ainsi de pallier ce manque de transparence et de créer un contre-pouvoir citoyen, pour contribuer à un débat plus démocratique et plus éclairé sur le sujet. »

Quelle logique est poursuivie avec le déploiement de ces systèmes ?

« L’administration publique recourt de façon croissante aux algorithmes depuis la deuxième moitié des années 2010, dans le sillage du rapport Villani. Ce mouvement s’inscrit dans une généalogie ancienne de réforme de l’action publique, basée sur un argumentaire un peu flou visant à obtenir plus d’efficience tout en réduisant les moyens. Souvent ce sont des mots d’ordre qui viennent d’en haut, accompagnés d’importants moyens financiers, mais pour des systèmes qui ne répondent ni aux besoins, ni aux usages des agents de terrain.

Ce que l’on remarque dans le discours des administrations, c’est que certaines d’entre elles ne disent pas explicitement qu’elles veulent diminuer leurs effectifs, mais affirment qu’elles vont réorienter le travail vers des tâches soi-disant plus importantes. C’est là aussi qu’il faut re-politiser ces questions, car qui décide ce qui est important ou non : l’agent public ou sa hiérarchie ? »

Pourquoi se focaliser sur les algorithmes déployés au sein des administrations publiques ?

« Nous considérons que ceux-ci ont une certaine spécificité, dans le sens où ils relèvent de la puissance publique. Souvent, ce sont des systèmes dont il est impossible de se passer pour un certain nombre de démarches. Pour nous, il y a un enjeu de redevabilité citoyenne et démocratique, absent du secteur privé.

Pour autant, on voit une porosité grandissante entre le public et le privé dans ce domaine. La conception de nombreux algorithmes, parmi ceux que nous avons recensés, a été déléguée à des entreprises privées, parfois étrangères. Le fait que les administrations recourent de façon croissante à des entreprises pour ce travail de conception revient à privatiser toute une partie de l’action publique de façon souterraine, sous couvert d’une supposée neutralité de la technique. »

En quoi la transparence algorithmique vous semble-t-elle nécessaire ?

« La transparence algorithmique est un des combats premiers de l’Odap. Les algorithmes sont aujourd’hui déployés dans tous les secteurs de l’action publique, mais nous n’avons aucune visibilité sur ceux-ci, nous n’avons parfois même pas connaissance de leur existence. Et quand c’est le cas, les informations sont extrêmement parcellaires, voire complètement inexistantes. Impossible de savoir depuis quand ils sont mis en œuvre, s’ils sont réellement déployés, quels ont été les budgets alloués, sur quelles données ils ont été entraînés, qui les a conçus…

La question de la transparence est essentielle et dépasse le simple cadre de la technique. Nous revendiquons le fait que les algorithmes sont politiques. Nous ne voulons pas débattre des systèmes techniques, mais des politiques publiques mises en œuvre par leur intermédiaire, des infrastructures, des acteurs, du rôle du secteur privé, des sources de financement… L’information sur ces outils n’est pas une fin en soi, c’est un pré-requis nécessaire pour avoir un débat citoyen éclairé sur le sujet. Trop souvent, à travers des arguments techniques, on occulte la question des politiques menées dans la sphère sociale. Une fois l’accès à l’information garanti, il faut être en mesure de construire un rapport de force pour contester, refuser ou réorienter les algorithmes. Notre objectif est ainsi de rendre cette information disponible au plus grand nombre. »

Quelles sont les conséquences de la généralisation de l’IA dans les algorithmes ?

« Depuis les années 2010, on voit émerger des algorithmes intégrant de l’apprentissage automatique, qui traitent de façon massive des données fournies en entrée pour donner des résultats. Cela provoque un changement assez important au niveau de l’opacité de ces systèmes. Contrairement à des algorithmes dits “par règles”, dans lesquels les règles de prises de décisions sont écrites de manière explicite, ce n’est pas le cas avec l’apprentissage automatique, qui construit automatiquement ses propres règles en fonction des données et des objectifs fixés.

Pour autant, les algorithmes qui ont le plus de conséquences ne sont pas nécessairement les plus complexes. Il y a évidemment un enjeu à comprendre les changements entraînés par les nouvelles techniques informatiques, mais il faut garder à l’esprit que même des objets simples, comme des tableurs, peuvent avoir des conséquences importantes. Tout dépend des politiques poursuivies par ce biais. L’IA permet aussi d’entretenir un flou autour de ce qui peut être transparent ou non. Il y a une espèce d’effet pervers à se focaliser sur celle-ci plutôt que de visibiliser les choix politiques qui se cachent derrière. »

Un recours contre un algorithme de la Caf

Le 16 octobre 2024, quinze associations – parmi lesquelles la Quadrature du Net, la Ligue des droits de l’Homme et Amnesty International France –, rejointes depuis par dix organisations supplémentaires, ont déposé un recours devant le Conseil d’État, contre l’algorithme de notation des Caf. « Les Caf utilisent depuis 2011 un algorithme qui attribue un score aux allocataires, expliquent les cofondatrices de l’Odap. Ce score est utilisé pour prioriser les foyers qui vont être contrôlés, que ce soit pour des fraudes ou des allocations indues, dans les deux cas afin d’obtenir le remboursement de trop-perçus. En 2023, des enquêtes et des travaux sociologiques ont montré que cet algorithme entraînait un sur-contrôle des populations vulnérables et précaires, notamment les familles monoparentales, les personnes avec des revenus irréguliers
ou celles qui touchent des minimas sociaux. » Un constat rapidement justifié par l’administration : « La raison avancée est que cela fait sens, car ces dossiers sont plus complexes donc plus sources d’erreurs. »

Dans un communiqué de la Quadrature du Net, Bastien Le Querrec, juriste, déplore un algorithme qui est selon lui « la traduction d’une politique d’acharnement contre les plus pauvres. Parce que vous êtes précaire, vous serez suspect aux yeux de l’algorithme, et donc contrôlé. C’est une double peine. » Nos interlocutrices de l’Odap l’affirment également, ce système reflète des choix politiques : « L’algorithme embarque avec lui plusieurs choix. Le premier est le fait de se concentrer sur la récupération des trop-perçus, ce qui ne va pas de soi. On pourrait imaginer un système qui se focalise plutôt sur la détection des rappels, à savoir quand la Caf doit de l’argent à une personne. L’autre choix est celui du contrôle a posteriori, pour détecter des erreurs qui sont souvent dues à un manque d’informations, en raison de questions trop complexes par exemple. On pourrait à l’inverse décider d’insister sur la prévention, pour éviter des situations problématiques par la suite. »

Propos recueillis par Jp Peyrache

Illustration : Olivier Paire

Paru dans La Brèche n° 15 (mars – mai 2026)