Appariement algorithmique : « Des dispositifs qui soulèvent des questions politiques »

Parcoursup, Tinder, Pôle Emploi… Sans même le savoir, nous sommes confrontés de manière quotidienne à des procédures d’appariement, la plupart du temps gérées par des algorithmes. Philippe Steiner, professeur émérite de sociologie à Sorbonne Université et Melchior Simoni, chercheur à l’Observatoire français des drogues et tendances addictives, ont codirigé l’ouvrage Comment ça matche. Une politique de l’appariement, récemment publié aux Presses de Sciences Po. Entretien avec Melchior Simoni et Philippe Steiner autour des conséquences politiques de ce recours massif et souvent méconnu aux algorithmes.

COMMENT DÉFINIR L’APPARIEMENT, ET PLUS SPÉCIFIQUEMENT SA DÉCLINAISON ALGORITHMIQUE ?

« Le principe de l’appariement réside dans le fait d’établir des paires pertinentes entre des éléments de deux groupes différents, qui peuvent être de plusieurs natures : des personnes, des établissements ou des organes, par exemple.

Les usages sont nombreux : il peut s’agir d’applications de rencontres, où on cherche à mettre en relation des individus ; de Parcoursup, qui cherche à affecter au mieux les bacheliers dans les formations de l’enseignement supérieur, en fonction de leurs choix et des critères de sélection des établissements ; ou encore de l’attribution d’un organe à greffer à un malade. Ces tâches ont pu, par le passé, être l’objet de procédures manuelles, par exemple dans le cas des agences matrimoniales. Mais les algorithmes – des procédures informatiques automatisées – prennent désormais une place grandissante dans ces processus, en tentant de répondre à des enjeux à la fois d’efficacité et de justice. »

DANS QUELS DOMAINES DE NOS VIES SOMMES-NOUS CONFRONTÉS À DES PROCÉDURES D’APPARIEMENT ALGORITHMIQUE ?

« Les domaines sont multiples. Parmi ceux déjà évoqués, on trouve l’éducation avec Parcoursup, qui concerne chaque année près d’un million d’individus. Le monde du travail n’est pas en reste, puisque Pôle Emploi, comme son équivalent allemand, utilise l’appariement pour associer les offres d’emploi et les chômeurs. Cela peut aussi concerner le choix de futurs locataires, pour des personnes ayant effectué des démarches d’accès aux HLM. Sans oublier la santé avec les transplantations, et la vie amoureuse avec les applications de rencontres.

Travail, éducation, logement, santé et vie amoureuse, cela constitue tout de même cinq domaines majeurs de la vie des individus qui sont concernés. Nous pensons donc que les procédures d’appariement sont en train de prendre une place très importante dans la vie sociale, dans le sens où celles-ci distribuent des singularités. Cela signifie que la qualité du bien distribué est déterminante pour la trajectoire individuelle : l’établissement dans lequel effectuer ses études, la personne que l’on rencontre ou le rein qui va nous être transplanté. »

« Travail, éducation, logement, santé et vie amoureuse… Les procédures d’appariement sont en train de prendre une place très importante dans la vie sociale »

COMMENT FAIRE ACCEPTER AUX INDIVIDUS LE RÉSULTAT OBTENU PAR L’ALGORITHME ?

« Pour que les personnes concernées acceptent de prendre part à ces procédures, il est déterminant que celles-ci considèrent – que ce sentiment soit fondé ou non – que le résultat répond à une forme de justice. Nous en avons eu une illustration historique aux États-Unis dans les années 1990, avec un algorithme attribuant aux internes en médecine les hôpitaux dans lesquels ils allaient effectuer leur internat. Les étudiants ont commencé à protester, en raison de leur mécontentement vis-à-vis des résultats offerts par l’algorithme. Alvin Roth, prix Nobel d’économie et spécialiste de ces questions, a été invité à concevoir une nouvelle version, mettant ainsi fin au problème. Ce dernier a pourtant déclaré en aparté que le précédent algorithme fonctionnait très bien et que ses retouches étaient minimes. Simplement, son intervention a introduit la légitimité qui manquait pour que les résultats soient acceptés.

La bonne qualité de l’algorithme ne suffit donc pas. Celui-ci doit être considéré comme légitime et juste, et ceci est difficile à mettre en place. Dans le cas de l’appariement pour les transplantations par exemple, les concepteurs s’attachent à vérifier qu’aucune discrimination, de genre, d’âge, ou encore géographique ne soit induite par l’usage de l’algorithme, ce qui est techniquement compliqué. »

CETTE ÉGALITÉ DE TRAITEMENT EST-ELLE TOUJOURS VÉRIFIÉE ?

« Des inégalités existent dans la façon qu’ont les individus d’appréhender l’algorithme : quelles informations donner, comment formuler ses vœux, rédiger une lettre de motivation… Les inégalités portent sur la connaissance du dispositif et les “règles du jeu”, en quelque sorte. Celles-ci se trouvent donc en amont de l’algorithme lui-même et ne sont pas propres au domaine de l’appariement.

Un point qui nous semble toutefois important à souligner réside dans l’injonction faite aux individus de dire “le vrai” sur eux-mêmes. Tous les algorithmes évoqués fonctionnent d’autant mieux que l’information qui circule est vraie. Ces dispositifs incitent donc les personnes concernées à se livrer, si tant est qu’elles aient réussi à identifier clairement leurs désirs. Par conséquent, les déceptions engendrées peuvent parfois être violentes. Après avoir rendu publiques leurs volontés, on renvoie aux personnes qui n’ont pas obtenu satisfaction le fait qu’elles ont choisi, mais n’ont pas été choisies en retour. Ceci est parfois à l’origine d’un fort sentiment de discrimination au vu des conséquences directes que cela peut avoir sur la vie des individus. »

QUELS ÉCUEILS AVEZ-VOUS RELEVÉS DANS L’UTILISATION DE CES ALGORITHMES ?

« Ces dispositifs ne sont pas sans limites et soulèvent des questions politiques. L’appariement a ainsi pour objectif de faire un tri pour former des paires aussi pertinentes que possible en fonction des critères indiqués. Cependant, dans certaines situations, nous avons constaté que le recours à ces méthodes pouvait entraîner l’exclusion d’un segment de la population. Ceci intervient notamment lorsqu’un déséquilibre de taille existe entre les deux collectifs à apparier : par exemple entre le nombre de places disponibles dans les formations proposées et de candidats dans le cas de Parcoursup. Dans les communications, on se focalise souvent sur les appariements réussis – ce que l’on nomme “l’idéologie adéquationniste” –, ce qui tend à invisibiliser une part non négligeable des personnes ou des ressources qui ont été laissées de côté.

La qualité de l’algorithme n’est pas ici remise en cause. Ce dernier peut être parfait d’un point de vue théorique, s’il n’y a pas assez de places dans une formation pour accueillir la majeure partie des personnes qui y candidatent, il débouchera de fait sur une forme d’exclusion. Pourtant, dans le débat public, c’est souvent l’algorithme lui-même qui est pointé du doigt. La question de la légitimité étant centrale, il nous semble essentiel d’ouvrir le débat démocratique autour de ces questions. »

Jp Peyrache

Illustration : Olivier Paire

« CES DISPOSITIFS VONT PRENDRE DE PLUS EN PLUS DE PLACE »

« Nous avons tendance à penser que ce sont des dispositifs qui vont prendre de plus en plus de place, puisqu’ils peuvent être appliqués dans de nombreux domaines. Et ces derniers sont censés, à terme, capter l’intégralité de l’objet sur lequel ils portent : toutes les formations, privées ou publiques, dans le cas de Parcoursup. Si on continue dans cette logique, on ne pourra plus accéder à l’enseignement supérieur sans passer par cet algorithme, ce qui est encore le cas aujourd’hui.
Et pour paraphraser certains bacheliers : “L’épreuve Parcoursup est beaucoup plus redoutable que celle qui consiste à passer le bac.” Le “rite de passage”, essentiel pour une partie de la jeunesse, que constitue le passage du baccalauréat, est ainsi remplacé par un système d’appariement algorithmique pour accéder aux formations de l’enseignement supérieur. Et un algorithme, aussi performant soit-il, ne peut se substituer aux politiques publiques. »