Sans humain mais avec l’IA : comment se dessine l’avenir des frontières européennes ?

Prétextant plus de sécurité, d’efficacité, de praticité et un coût moindre, l’Union européenne souhaite « dématérialiser » ses frontières. Les entreprises de la tech et les institutions européennes ont décidé que cette dématérialisation reposerait largement sur l’intelligence artificielle, sans s’interroger sur le coût pour la société de cette technologie ni se soucier des personnes qu’elle laisse sur le carreau.

Imaginez, nous sommes en 2030. John, un jeune Australien, veut visiter l’Union européenne. Il réalise sa demande de visa depuis son canapé. Il pose son passeport contre son smartphone, l’appareil lit la puce électronique cachée dans la couverture brune, enregistrant son nom, son prénom, sa nationalité, son âge et sa photo. Le futur touriste filme son visage avec son portable en mode « selfie ». Un logiciel d’intelligence artificielle vérifie qu’il n’est pas un « deep fake ». Le jour d’arrivée, à l’aéroport parisien de Roissy, pas d’agent derrière un guichet en verre mais un portail intelligent que l’on traverse en quelques secondes. Grâce à l’analyse vidéo, le portail vérifie que celui qui se présente est bien John et qu’il ne fait pas partie des criminels recherchés par la police européenne. John vient de franchir la frontière de l’UE, il n’a pas eu besoin d’interagir avec le moindre être humain. Voici les frontières du futur imaginées par les entreprises de la tech et les agences européennes. La procédure administrative est « dématérialisée ».

« Augmenter la productivité et réduire les coûts par rapport à des employés humains »

Andrew Bud, directeur général d’IProov.

Chaque étape du processus est prise en charge par des logiciels informatiques utilisant l’intelligence artificielle. Plus sûrs, plus efficaces, plus pratiques pour les voyageurs et moins chers pour les administrations. Andrew Bud est le directeur général d’IProov. Cette entreprise allemande est spécialisée dans les logiciels d’authentification en ligne et travaille avec les agences européennes depuis deux ans. Elle a développé un système permettant de détecter les « deep fakes », ces vidéos très réalistes créées par IA. « Aujourd’hui, pour entrer sur le territoire de l’UE, vous devez vous présenter à un kiosque contrôlé par un agent de sécurité. Notre défi, c’est que les voyageurs puissent réaliser ce contrôle depuis chez eux, sans agent. Ainsi, le processus est beaucoup plus simple : plus de file d’attente à l’aéroport. C’est aussi un moyen fantastique d’augmenter la productivité et de réduire les coûts par rapport à des employés humains », s’enthousiasme Andrew Bud. Interrogé sur le coût des systèmes IProov, Andrew Bud a, cependant, gardé un silence pudique.

Reconnaissance faciale et détecteur comportemental

L’UE réfléchit à utiliser l’IA de trois façons pour gérer ses frontières. La première, c’est pour rendre interopérables les bases de données contenant les informations sur les personnes entrant et sortant du territoire européen. C’est l’agence eu-Lisa qui est en charge de ces bases de données. Les rendre interopérables permettrait de croiser les informations. Par exemple, si un demandeur d’asile se présente, fournit ses empreintes digitales et que ces empreintes renvoient à une entrée dans la base de données des personnes recherchées par l’UE, sa demande sera aussitôt rejetée et il pourra être arrêté. « Dans le futur, l’interopérabilité permettra de détecter l’usage frauduleux de multiples identités grâce à la vérification des paramètres biométriques (comme les empreintes digitales ou les images faciales) qui sont très difficiles à contrefaire », vante eu-Lisa sur son site internet.

La deuxième utilisation potentielle de l’IA est la mise en place de la reconnaissance faciale aux frontières. Dans un futur proche, tous les systèmes d’information européens devraient traiter des images faciales à des fins de vérification ou d’identification. L’agence eu-Lisa est, d’ailleurs, chargée d’étudier une potentielle mise en œuvre de la reconnaissance faciale dans la base de données Eurodac qui rassemble les informations sur les demandeurs d’asile.

La dernière utilisation de l’IA est sans doute la plus hypothétique pour le moment : analyser les images pour détecter les comportements menaçants et les mensonges. À ce titre, l’Union a financé l’Intelligent Portable Control System à hauteur de 4,5 millions d’euros. Poursuivi de 2013 à 2019, ce projet pilote visait à mettre au point un système d’aide à la décision pour les vérifications aux frontières, comprenant un outil de détection automatisée de la tromperie. Lors d’essais réalisés à plusieurs points de passage frontaliers terrestres en Hongrie, en Grèce et en Lettonie, des voyageurs devaient être soumis à un entretien avec un avatar afin de repérer les « biomarqueurs de la tromperie », des micro expressions faciales non verbales associées au mensonge. Ce projet européen a reçu de vives critiques concernant sa validité scientifique, sa fiabilité et son incidence sociale. En 2018, l’association grecque de protection des droits humains, Homo Digitalis a, en effet, obtenu des documents qui prouvaient qu’aucun véritable voyageur n’avait participé aux essais pilotes réalisés en Grèce, leur rôle étant joué par des chercheurs ou des agents de sécurité.

« Les personnes vulnérables vont être pénalisées »

D’une manière générale avec ces technologies utilisant l’IA, « le coût pour la société n’est pas évalué. La sécurité de certaines personnes est peut-être assurée mais les cas particuliers, les personnes vulnérables comme les demandeurs d’asile vont être pénalisés », met en garde Sarah Perret. La maîtresse de conférence en science politique et relations internationales à l’université catholique de Lille travaille depuis plusieurs années sur les frontières européennes et les technologies utilisées dans ces espaces. Eleftherios Chelioudakis, quant à lui, est membre de l’association Homo Digitalis. Il analyse : « Les outils technologiques sont vus comme des solutions miracles à des problèmes complexes. Au lieu de réfléchir aux défis auxquels nous sommes confrontés en ce qui concerne l’afflux de personnes qui tentent de trouver un meilleur avenir en Europe et de répondre à ces besoins par de meilleures procédures administratives, nous utilisons des technologies pour empêcher ces personnes de franchir les frontières de l’UE. » Aucune des technologies évoquées dans cet article n’a, pour le moment, été déployée à grande échelle car elles ne sont pas encore matures ou contreviennent aux normes européennes. « L’UE est la zone qui encadre le plus strictement l’utilisation de l’IA. Mais ces barrières sont progressivement en train de tomber », relève Sarah Perret.

La prochaine étape est la mise en place, prévue fin 2026, du portefeuille numérique pour tous les citoyens de l’UE. Le règlement eDIAS, adopté par les États membres en avril 2024, donnera ainsi la possibilité aux Européens de dématérialiser leurs documents d’identité et d’accéder de façon sécurisée à des sites en ligne. Une dématérialisation qui reposera, encore une fois, sur les technologies d’IA.

Adèle Hospital

Illustration : Fred Z

Paru dans La Brèche n° 11 (mars-mai 2025)

Pas de décision sans « raisonnement humain »

L’apprentissage de l’IA comporte de nombreux biais. Plusieurs études ont notamment montré que des algorithmes entraînés sur des bases de données issues d’Europe et des États-Unis avaient tendance à discriminer les personnes non blanches. Ceux qui sont moins connus en revanche, ce sont les biais relatifs à l’utilisation de l’IA, comme le détaille Fabien Tarissan, chercheur en informatique au CNRS : « Il y a d’abord le biais vers l’automatisation, c’est quand une personne qui ne comprend pas comment fonctionne l’algorithme va suivre ses recommandations aveuglément. Il va de pair avec un autre biais : la distanciation morale. Un humain qui prend une décision grâce à l’algorithme se sent moins engagé car la responsabilité de la décision repose sur la machine. » Pour contrer ces biais, Sarah Perret propose de faire en sorte « que l’IA reste un outil qui ne remplace pas le raisonnement humain permettant d’aboutir à une décision ». Et donc de ne pas laisser la machine gérer seule nos frontières.