[POLICY BRIEF D’ÉTUDIANTS] L’explicabilité dans l’IA

24 mai 2024

Par Janine Ecker, Paul Kleideinam, Claudia Leopardi, Anna Padiasek, Benjamin Saldich

La Chaire Digital, Gouvernance et Souveraineté publie régulièrement les meilleurs essais et articles rédigés par les étudiants de Sciences Po dans le cadre de leurs études.

Ce Policy Brief a été sélectionné comme l’un des meilleurs travaux rédigés dans le cadre du cours enseigné par le Pr Suzanne Vergnolle « Comparative Approach to Big Tech Regulation » (approche comparée de la régulation des big tech) au printemps 2024.

À une époque où l’intelligence artificielle (IA) est appelée à jouer un rôle de plus en plus important dans notre société, il est impératif de maintenir un certain niveau de contrôle humain sur les systèmes d’IA. L’explicabilité – définie de manière générale comme un niveau de compréhension ou d’explication du fonctionnement et des décisions des systèmes d’IA – est une composante essentielle de ce contrôle humain. Pourtant, les universitaires, les éthiciens et les législateurs ne sont pas parvenus jusqu’à présent à se rallier à une stratégie unique pour réglementer l’explicabilité dans le domaine de l’IA. Cette note politique, produite par notre groupe de réflexion européen, synthétise les connaissances universitaires et les approches réglementaires internationales afin de proposer des recommandations applicables aux décideurs politiques américains. Notre objectif est de trouver un équilibre entre les impératifs éthiques et les considérations pratiques, afin de garantir la transparence, la responsabilité et la confiance de la société dans les technologies de l’IA.

Après avoir examiné la compréhension actuelle des notions de transparence dans les systèmes d’IA « boîte blanche » et « boîte noire », le document analyse la manière dont les organisations et les pays ont cherché à définir et à réglementer l’explicabilité de l’IA, en se concentrant plus particulièrement sur l’UE, la Chine et les États-Unis. Cette analyse fait ressortir trois stratégies politiques principales, dont les forces et les limites sont examinées.

S’inspirant des récents efforts de réglementation de l’UE, ce document recommande une approche équilibrée de l’explicabilité de l’IA qui vise à réglementer la gouvernance de l’IA en fonction des niveaux de risque, en reconnaissant les limites techniques tout en garantissant la responsabilité et la transparence. Nous proposons quatre stratégies politiques clés que le Congrès américain devrait prendre en compte lors de l’élaboration de la législation sur l’IA :

Mettre en œuvre une approche fondée sur le risque : L’adoption d’un cadre structuré semblable à la loi européenne sur l’IA garantit la cohérence, la transparence et la proportionnalité de la réglementation en matière d’IA.
Imposer des obligations contraignantes aux systèmes à haut risque : Renforcer la transparence et les approches centrées sur l’humain pour les systèmes d’IA à haut risque, afin de garantir la responsabilité et d’atténuer les risques.
Établir des règles claires en matière de responsabilité : Introduire des règles de responsabilité pour faciliter la réparation des dommages causés par les systèmes d’IA, en équilibrant les mesures préventives et les mécanismes de réparation des dommages.
Création d’un groupe de travail de la Federal Trade Commission : Créer un groupe de travail spécialisé au sein de la FTC pour superviser la gouvernance de l’IA, garantir la conformité et encourager la collaboration entre les parties prenantes.

Ce document souligne également la complexité et la nature évolutive du secteur de l’IA, qui pose des défis uniques à la conception et à la mise en œuvre d’une réglementation centrée sur l’explicabilité. L’obtention d’explications fiables pour la prise de décision en matière d’IA reste un défi important et doit être abordé dans le cadre de recherches futures.

Lire le policy brief

Janine Ecker : Master en politiques publiques à l’Ecole des affaires publiques de Sciences Po. Filière Numérique, nouvelles technologies et politiques publiques. Janine est spécialisée dans la réglementation des technologies et du numérique et possède une formation universitaire en politique publique, en sciences politiques et en administration des affaires. Elle travaille actuellement au nouveau bureau de l’IA de la Commission européenne à Bruxelles. Janine possède une vaste expérience en matière de réglementation numérique, acquise au sein des équipes chargées des politiques publiques chez Amazon et BMW, ainsi que dans le cadre de la pratique de conseil numérique de KPMG.

Paul Kleineidam : Master en politiques publiques à l’Ecole des affaires publiques de Sciences Po. Filière Numérique, nouvelles technologies et politiques publiques Paul est titulaire d’une licence en sciences sociales de Sciences Po Paris, avec une spécialisation en politique et en politiques publiques. Il a également étudié la politique, la philosophie et l’économie à la London School of Economics (LSE). Il travaille aujourd’hui comme consultant pour SILAMIR, aidant les entreprises à accélérer leur transformation numérique.

Claudia Leopardi : Master en politiques publiques à l’École des affaires publiques de Sciences Po. Filière Numérique, nouvelles technologies et politiques publiques. Claudia a une formation en relations internationales et en gouvernance de la cybersécurité grâce à ses études de premier cycle à l’université de Leiden et à ses expériences professionnelles au sein du centre de coordination des réseaux IP européens (RIPE NCC) et du programme NextGen de l’Internet Corporation for Assigned Names and Numbers (ICANN). Elle est actuellement très impliquée dans les projets de gouvernance d’internet, à la fois à Sciences Po et dans la communauté technique d’internet.

Anna Padiasek : Master en politiques publiques à l’Ecole des affaires publiques de Sciences Po. Filière Numérique, nouvelles technologies et politiques publiques. Anna a une formation en politique et en économie et a obtenu son diplôme de premier cycle au King’s College de Londres. Elle a travaillé au sein du cabinet du Premier ministre polonais et dans des organisations du secteur tertiaire, se spécialisant dans l’inclusion numérique, l’automatisation de l’emploi et les politiques financières vertes. Elle travaille actuellement pour l’Unité de l’emploi local et des compétences de l’OCDE, où elle soutient des projets liés aux pénuries de compétences et à la création d’emplois locaux.

Benjamin Saldich : Double diplôme : Master en politique publique à l’École des affaires publiques de Sciences Po et Master en administration publique à l’École des affaires internationales et publiques (SIPA) de l’Université de Columbia. Ben a une formation universitaire en réglementation des technologies et en analyse et visualisation des données des médias sociaux. Il a une expérience professionnelle dans le domaine des données politiques américaines, ayant travaillé dans les équipes de données des campagnes présidentielles américaines et en tant que directeur de Precision Strategies, une société de stratégie politique et numérique à New York.