[POLICY BRIEF] Les systèmes autonomes de contrôle normatif dans les applications militaires de l’IA, par Johannes THUMFART

Cette note politique traite des applications militaires de l’IA dans le sens de systèmes d’armes létales partiellement autonomes (PALWS) et d’unités logistiques d’IA. Les systèmes que j’appelle « systèmes autonomes de contrôle normatif » (ASNC) sont comparables aux systèmes d’assistance intelligente à la vitesse (ISA) dans les voitures. Les systèmes ISA alertent ou corrigent les conducteurs lorsqu’ils dépassent la limite de vitesse en utilisant la reconnaissance des panneaux de signalisation et des bases de données sur les limites de vitesse liées à des données de géoposition. De même, les ASNC devraient bloquer l’utilisation illégale des applications militaires de l’IA, par exemple dans le cas d’une guerre d’agression, ou alerter les commandants si une action est disproportionnée ou si une cible choisie est civile.

Je promeus une approche centrée sur la technologie, qui est conforme à la Déclaration politique multilatérale de 2023 sur l’utilisation militaire responsable de l’intelligence artificielle et de l’autonomie et aux recommandations techniques du rapport de la session de 2023 du Groupe d’experts gouvernementaux des Nations Unies sur les technologies émergentes dans le domaine des systèmes d’armes autonomes létaux. Je soutiens que les PALWS et les unités logistiques d’IA dans l’armée devraient être équipés d’ASNC pour contribuer à garantir qu’ils sont utilisés dans le respect du droit international humanitaire (DIH), en particulier des principes de proportionnalité et de minimisation des dommages. En outre, les ASNC devraient inclure des mécanismes de blocage afin de garantir que les PALWS et les unités logistiques d’IA ne soient pas utilisés dans des guerres d’agression ou contre des manifestants pacifiques nationaux. D’un point de vue technologique, les ASNC nécessiteront probablement une approche hybride des systèmes d’IA, combinant des éléments fondés sur des données et des règles et des mécanismes de blocage beaucoup plus simples basés sur des données de géolocalisation. Bien qu’il ne soit pas possible de confier la responsabilité morale ou juridique aux machines, il est plausible que les ASNC contribuent à rendre la prise de décision militaire sur le champ de bataille plus responsable d’un point de vue juridique et éthique.

Parallèlement à cette approche centrée sur la technologie, les tentatives nationales et internationales visant à réglementer les applications militaires de l’IA devraient être poursuivies. Toutefois, le développement des ASNC ne constitue pas nécessairement une réaction aux réglementations gouvernementales, mais pourrait également être volontairement avancé en tant que norme industrielle de facto par les producteurs de technologie militaire. Plutôt que de s’abstenir de produire des PALWS et des unités logistiques d’IA pour l’armée, les producteurs européens de technologie militaire devraient s’efforcer d’être à la pointe de la recherche et du développement et d’établir une norme fabriquée en Europe, y compris des ASNC qui contribuent à garantir leur utilisation dans les limites des principes juridiques et éthiques. Dans le même temps, il convient d’avertir que ces systèmes ne doivent pas être utilisés de manière abusive pour justifier des exportations d’armes vers des régimes autoritaires et que l’établissement d’une norme de facto ne peut constituer qu’un élément d’un ensemble plus large de mesures visant à réglementer l’utilisation militaire de l’IA.

Johannes THUMFART est chercheur principal et postdoctoral au sein du groupe de recherche Law, Science, Technology, and Society (LSTS) de la Vrije Universiteit Brussel et maître de conférences adjoint en éthique de la gestion de la sécurité internationale à la Berlin School of Economics and Law. Ses recherches portent sur l’éthique de la sécurité internationale, l’utilisation militaire de l’IA et la souveraineté numérique dans les pays du BRICS. M. Thumfart a obtenu son doctorat en histoire et philosophie du droit international à l’université Humboldt de Berlin. Il a obtenu une bourse Marie Skłodowska-Curie et a occupé de nombreux postes d’enseignement et de recherche en Allemagne, en France, au Mexique et en Belgique. Il a collaboré à certains des journaux allemands les plus importants et les plus respectés, tels que Der Spiegel et Die Zeit. Sa monographie sur la souveraineté numérique sera publiée par Palgrave Macmillan à l’été 2024. Ses recherches sont publiées dans des revues telles que European Journal of International Security, AI and Ethics et Global Studies Quarterly.