INTERNATIONAL : L’ONU et le CICR appellent à interdire les armes autonomes capables de tuer sans contrôle humain
Face au développement rapide d’armes toujours plus autonomes, le secrétaire général de l’ONU, António Guterres, et la présidente du Comité international de la Croix-Rouge (CICR), Mirjana Spoljaric Egger, appellent les États à agir rapidement pour encadrer leur utilisation. « Nous sommes désormais dangereusement proches de franchir une ligne rouge morale : le ciblage autonome des humains par des machines », a averti António Guterres.
Quand la machine décide de la cible
Le problème ne tient pas uniquement à la précision technologique des armes autonomes. Dans un conflit, la situation peut évoluer en quelques secondes : un combattant peut se rendre ou être blessé, un civil peut pénétrer dans une zone d’opérations ou encore une cible peut changer de statut.
Pour Laurent Gisel, responsable de l’unité Armes et conduite des hostilités au CICR, ces situations montrent les limites d’une autonomie fondée sur des données et des algorithmes. Une machine peut être capable d’identifier une cible selon certains paramètres, mais ne pas comprendre les changements humains et contextuels qui surviennent sur le terrain.
Cette difficulté devient particulièrement préoccupante lorsque la décision aboutit à la mort d’une personne.
Une question juridique, mais aussi morale
Le droit international humanitaire interdit déjà de prendre délibérément pour cible les civils et les infrastructures civiles. Mais l’utilisation de systèmes autonomes soulève une question supplémentaire : qui porte la responsabilité lorsqu’une machine sélectionne et engage une cible de manière autonome ?
Pour l’ONU et le CICR, certaines limites doivent donc être fixées avant que la technologie ne rende ces questions encore plus difficiles à résoudre.
L’ONU considère depuis plusieurs années que les systèmes capables de sélectionner et d’attaquer des cibles sans contrôle ni jugement humain sont politiquement inacceptables et moralement inacceptables.
Deux catégories d’armes particulièrement préoccupantes
L’appel conjoint vise notamment deux catégories. La première concerne les armes autonomes imprévisibles, dont le comportement ou les effets ne peuvent pas être suffisamment anticipés. Pour le CICR, l’absence de prévisibilité rend particulièrement difficile le respect des principes de distinction et de proportionnalité exigés par le droit international humanitaire.
La seconde concerne les armes antipersonnel autonomes, capables de sélectionner directement des êtres humains comme cibles. C’est ici que la dimension éthique est la plus forte : la décision de tuer risque de devenir une opération de traitement de données effectuée par une machine.
Vers un traité international ?
L’ONU et le CICR demandent désormais aux États de passer des discussions à la négociation d’un instrument juridiquement contraignant établissant des interdictions et des restrictions précises.
La prochaine étape pourrait être la septième Conférence d’examen de la Convention sur certaines armes conventionnelles, prévue en novembre à Genève. Pour les deux organisations, cette conférence constitue une occasion majeure de progresser vers des règles internationales communes.
L’objectif n’est pas de bloquer le développement de l’intelligence artificielle dans le domaine militaire, mais de fixer une limite : certaines décisions ne devraient pas être entièrement déléguées à une machine.
Le débat sur les armes autonomes pose ainsi une question fondamentale pour l’avenir de l’IA : jusqu’où peut-on automatiser une décision lorsque son résultat peut être irréversible ? Pour l’ONU et le CICR, la réponse passe par le maintien d’un contrôle humain significatif sur les décisions de vie ou de mort.
