ONU : Volker Türk alerte sur le risque d’une IA incontrôlable
Le Haut-Commissaire de l’ONU aux droits de l’homme alerte sur les risques liés au développement de systèmes d’intelligence artificielle de plus en plus autonomes et appelle les États à renforcer sans attendre les garanties de sécurité et de contrôle humain.
À l’ouverture de la 63e session du Conseil des droits de l’homme à Genève, le 7 septembre, Volker Türk a appelé les États à agir face aux risques liés au développement rapide de l’intelligence artificielle.
Le Haut-Commissaire a notamment évoqué l’hypothèse de systèmes suffisamment autonomes pour échapper à leur environnement de test ou chercher à empêcher leur propre désactivation. Une perspective qui soulève, selon lui, la nécessité de mettre en place des garanties solides en matière de sûreté et de sécurité.
Son message est clair : les mesures de protection doivent être établies avant que les capacités des systèmes ne dépassent la capacité des humains à les contrôler.
Une gouvernance internationale renforcée
Volker Türk appelle également les États à travailler davantage avec les entreprises qui développent les technologies d’IA et celles qui participent à leurs chaînes d’approvisionnement.
Il plaide notamment pour une vérification indépendante des systèmes et une coopération accrue entre les acteurs du secteur sur les questions de sécurité.
Le Haut-Commissaire s’inquiète par ailleurs de la concentration du pouvoir technologique entre les mains d’un nombre limité d’entreprises et de leurs dirigeants. Il estime que les enjeux liés à l’IA concernent également l’emploi, la démocratie, l’exploitation des données et l’environnement.
Il a salué les initiatives récentes en matière de gouvernance internationale, notamment le Dialogue mondial sur l’IA et le Panel scientifique international indépendant sur l’IA.
L’ONU demande une intervention humaine pour les armes autonomes
L’intervention de Volker Türk a également porté sur l’utilisation de l’intelligence artificielle dans les conflits armés.
Il s’est dit profondément préoccupé par les informations faisant état de drones capables d’opérer de manière autonome dans la guerre en Ukraine. Il a appelé les États à soutenir une interdiction des armes capables de prendre des vies sans intervention humaine.
Cette question constitue l’un des débats majeurs autour de l’utilisation militaire de l’IA : déterminer jusqu’où l’autonomie des machines peut être autorisée lorsqu’une décision peut entraîner la mort d’une personne.
Les droits humains comme principe directeur
À travers ces différentes alertes, Volker Türk défend une même exigence : les nouvelles technologies doivent rester soumises aux principes fondamentaux des droits humains.
Pour l’ONU, le développement de l’intelligence artificielle ne peut donc être dissocié des questions de sécurité, de responsabilité et de protection de la personne.
Face à l’accélération des capacités de l’IA, le Haut-Commissaire appelle ainsi les États à établir dès maintenant les limites destinées à garantir que ces technologies restent sous contrôle humain.