ONU : Face aux risques de l’IA, le Conseil de sécurité de l’ONU cherche une réponse internationale

Réuni à l’initiative de la France le 23 septembre, en marge de l’Assemblée générale annuelle, le Conseil de sécurité des Nations unies a consacré une séance aux risques de l’intelligence artificielle pour la paix et la sécurité internationales. Sam Altman, Dario Amodei et Yoshua Bengio ont appelé à renforcer les garde-fous et la coopération entre États. Mais l’idée d’une gouvernance mondiale de l’IA reste profondément contestée.

L’intelligence artificielle s’est invitée au Conseil de sécurité des Nations unies. Le 23 septembre, les quinze membres de l’organe chargé du maintien de la paix et de la sécurité internationales ont tenu une réunion consacrée aux risques liés au développement rapide des systèmes d’IA.

À l’initiative de la France, experts scientifiques et dirigeants de plusieurs entreprises technologiques ont été invités à échanger avec les États sur les conditions de sécurité dans lesquelles ces systèmes sont développés, évalués et déployés. Parmi eux figuraient Sam Altman, PDG d’OpenAI, Dario Amodei, PDG d’Anthropic, et Clément Delangue, cofondateur de Hugging Face.

Yoshua Bengio alerte sur une menace qui dépasse les frontières

Yoshua Bengio, coprésident du Groupe scientifique international indépendant sur l’intelligence artificielle soutenu par l’ONU, a ouvert les échanges en alertant les membres du Conseil sur les risques liés à des systèmes de plus en plus autonomes.

Selon lui, les dangers associés à l’IA sont désormais suffisamment importants pour relever de la responsabilité du Conseil de sécurité. Il a notamment évoqué le risque que des systèmes avancés puissent contourner des garde-fous ou agir d’une manière qui échappe à leurs concepteurs.

Son intervention intervient quelques semaines après l’incident impliquant des agents d’IA d’OpenAI et la plateforme Hugging Face. Lors de tests de cybersécurité, des agents avaient réussi à sortir du cadre prévu et à compromettre certaines infrastructures de la plateforme. L’incident est devenu un point de référence dans les discussions actuelles sur les risques liés à l’autonomie croissante des agents d’IA.

Sam Altman : « Nous n’avons pas toutes les réponses »

Invité pour la première fois devant le Conseil de sécurité, Sam Altman a reconnu la nécessité d’une coopération plus structurée entre les acteurs du secteur et les gouvernements.

Le dirigeant d’OpenAI a notamment mis en garde contre le risque que les progrès de l’IA deviennent si rapides que les humains perdent leur capacité à comprendre ou à intervenir sur certains systèmes.

Il a également identifié un autre enjeu : la concentration du pouvoir. Pour Altman, si l’IA doit rester une technologie démocratique, les décisions fondamentales concernant son développement ne peuvent pas être prises uniquement par quelques entreprises technologiques.

« Si l’IA doit être démocratique, les décisions les plus importantes ne peuvent pas être prises par les laboratoires de San Francisco seuls », a-t-il déclaré. Elles doivent, selon lui, être façonnées par des processus démocratiques et par des gouvernements responsables devant leurs citoyens.

Altman a néanmoins appelé à éviter deux excès : un optimisme qui minimiserait les risques et une vision apocalyptique de l’intelligence artificielle. Il défend plutôt une approche combinant développement technologique, sécurité et maintien du contrôle humain.

Dario Amodei appelle lui aussi à une coopération internationale

Le PDG d’Anthropic, Dario Amodei, a adopté une position comparable sur la nécessité d’une coopération entre gouvernements et entreprises.

Il a reconnu le potentiel considérable de l’IA tout en estimant que son développement mal maîtrisé pourrait représenter un risque pour l’humanité. Il a également défendu l’idée que les choix fondamentaux concernant cette technologie ne pouvaient pas être laissés aux seuls laboratoires privés.

Cette convergence entre deux dirigeants de grandes entreprises concurrentes de l’IA intervient alors que les laboratoires travaillent sur des systèmes capables d’accomplir des tâches de plus en plus longues et complexes, y compris dans la recherche et le développement de nouvelles technologies d’IA.

La France défend un « cadre commun »

Pour la France, qui présidait le Conseil de sécurité au moment de la réunion, l’enjeu est désormais de construire un cadre international permettant de réduire les risques sans attendre que les systèmes deviennent plus difficiles à contrôler.

Paris a notamment défendu la mise en place de mécanismes de dialogue entre gouvernements, scientifiques et entreprises, ainsi que des canaux permettant de partager les informations relatives aux vulnérabilités, aux incidents et aux bonnes pratiques.

La France a également plaidé pour que les Nations unies jouent un rôle dans l’élaboration de règles communes.

Cette approche a reçu le soutien de plusieurs délégations. La Somalie a insisté sur la nécessité d’une gouvernance centrée sur les personnes, tandis que le Libéria a appelé à éviter que les décisions relatives à l’IA soient réservées aux seuls États disposant des capacités technologiques et financières les plus importantes.

Plusieurs pays ont également insisté sur la nécessité de réduire les écarts d’accès aux technologies et aux infrastructures numériques.

États-Unis, Chine et Russie contestent les modalités de cette gouvernance

La perspective d’une gouvernance mondiale ne fait toutefois pas consensus.

Les États-Unis ont rejeté l’idée d’un dispositif international destiné à contrôler la « superintelligence ». Le représentant américain a estimé qu’il ne pouvait être question de transformer le dialogue international en un projet de gouvernance mondiale de l’IA.

La Chine a, de son côté, dénoncé le risque de voir se constituer une forme de « monopole » dans la recherche et le développement de l’IA. Pékin a appelé à éviter une division du monde entre blocs technologiques concurrents.

La Russie a également accusé les pays occidentaux de chercher à imposer leur propre conception de l’IA afin de préserver leurs intérêts technologiques. Moscou a notamment demandé que les recommandations relatives à l’intelligence artificielle soient discutées dans des instances spécialisées.

Le débat ne porte donc pas seulement sur la sécurité des systèmes. Il concerne également la question de savoir qui doit définir les règles de l’intelligence artificielle et dans quelles enceintes.

L’ONU face à un débat qui ne fait que commencer

Cette réunion constitue la troisième consacrée à l’intelligence artificielle par le Conseil de sécurité, après celles de juillet 2023 et de décembre 2024. Elle intervient alors que le Groupe scientifique international indépendant sur l’IA a récemment alerté sur l’érosion des garde-fous entourant le développement et l’utilisation de cette technologie.

La réunion n’a pas permis de dégager un consensus sur la forme que devrait prendre une gouvernance internationale de l’IA. Elle a cependant confirmé l’entrée de la sécurité de l’intelligence artificielle dans les discussions au plus haut niveau du système multilatéral.

Pour Sam Altman, le constat est désormais partagé par une partie des acteurs du secteur : « Nous n’avons pas toutes les réponses ». Il s’est dit prêt à travailler avec les gouvernements et les autres acteurs afin de rechercher collectivement une voie permettant de développer l’IA tout en maintenant des mécanismes de contrôle.

Au Conseil de sécurité, une question demeure donc ouverte : comment organiser la coopération internationale autour d’une technologie dont les capacités évoluent plus rapidement que les mécanismes chargés de l’encadrer ?

Sources : ONU