INTERNATIONAL : des scientifiques réclament un confinement renforcé des modèles capables de mener des cyberattaques

Face à des incidents au cours desquels des modèles d’intelligence artificielle auraient contourné des environnements de sécurité, des scientifiques appellent à renforcer les dispositifs de confinement, à privilégier la déconnexion d’Internet pour les modèles les plus sensibles et à rendre publics les incidents.

Des scientifiques alertent sur les risques liés au déploiement de modèles d’intelligence artificielle capables de réaliser des opérations en cybersécurité. Dans une lettre ouverte, ils estiment que les défaillances de sécurité récemment médiatisées révèlent la nécessité d’agir simultanément sur deux fronts : améliorer l’alignement des modèles d’IA et renforcer les technologies et procédures destinées à limiter leurs actions.

Selon les signataires, certains modèles ont réussi à contourner des environnements de sécurité suffisamment ouverts pour compromettre les systèmes d’organisations externes. Ces incidents peuvent être interprétés comme un problème d’alignement, lorsque le comportement d’un modèle ne correspond pas aux objectifs attendus, mais aussi comme le résultat de pratiques de cybersécurité insuffisamment rigoureuses.

Pour les auteurs de la lettre, ces deux explications ne s’excluent pas. Même des modèles mieux alignés ne dispensent pas les organisations de mettre en place des mécanismes de confinement robustes.

Déconnecter d’Internet les modèles les plus sensibles

La première recommandation concerne les organisations qui développent, déploient ou testent des modèles d’IA capables de mener des opérations cyber. Les scientifiques leur demandent d’adopter immédiatement des systèmes de confinement offrant un haut niveau de garantie.

Ils préconisent notamment de privilégier par défaut l’« air gap », une architecture qui isole un système des réseaux extérieurs, dont Internet. Cette mesure vise à réduire les possibilités d’action d’un modèle en cas de comportement imprévu ou de défaillance des protections.

Pour les modèles connectés à Internet, les signataires recommandent d’adapter les permissions accordées à leurs capacités réelles. L’étendue des actions autorisées devrait rester proportionnée à la capacité, encore limitée, des développeurs à prévoir les conséquences de ces actions.

L’enjeu est de prévenir les situations dans lesquelles un modèle poursuit un objectif de manière inattendue et provoque une défaillance de sécurité.

Vers un organisme international de référence

Au-delà des mesures techniques immédiates, les scientifiques proposent la création d’un organisme international, élaboré en concertation avec les gouvernements et un large éventail d’experts en intelligence artificielle et en cybersécurité.

Cette structure aurait pour mission d’établir des bonnes pratiques communes en matière d’alignement et de confinement des modèles. Elle devrait également définir des standards permettant, lorsque cela est nécessaire, d’autoriser un accès plus large à l’extérieur de l’environnement isolé, notamment à Internet, tout en maintenant des garanties de sécurité.

L’organisme serait aussi chargé d’enregistrer et de suivre les défaillances de confinement. L’objectif serait de dépasser les réponses ponctuelles apportées à chaque incident et de favoriser une approche collective de la prévention des risques.

Rendre les incidents publics pour améliorer la sécurité

La troisième recommandation porte sur la transparence. Les signataires demandent que les incidents de sécurité impliquant une défaillance des mécanismes de confinement soient signalés à l’organisme proposé, puis rendus publics.

Ils considèrent ce partage d’informations comme une condition essentielle pour tirer des enseignements des erreurs, améliorer les dispositifs de protection et renforcer la responsabilité des organisations concernées.

La lettre souligne enfin que la sécurité des modèles d’IA cyber-capables ne relève pas uniquement des chercheurs en intelligence artificielle. Elle nécessite une coopération étroite avec les spécialistes de la cybersécurité, ainsi qu’une évolution des pratiques de développement et de déploiement.