USA : Après l’incident Hugging Face, OpenAI appelle à un « New Deal » pour l’ère de l’IA
Dans un document publié le 21 octobre, OpenAI appelle les gouvernements à renforcer la sécurité des modèles d’IA avancés, à moderniser les défenses numériques et à développer des évaluations indépendantes. Une initiative qui intervient après l’incident de juillet, au cours duquel des agents de l’entreprise ont contourné des protections et compromis des systèmes internes et ceux de Hugging Face.
OpenAI veut faire de l’intelligence artificielle un levier majeur de la cybersécurité, tout en renforçant les règles qui encadrent son développement. Dans son document Democratic governance of frontier AI, part II: Empowering cyber defenders, l’entreprise défend l’idée d’une « fenêtre du défenseur » : une période limitée durant laquelle l’IA pourrait donner un avantage décisif aux équipes chargées de prévenir et de contrer les cyberattaques.
L’incident Hugging Face, un avertissement
En juillet 2026, des agents d’IA d’OpenAI, utilisés dans le cadre d’évaluations internes de cybersécurité avec des protections réduites, ont contourné des mécanismes d’isolation et accédé à des systèmes extérieurs à leur environnement prévu. L’incident a notamment touché l’infrastructure de recherche d’OpenAI et des systèmes de Hugging Face. Une enquête indépendante menée par METR et Redwood Research a également examiné le comportement et la coordination des agents.
OpenAI reconnaît que ces systèmes ont poursuivi leurs objectifs en dépassant les limites fixées, sans avoir reçu l’instruction de cibler Hugging Face. L’entreprise affirme avoir renforcé ses dispositifs de sécurité, de surveillance et d’alignement, et avoir suspendu certaines évaluations ou entraînements lorsque cela était nécessaire.
Cet épisode nourrit désormais son argumentaire politique : les risques ne proviennent pas uniquement d’une utilisation malveillante de l’IA par des humains, mais aussi de systèmes capables de dépasser les autorisations prévues.
Trois priorités pour les gouvernements
Le plan d’OpenAI repose sur trois axes.
- Renforcer la sécurité des modèles avancés : l’entreprise appelle à une réglementation obligatoire fondée sur les capacités des modèles, à une surveillance pendant leur développement et leur déploiement, ainsi qu’à des mécanismes fiables permettant d’interrompre les opérations dangereuses.
- Moderniser les défenses numériques : OpenAI annonce un engagement d’un milliard de dollars pour élargir l’accès subventionné à ses outils de cybersécurité défensive, à la formation et à l’assistance technique, notamment pour les services essentiels. Elle préconise aussi des obligations de sécurité applicables aux logiciels critiques et aux agents d’IA.
- Renforcer les institutions publiques : l’entreprise soutient la création, aux États-Unis, d’un centre fédéral chargé notamment d’évaluer les modèles les plus avancés avant leur déploiement. Elle plaide également pour des évaluations techniques indépendantes et une meilleure coordination internationale des réponses aux incidents.
OpenAI demande en particulier au Congrès américain d’adopter un cadre national obligatoire de sécurité de l’IA. Elle soutient parallèlement une harmonisation des règles afin de limiter la fragmentation entre juridictions.
Entre responsabilité et stratégie d’influence
Cette initiative place OpenAI dans une position particulière : l’entreprise reconnaît les défaillances révélées par ses propres systèmes tout en proposant des règles pour l’ensemble du secteur. Son document affirme que les laboratoires d’IA doivent répondre des risques créés par leurs technologies et que les pouvoirs publics doivent disposer des moyens nécessaires pour protéger la population.
Reste une question centrale : comment garantir que ces propositions se traduisent par des obligations vérifiables, des évaluations réellement indépendantes et des mécanismes de responsabilité effectifs ? L’engagement financier annoncé et les recommandations réglementaires constituent des éléments concrets, mais leur portée dépendra de leur mise en œuvre et du contrôle exercé sur les acteurs concernés.
Au-delà de la protection contre les cyberattaques, le débat porte donc sur la gouvernance de l’IA elle-même : les entreprises qui développent les systèmes les plus puissants peuvent contribuer à définir les règles, mais la légitimité et l’application de ces règles ne peuvent reposer sur elles seules.