INTERNATIONAL : Microsoft appelle à renforcer la sécurité de l’IA, de la conception à la réglementation
Le président de Microsoft, Brad Smith, réclame des règles internationales de sécurité pour l’intelligence artificielle, tandis que son directeur général, Satya Nadella, défend une architecture technique permettant de contrôler les actions des modèles avancés. Tous deux insistent sur la nécessité de ne pas faire reposer la sécurité sur la seule confiance accordée aux systèmes d’IA.
« Votre machine à laver est soumise à davantage de règles de sécurité que l’IA », a déclaré Brad Smith dans un entretien accordé à la BBC et publié le 12 octobre 2026. Le président de Microsoft compare ainsi les exigences imposées aux produits de consommation courante à celles qui encadrent les systèmes d’intelligence artificielle.
Il appelle à mettre en place des règles internationales prévoyant notamment l’obligation d’informer les personnes touchées lorsqu’un agent d’IA malveillant compromet leur système, la déclaration des incidents et la possibilité d’évaluer indépendamment les produits avant leur mise sur le marché.
Pour Brad Smith, l’IA est à la fois un outil et une arme potentielle. Son développement nécessite donc des mécanismes de sécurité qui ne reposent pas uniquement sur les engagements volontaires des entreprises.
Un mécanisme d’arrêt pour reprendre le contrôle
Parmi les mesures défendues par le dirigeant figure la mise en place d’un « frein d’urgence », ou kill switch, permettant de suspendre ou d’arrêter un système lorsque son comportement devient dangereux.
Cette proposition rejoint les réflexions de Satya Nadella sur la manière de concevoir des systèmes d’IA avancés. Dans un texte publié quelques jours plus tôt, le directeur général de Microsoft estime qu’il ne suffit pas d’accepter ou de rejeter les réponses d’une intelligence artificielle considérée comme une boîte noire.
Il préconise des systèmes dont le comportement peut être observé, dont les limites peuvent être testées et dont les actions peuvent toujours être contenues.
Séparer l’intelligence des autorisations d’agir
Satya Nadella souligne une difficulté technique : les entreprises ne disposent pas toujours d’une compréhension suffisamment précise des mécanismes internes qui produisent les réponses des modèles avancés. Cette opacité devient particulièrement préoccupante lorsque les modèles sont intégrés à des agents autonomes, capables d’accéder à des données sensibles et d’effectuer des opérations au nom d’une organisation.
Sa proposition consiste à distinguer le modèle d’IA du système qui organise son travail et des outils auxquels il peut accéder. Les autorisations, les limites d’action et les mécanismes de sécurité doivent être imposés par des contrôles extérieurs au modèle, plutôt que dépendre de sa seule capacité à respecter les consignes.
Cette architecture doit également permettre de conserver des traces exploitables, de vérifier les résultats de manière indépendante et de tester les systèmes face aux erreurs, aux attaques et aux situations imprévues.
La vérification ne peut pas reposer sur un seul modèle
Le recours à plusieurs modèles pour vérifier les résultats d’un premier système peut contribuer à la sécurité, mais ne constitue pas une garantie suffisante. Si le modèle principal, le système d’orchestration et le mécanisme de vérification sont tous opaques, l’organisation risque de multiplier les niveaux de complexité sans obtenir une véritable capacité de contrôle.
Satya Nadella défend donc plusieurs principes : diversifier les modèles utilisés, enregistrer les actions importantes, rendre les résultats vérifiables et maintenir des mécanismes d’audit indépendants. Il préconise également que les organisations puissent définir elles-mêmes les accès et les actions autorisés, et qu’une personne habilitée conserve la possibilité d’interrompre une opération en cours.
Cette approche revient à considérer qu’un modèle, même performant, peut commettre une erreur ou être compromis. Le contrôle doit donc être intégré à l’architecture dès la conception, plutôt que ajouté après le déploiement.
Le Royaume-Uni mis en avant pour les évaluations de sécurité
Sur le plan réglementaire, Brad Smith estime que le Royaume-Uni est bien placé pour jouer un rôle moteur grâce à son AI Security Institute. Celui-ci bénéficie, dans le cadre d’accords volontaires avec de grands développeurs, d’un accès à des modèles avant leur déploiement afin d’en évaluer les capacités et les risques.
Cette approche s’inscrit dans un débat international sur le rôle des gouvernements dans la sécurité de l’IA. Le président américain Donald Trump défend une autorégulation du secteur, au nom de la compétitivité des entreprises américaines face à la Chine. Les propositions de Brad Smith plaident au contraire pour des obligations de sécurité plus formelles, sans que les modalités précises d’un éventuel cadre mondial soient encore établies.
De la confiance à la responsabilité
Les prises de position des deux dirigeants mettent en avant deux dimensions complémentaires : des règles publiques capables d’imposer des obligations aux acteurs de l’IA et une architecture technique qui limite les conséquences d’une erreur ou d’une compromission.
Les engagements des fournisseurs ne suffisent pas, à eux seuls, à garantir la sécurité d’un système. Encore faut-il pouvoir observer ses actions, contrôler ses accès, examiner les incidents et intervenir lorsqu’il dépasse les limites prévues.
Pour les organisations qui déploient des agents d’IA, l’enjeu est donc de ne pas confondre performance et fiabilité. À mesure que les systèmes gagnent en autonomie, la responsabilité de leurs usages doit rester clairement attribuée, et leur pouvoir d’action doit demeurer soumis à des contrôles effectifs.