USA : Anthropic renforce le contrôle indépendant de ses modèles d’IA avec l’association METR
L’entreprise américaine donne à six membres de l’organisation indépendante METR un accès interne étendu à ses systèmes et à ses pratiques d’évaluation des risques. L’objectif est de permettre un examen plus approfondi de la sécurité des modèles d’IA avancés, tout en accordant aux évaluateurs une liberté de publication encadrée.
Le 16 octobre 2026, le développeur des systèmes d’intelligence artificielle, Anthropic a annoncé avoir accordé à une équipe de six membres de METR, une organisation à but non lucratif spécialisée dans l’évaluation des modèles d’IA de pointe, un accès interne comparable à celui de ses propres équipes chargées des risques. Cette initiative vise à renforcer l’évaluation indépendante des systèmes d’IA et à améliorer la transparence sur les risques associés à leur développement.
Cette annonce s’inscrit dans le prolongement d’engagements pris par Anthropic en faveur d’une évaluation externe plus rigoureuse. L’entreprise indique également avoir signé l’Accord de la Maison-Blanche sur la superintelligence, qui prévoit notamment une coopération avec des auditeurs ou des évaluateurs indépendants.
Dans son annonce officielle, Anthropic présente cette collaboration comme une étape vers une supervision plus exigeante des modèles avancés, à mesure que leurs capacités augmentent.
Un accès interne pour examiner les risques au plus près
Le dispositif mis en place avec METR repose sur un principe : permettre à des experts extérieurs d’examiner les risques à partir d’informations plus complètes que celles accessibles au public.
Anthropic explique avoir fourni aux six membres de l’équipe du matériel professionnel, des espaces de travail et un accès à ses outils et systèmes internes. Les employés de l’entreprise sont encouragés à partager avec eux des informations dans des conditions proches de celles applicables aux équipes internes travaillant sur les risques liés à l’alignement de l’IA.
Cet accès reste toutefois soumis à des restrictions. Certaines catégories d’informations sont exclues du périmètre de partage, notamment les données relatives aux clients, les informations protégées par le secret professionnel des avocats et certains éléments concernant l’architecture des modèles.
La collaboration doit permettre à METR d’examiner les niveaux de risque, les incidents et les pratiques de sécurité d’Anthropic. L’organisation pourra publier ses analyses sans que l’entreprise dispose d’un droit de veto sur leur publication. Anthropic conserve néanmoins la possibilité d’exiger la suppression d’informations appartenant aux catégories préalablement définies comme confidentielles.
Une limite demeure : c’est Anthropic qui détermine en dernier ressort si une information entre dans ces catégories. METR conserve, pour sa part, le droit de faire certaines déclarations sur l’étendue de son accès et les informations auxquelles son équipe a eu accès.
L’indépendance de l’évaluation s’accompagne donc d’un cadre de confidentialité dont l’application reste en partie sous le contrôle de l’entreprise évaluée.
Pourquoi une évaluation indépendante est-elle nécessaire ?
Pour Anthropic, les évaluations internes ne suffisent pas à garantir une compréhension complète des risques. Les entreprises qui développent des modèles avancés disposent d’informations détaillées sur leurs systèmes, leurs méthodes d’entraînement et leurs mécanismes de protection. Ces informations sont rarement accessibles dans leur intégralité à des observateurs extérieurs.
Or, la publication de tous ces éléments pourrait exposer des informations sensibles, notamment celles susceptibles de faciliter des usages malveillants ou de révéler des données commerciales confidentielles.
Le recours à des évaluateurs indépendants cherche à concilier ces contraintes avec la nécessité d’un contrôle approfondi. Anthropic souhaite ainsi réduire l’écart entre la compréhension des risques dont disposent ses propres équipes et celle que peuvent acquérir des experts externes.
L’entreprise identifie quatre conditions essentielles à une évaluation crédible : une expertise technique suffisante, une véritable indépendance à l’égard de l’entreprise évaluée, un accès assez étendu pour examiner les risques de manière pertinente et la liberté de publier les observations et les conclusions.
Cette dernière condition est déterminante. Une évaluation externe perd une partie de sa valeur si l’entreprise concernée peut empêcher la publication de conclusions défavorables. Le dispositif annoncé par Anthropic cherche à limiter ce risque, même si des restrictions de confidentialité subsistent.
Pour illustrer cette approche, l’entreprise établit un parallèle avec la supervision bancaire. Les établissements financiers connaissent mieux leurs propres risques que les observateurs extérieurs ; des contrôleurs peuvent donc intervenir directement auprès des plus grandes institutions pour examiner leur situation. Anthropic considère qu’une logique comparable pourrait contribuer à la surveillance des systèmes d’IA les plus avancés.
Trois niveaux d’accès pour les évaluateurs
Au-delà de METR, Anthropic souhaite structurer ses collaborations autour de trois niveaux d’accès, correspondant à des degrés différents d’autonomie et de transparence.
Le premier niveau concerne des évaluations ciblées sur des risques précis. Anthropic détermine les informations accessibles et conserve un droit d’approbation sur la publication des résultats.
Le deuxième niveau accorde davantage d’accès aux évaluateurs et leur permet de publier sans approbation préalable de l’entreprise. Anthropic peut toujours demander le retrait de certaines catégories d’informations, mais les évaluateurs peuvent expliquer publiquement leurs réserves concernant ces suppressions.
Le troisième niveau, celui du partenariat avec METR, reprend les principes du deuxième en offrant un accès interne étendu. Il doit permettre à une petite équipe d’experts de disposer d’une vision plus globale des pratiques de l’entreprise et de publier ses analyses sur les risques et les décisions importantes.
Anthropic indique vouloir faire évoluer progressivement ses partenariats vers ce troisième niveau. À terme, l’entreprise espère compter plusieurs équipes indépendantes capables de publier chacune leur propre analyse de sa posture de sécurité.
SecureBio et Accenture également mobilisés
METR n’est pas le seul organisme externe associé aux travaux d’Anthropic. L’entreprise mentionne aussi SecureBio, ainsi qu’un partenariat avec Accenture et Faculty.
SecureBio examine notamment les risques liés aux armes chimiques et biologiques dans le rapport sur les risques publié par Anthropic en août 2026. Cette collaboration fait suite à une première revue pilote portant sur un rapport antérieur. L’entreprise prévoit d’évaluer la possibilité d’élargir l’accès accordé à SecureBio une fois ce travail achevé.
Avec Accenture et Faculty, l’entreprise développe une collaboration plus large couvrant plusieurs domaines : l’évaluation des modèles, les exercices de red teaming destinés à identifier des vulnérabilités, les évaluations de l’alignement des systèmes et les tests des mécanismes de protection.
Anthropic indique également avoir engagé des discussions préliminaires avec d’autres organisations, dont Hugging Face. Ces partenariats se trouvent à des stades différents et ne bénéficient donc pas tous des mêmes conditions d’accès ou des mêmes droits de publication.
Une avancée vers la transparence, mais des questions persistent
L’initiative d’Anthropic met en lumière un enjeu central de la gouvernance de l’IA : comment rendre les entreprises responsables des risques qu’elles créent lorsque les informations nécessaires à leur contrôle ne peuvent pas être intégralement rendues publiques ?
L’accès interne accordé à METR constitue une réponse à cette difficulté. Il permet à des experts externes de dépasser les limites d’une analyse fondée uniquement sur des documents publics et des évaluations ponctuelles. La possibilité de publier des conclusions sans autorisation préalable renforce également la portée du dispositif.
Toutefois, plusieurs éléments devront être observés dans la durée : la portée réelle des informations accessibles aux évaluateurs, les modalités d’application des restrictions de confidentialité, la publication effective de conclusions indépendantes et la capacité de ces travaux à influencer les décisions de développement ou de déploiement des modèles.