USA : METR alerte sur l’accélération de la recherche automatisée et les risques à venir
Dans son examen du rapport de risques d’Anthropic, l’organisation de recherche METR estime que les modèles de l’entreprise ne présentaient pas, au 15 juillet 2026, un risque catastrophique direct lié à l’automatisation de la recherche et développement (R&D). Mais plusieurs indicateurs suggèrent que l’intelligence artificielle contribue de plus en plus à accélérer les progrès dans ce domaine. Une évolution qui pourrait modifier rapidement l’évaluation des risques.
L’intelligence artificielle pourrait bientôt jouer un rôle déterminant dans le développement de systèmes d’IA toujours plus performants. C’est l’un des enjeux examinés par METR dans son évaluation du rapport de risques publié par Anthropic en août 2026.
L’organisation s’est penchée sur la capacité des modèles d’Anthropic à automatiser les travaux de recherche et développement, notamment ceux qui contribuent à concevoir de nouvelles générations de systèmes d’intelligence artificielle. Son analyse distingue deux questions : les modèles étaient-ils déjà capables de provoquer directement des risques catastrophiques ? Et dans quelle mesure l’IA accélérait-elle déjà les progrès de la recherche ?
La conclusion de METR est nuancée : le risque direct associé aux modèles évalués au 15 juillet était globalement faible, mais les signes d’accélération observés méritent une attention particulière.
Un risque jugé faible pour les modèles évalués en juillet
Anthropic s’appuie sur plusieurs seuils de capacité pour évaluer les risques liés à l’automatisation de la R&D. Son analyse porte notamment sur la possibilité que les modèles puissent remplacer entièrement des chercheurs dans certaines tâches ou accélérer considérablement le rythme des découvertes.
Les scénarios préoccupants envisagés vont au-delà d’une simple amélioration de la productivité. Ils comprennent notamment la possibilité que des systèmes développent des objectifs dangereux, exploitent leur accès à des technologies puissantes ou accélèrent eux-mêmes la recherche dans des domaines stratégiques, jusqu’à rendre le contrôle humain extrêmement difficile.
Au terme de son évaluation, Anthropic a classé le risque global comme « faible ». L’entreprise estime que ses modèles n’avaient atteint aucun des seuils définis pour ce scénario de menace. Elle considère également que, même en cas de dépassement de certains seuils, les capacités observées n’auraient pas nécessairement suffi à provoquer les conséquences catastrophiques envisagées.
METR juge convaincant l’argument selon lequel les modèles disponibles le 15 juillet ne pouvaient pas encore remplacer complètement les chercheurs dans les travaux concernés. L’organisation estime toutefois que les preuves permettant de confirmer cette conclusion sont moins solides que lors des évaluations précédentes.
Des signes d’accélération difficiles à mesurer
Le point de désaccord le plus important entre METR et l’analyse publique d’Anthropic concerne l’accélération de la recherche en IA.
D’après les indicateurs avancés examinés, les progrès auraient connu une accélération significative depuis le début ou le milieu de l’année 2025. Le rapport public d’Anthropic évoquait une progression inférieure à un facteur deux. Mais l’examen de données issues d’un rapport privé conduit METR à souligner que certaines estimations se situent très près de ce seuil.
Selon ses calculs, les estimations raisonnables de l’accélération des indicateurs avancés se situeraient entre 1,3 et 2,8, selon la méthode de mesure et la période considérée. METR estime donc que la formulation « inférieure à deux » ne rend pas suffisamment compte de l’incertitude puisque certaines estimations approchent ce niveau ou le dépassent.
Une autre question concerne la part de cette accélération réellement attribuable à l’utilisation de l’IA. Anthropic reconnaît que ses modèles contribuent à accélérer ses travaux de recherche, tout en estimant que cette contribution n’atteint pas encore un facteur deux. Toutefois, des éléments du rapport privé examinés par METR laissent ouverte la possibilité que l’accélération globale attribuable à l’IA ait déjà dépassé ce seuil.
Cette distinction est importante : une progression plus rapide de la recherche ne signifie pas automatiquement que l’IA en est la seule cause. D’autres facteurs peuvent également intervenir. Mais la contribution croissante des modèles pourrait devenir déterminante dans les années à venir.
Les outils de mesure atteignent leurs limites
L’évaluation repose également sur l’AECI, un indicateur utilisé pour suivre les capacités des modèles. Or, METR relève que certaines mesures disponibles ne permettent plus de distinguer clairement les progrès entre les générations de systèmes.
Autrement dit, lorsque les modèles obtiennent des résultats très élevés sur une évaluation, celle-ci devient moins efficace pour mesurer leurs progrès ultérieurs. Les chercheurs disposent alors de moins d’éléments fiables pour déterminer si les capacités continuent de progresser à un rythme constant ou si elles connaissent une accélération durable.
METR estime que les données disponibles ne permettent pas de trancher avec suffisamment de certitude entre deux hypothèses : un saut ponctuel de performance ou une accélération continue. L’organisation considère néanmoins que cette seconde hypothèse est plausible, notamment au regard des autres indicateurs observés.
Cette limite méthodologique soulève une difficulté importante pour la gouvernance de l’IA : comment anticiper les risques lorsque les instruments utilisés pour mesurer les capacités des modèles ne suivent plus suffisamment leur évolution ?
Une situation susceptible d’évoluer rapidement
Malgré ses réserves sur la manière dont certains résultats ont été présentés, METR rejoint la conclusion d’Anthropic sur un point : les modèles évalués au 15 juillet 2026 ne semblaient pas encore capables d’automatiser complètement la R&D en IA ou dans d’autres domaines stratégiques. L’accélération observée ne suffisait donc pas, selon l’organisation, à caractériser un risque catastrophique direct à cette date.
Cette conclusion ne constitue toutefois pas une garantie pour les mois suivants. METR estime que la contribution de l’IA à la recherche pourrait continuer à augmenter et qu’une accélération substantielle des progrès en matière de capacités ne peut être exclue au cours des six mois suivants. Une telle évolution pourrait conduire à une réévaluation rapide des risques.
L’analyse rappelle ainsi que l’évaluation de la sécurité des systèmes d’IA ne peut reposer uniquement sur les performances constatées à un instant donné. Elle doit aussi prendre en compte la vitesse à laquelle ces performances progressent, la capacité des modèles à contribuer à leur propre développement et la fiabilité des outils de mesure.
À mesure que l’IA participe à la conception de ses propres successeurs, la question du contrôle humain devient donc plus pressante. L’enjeu n’est pas seulement de savoir ce que les modèles peuvent faire aujourd’hui, mais aussi d’anticiper ce qu’ils pourraient rendre possible demain.