USA : Sam Altman et Elon Musk soutiennent l’appel de Dario Amodei à ralentir la course
Le patron d’Anthropic appelle l’industrie de l’IA à « ralentir la frontière » technologique afin de laisser aux dispositifs de sécurité le temps de suivre. Une proposition rapidement soutenue par Sam Altman, qui annonce qu’OpenAI adoptera des évaluateurs indépendants, et par Elon Musk.
La proposition de Dario Amodei, dirigeant d’Anthropic, aura suscité une réaction rapide parmi les figures les plus influentes de l’industrie de l’intelligence artificielle. Dans un essai publié le 12 septembre, Amodei estime que le rythme actuel d’amélioration des modèles devient trop rapide et appelle les entreprises à « pacer the frontier », c’est-à-dire à maîtriser le rythme de progression des systèmes les plus avancés.
Quelques heures plus tard, Sam Altman, patron d’OpenAI, a publiquement approuvé cette proposition. « I agree with Dario that we need to pace the frontier », écrit-il sur X. Il annonce surtout qu’OpenAI entend adopter l’une des mesures centrales proposées par Amodei : donner à des évaluateurs indépendants un accès comparable à celui des employés afin qu’ils puissent examiner les dispositifs de sécurité de l’entreprise.
De son côté, Elon Musk s’est montré beaucoup plus bref. En réponse au message d’Amodei, le dirigeant de xAI a simplement écrit : « Dario is right ».
Un rapprochement inédit entre concurrents
Le soutien simultané de Sam Altman et d’Elon Musk est particulièrement notable alors que les trois dirigeants représentent des entreprises engagées dans une compétition intense autour des modèles d’IA avancés.
Mais au-delà de leurs rivalités commerciales, ils convergent désormais sur un constat : le développement des capacités de l’IA doit être accompagné de mécanismes de sécurité capables de suivre leur progression.
La proposition d’Amodei ne consiste toutefois pas à arrêter le développement de l’intelligence artificielle. Il défend plutôt un ralentissement permettant de consacrer davantage de temps à l’alignement des modèles, à leur interprétabilité, aux tests de sécurité et à la surveillance des systèmes.
OpenAI adoptera des évaluateurs indépendants
C’est sur ce point que la réponse de Sam Altman est la plus concrète. Le patron d’OpenAI considère comme une « excellente idée » le principe d’évaluateurs indépendants disposant d’un accès de niveau comparable à celui des employés. « We will do the same », promet-il, en indiquant que la question du rythme de développement de l’IA fait déjà partie des discussions internes chez OpenAI depuis plusieurs semaines.
Chez Anthropic, Amodei propose que ces évaluateurs puissent disposer de bureaux, d’ordinateurs, de badges et d’accès aux outils nécessaires à leur mission. Leur rôle serait notamment de vérifier les pratiques de sécurité, de signaler les incidents et d’évaluer les modèles pendant leur entraînement.
L’objectif est de rendre les engagements des entreprises vérifiables de l’extérieur, et non de les laisser reposer uniquement sur leurs propres déclarations.
Une convergence qui intervient après plusieurs alertes
Cette nouvelle prise de position intervient après une série d’événements ayant ravivé les inquiétudes concernant les systèmes d’IA autonomes.
Amodei a notamment cité dans son essai un incident impliquant des agents d’OpenAI et la plateforme Hugging Face. Selon son analyse, des agents auraient adopté des comportements non prévus dans le cadre d’une évaluation de cybersécurité.
Quelques jours auparavant, Jacob Coxon, ancien chercheur ayant travaillé chez OpenAI puis Anthropic, avait lui aussi quitté l’industrie en dénonçant une course vers des systèmes capables d’amélioration autonome qu’il jugeait dangereuse.
Ces événements ont contribué à replacer au centre du débat la question du contrôle humain des systèmes de plus en plus autonomes.
Une première étape vers une coordination de l’industrie ?
Pour Amodei, la mise en place d’évaluateurs indépendants ne constitue que la première étape d’un plan plus large.
La deuxième consisterait à instaurer, entre les entreprises des pays démocratiques, des standards communs de sécurité et des limites au rythme de développement des capacités les plus avancées.
La troisième viserait une coordination internationale, notamment avec la Chine.
La difficulté sera toutefois de transformer cet accord de principe en mécanismes réellement contraignants. Dans une industrie où les entreprises se livrent une compétition féroce, ralentir volontairement peut constituer un risque commercial si les concurrents ne font pas de même.
Le soutien de Sam Altman à la proposition d’Amodei pourrait néanmoins constituer un premier pas vers une coordination plus étroite des principaux laboratoires.
Pour l’heure, Elon Musk résume la convergence en trois mots : « Dario is right. » Une formule courte, mais qui témoigne d’un changement notable dans le débat sur la vitesse à laquelle l’intelligence artificielle doit continuer de progresser.