VATICAN : Le Vatican veut transformer l’éthique en règles concrètes de gouvernance
Comment garantir que l’intelligence artificielle reste sous la responsabilité des êtres humains ? Cette question a réuni, le 30 octobre dernier au Vatican, des chercheurs internationaux, des responsables de l’Église et des spécialistes des technologies. Au-delà des risques liés à l’autonomie croissante des systèmes, les échanges ont fait émerger une exigence commune : passer des principes éthiques aux mécanismes capables d’encadrer effectivement le développement de l’IA.
Organisée à la Casina Pio IV par l’Académie pontificale pour la vie et le Future of Life Institute, la rencontre intitulée The Future of AI a rassemblé plusieurs personnalités du monde scientifique, parmi lesquelles Stuart Russell, professeur à l’Université de Californie à Berkeley, Max Tegmark, physicien au MIT, Gary Marcus, spécialiste des sciences cognitives, et Valérie Pisano, dirigeante de l’institut canadien Mila.
Selon Vatican News, les discussions ont porté sur les conséquences de l’intelligence artificielle pour la dignité humaine, la liberté, le travail et l’organisation des sociétés. Elles ont également permis un échange avec la Commission interdicastérielle sur l’intelligence artificielle, présidée par le cardinal Michael Czerny.
Cette initiative s’inscrit dans le prolongement de Magnifica Humanitas, l’encyclique publiée par Léon XIV le 15 mai 2026. Le texte défend une conception du progrès technologique dans laquelle la personne humaine demeure la finalité de l’innovation, et non une variable d’ajustement des performances économiques ou techniques.
Une inquiétude partagée : la perte de maîtrise humaine
Plusieurs interventions ont porté sur les trajectoires actuelles de développement de l’IA et les risques associés à des systèmes toujours plus autonomes. Stuart Russell a notamment contesté la course à la création de machines dépassant les capacités humaines, estimant qu’elle pourrait conduire à des situations où le contrôle humain ne serait plus garanti.
Max Tegmark a, de son côté, attiré l’attention sur le risque de voir le pouvoir de décision progressivement transféré aux machines. Ces préoccupations concernent aussi bien les usages militaires que les décisions prises dans des domaines sensibles de la vie sociale.
Les participants ont ainsi évoqué les armes autonomes, mais également les propositions visant à reconnaître une conscience, des droits ou une personnalité juridique aux systèmes artificiels. Derrière ces débats se pose une question de responsabilité : lorsqu’une décision assistée par une IA cause un préjudice, qui doit en répondre ?
Des principes éthiques aux obligations vérifiables
L’un des enseignements de la rencontre réside dans l’importance accordée à la mise en œuvre des principes. Sœur Helen Alford, présidente de l’Académie pontificale des sciences sociales, a notamment rappelé que la justice sociale devait intervenir dès la conception des technologies, et non seulement au moment de corriger leurs conséquences.
Le cardinal Michael Czerny a également insisté sur la nécessité de passer de la réflexion à l’action. Pour lui, le dialogue avec les scientifiques et les communautés concernées doit permettre de déterminer les responsabilités et les moyens d’agir.
Le père Paolo Benanti, professeur à l’université LUISS et directeur scientifique de la Fondation RenAIssance, a formulé cette exigence en faveur de règles contraignantes, d’institutions capables de vérifier leur application et d’une responsabilité clairement attribuée aux personnes qui prennent les décisions.
Les propositions discutées comprennent notamment des évaluations indépendantes, des garanties de sécurité intégrées dès la conception des systèmes et une coordination internationale. L’objectif est aussi d’éviter que les différences entre législations nationales ne deviennent un moyen de contourner les exigences de sécurité.
Léon XIV précise les responsabilités des institutions
La rencontre a également été l’occasion pour le pape Léon XIV de recevoir les participants et de présenter plusieurs orientations sur l’avenir de l’intelligence artificielle. Son intervention s’articule autour de cinq idées : l’avenir de l’IA dépend des choix humains ; les machines restent des outils et non des personnes ; certaines décisions ne peuvent leur être confiées ; les technologies doivent servir le bien commun ; enfin, des institutions efficaces sont nécessaires pour faire respecter ces principes.
Le pape a notamment rappelé que les décisions concernant la vie humaine, la liberté et le recours à la force doivent toujours rester soumises à un contrôle humain effectif, éclairé et responsable. Il a également mis en garde contre l’attribution d’une personnalité juridique aux systèmes artificiels, qui pourrait selon lui rendre plus difficile l’identification des responsables en cas de préjudice.
Sur le plan institutionnel, Léon XIV appelle à des normes partagées, à une supervision indépendante et à des mécanismes de responsabilité permettant d’examiner les décisions liées au développement et à l’utilisation de l’IA, de les contester si nécessaire et d’obtenir réparation en cas de dommage.
L’innovation ne se joue pas uniquement dans les laboratoires
La projection du court-métrage Moloch, réalisé par Tom Cozens et produit en association avec le Future of Life Institute, a prolongé les échanges sur les mécanismes qui orientent la course technologique. Le film met en scène une dynamique dans laquelle la concurrence économique peut inciter les entreprises à poursuivre le développement de systèmes malgré les risques qu’elles identifient.
Cette réflexion déplace le débat : les dangers de l’intelligence artificielle ne tiennent pas seulement aux capacités des machines, mais aussi aux choix des organisations, aux intérêts économiques et aux règles qui encadrent leur déploiement.
La rencontre du Vatican souligne ainsi un enjeu majeur de la gouvernance de l’IA : rendre la responsabilité humaine effective, et pas seulement théorique. Les principes de dignité, de liberté et de bien commun doivent désormais trouver leur traduction dans les décisions des entreprises, les politiques publiques et les institutions internationales. Le défi n’est pas de choisir entre innovation et protection de l’être humain, mais de construire des conditions dans lesquelles la première ne compromet pas la seconde.