Australie : un comité parlementaire réclame un contrôle renforcé de l’intelligence artificielle
Évaluation indépendante des modèles, protection des données publiques, rémunération des créateurs et souveraineté numérique : un comité parlementaire australien appelle à instaurer des garde-fous urgents face aux risques de l’IA. Ses recommandations doivent encore être examinées par le gouvernement.
L’Australie pourrait renforcer sensiblement l’encadrement de l’intelligence artificielle. Dans une lettre adressée au Premier ministre Anthony Albanese, le Comité mixte spécial sur l’intelligence artificielle (JSCAI) présente une série de recommandations destinées à mieux contrôler le développement et le déploiement de ces technologies.
Signé par la présidente du comité, Jo Briskey, et son vice-président, le sénateur Jonathon Duniam, le document intervient après plusieurs auditions et délibérations sur les risques associés à l’IA. Parmi les événements ayant nourri les préoccupations figure un accès non autorisé à des données du système public d’assurance maladie Medicare par un agent d’IA.
Pour les parlementaires, les bénéfices économiques de l’intelligence artificielle ne doivent pas occulter les risques qu’elle fait peser sur les citoyens, les institutions et la sécurité nationale.
Le comité présente ses propositions comme une première indication de ses travaux. Elles ne constituent donc pas, à ce stade, des mesures que le gouvernement aurait déjà décidé de mettre en œuvre.
Assurer un contrôle démocratique dans la durée
Le comité propose la création d’un comité parlementaire permanent mixte chargé de suivre l’évolution du secteur et de maintenir une surveillance continue de ses risques.
Cette instance pourrait examiner rapidement de nouvelles réglementations et recevoir des rapports réguliers de plusieurs organismes spécialisés, notamment l’AI Safety Institute, le Bureau de l’IA et l’AI Incident Review Board.
Les parlementaires souhaitent également rendre publics les détails des incidents impliquant des actions non autorisées d’agents d’IA. L’objectif serait de renforcer la transparence et de permettre au public de mieux comprendre les risques liés à ces systèmes. Cette proposition place la responsabilité démocratique au cœur de la gouvernance de l’IA : les décisions concernant des technologies susceptibles d’affecter la vie quotidienne ne devraient pas dépendre uniquement des entreprises qui les développent.
Des obligations de sécurité proportionnées aux risques
Le comité recommande un cadre de gestion des risques adapté aux capacités et aux usages des systèmes d’IA. Celui-ci couvrirait notamment l’évaluation des modèles, les tests de sécurité, la cybersécurité, la transparence, la responsabilité, la supervision humaine et la surveillance continue.
Les exigences devraient être proportionnées aux risques spécifiques des systèmes avancés, sans imposer de contraintes inutiles susceptibles de freiner l’innovation. Le comité souhaite également que les laboratoires développant les modèles d’IA les plus avancés en Australie puissent être soumis à des évaluations indépendantes. Des évaluateurs qualifiés, éventuellement accrédités à terme, seraient intégrés à leurs opérations et disposeraient d’un accès à leurs systèmes et activités comparable à celui de salariés. Ils auraient pour mission de rendre compte au gouvernement des tests de sécurité et des incidents constatés.
Cette proposition vise à renforcer la capacité des autorités à comprendre les systèmes de l’intérieur, plutôt que de dépendre exclusivement des évaluations communiquées par leurs concepteurs.
Protéger les données publiques et les infrastructures critiques
La sécurité des données constitue un autre axe majeur des recommandations. Le comité demande une révision immédiate des dépôts de données détenus par le gouvernement afin de vérifier que les protections sont adaptées, notamment pour les informations sensibles, critiques ou liées à la sécurité nationale.
Il appelle également à une réponse à l’examen de la loi de 2022 sur la disponibilité et la transparence des données. La question est particulièrement importante à mesure que les systèmes d’IA accèdent à davantage de ressources numériques et peuvent exécuter des tâches de manière autonome. Une faille ou une autorisation excessive peut exposer des informations qui concernent directement les citoyens.
Le comité recommande par ailleurs de renforcer la protection des infrastructures critiques, y compris celles nécessaires au fonctionnement de l’IA, et d’approfondir la coopération internationale en matière de sécurité. Il souhaite aussi que certaines agences, comme l’Australian Signals Directorate, puissent accéder aux nouveaux modèles avant leur diffusion afin d’évaluer leurs implications pour la sécurité nationale.
Les créateurs face aux usages de leurs œuvres
Les recommandations abordent également la question du droit d’auteur. Selon le comité, les mécanismes actuels ne facilitent pas suffisamment les accords de licence portant sur les contenus culturels australiens.
Il invite donc le gouvernement à réexaminer les règles en vigueur, avec une priorité : permettre aux créateurs de conserver le contrôle de l’utilisation de leurs œuvres et d’être rémunérés lorsque celles-ci sont exploitées. Cette invitation concerne la capacité des artistes, des auteurs et des producteurs de contenus à décider des conditions dans lesquelles leur travail contribue au développement de nouvelles technologies.
L’enjeu est de trouver un équilibre entre l’innovation, l’accès aux données et la reconnaissance des droits de ceux qui produisent les contenus utilisés par les systèmes d’IA.
Centres de données : concilier innovation et intérêts collectifs
Le développement de l’intelligence artificielle repose également sur des infrastructures matérielles dont les besoins en ressources et les conséquences territoriales peuvent être importants.
Le comité recommande l’élaboration de normes nationales cohérentes pour les centres de données. Elles porteraient notamment sur la consommation des ressources, les règles d’aménagement, l’acceptation des projets par les communautés locales et les sanctions en cas de non-respect des obligations.
Cette approche invite à considérer les infrastructures d’IA non seulement comme des investissements technologiques, mais aussi comme des projets ayant des effets sur les territoires et leurs habitants.
La question est de savoir comment permettre le développement de ces infrastructures tout en tenant compte des ressources mobilisées, des besoins locaux et de la participation des communautés concernées.
Construire une souveraineté australienne en matière d’IA
Le comité souhaite enfin que l’Australie définisse des principes directeurs en matière de souveraineté technologique. Ceux-ci couvriraient la souveraineté des données, la sécurité des infrastructures critiques, la formation à l’IA, le développement des compétences, les marchés publics et le soutien à l’industrie nationale.
Parmi les propositions figure la création d’un registre des entreprises australiennes souveraines spécialisées dans l’IA. Le comité recommande également de réserver une partie de la capacité de calcul à des usages d’intérêt public, notamment la recherche et les services de santé.
Il appelle en outre à travailler avec les nations du Pacifique afin que les bénéfices des investissements dans l’IA et les centres de données puissent être partagés de manière sûre et durable.
Ces orientations élargissent le débat au-delà de la réglementation des risques. Elles posent la question de la maîtrise des technologies, des infrastructures et des compétences, ainsi que de la répartition des bénéfices qu’elles génèrent.
Un rapport complet attendu en novembre
Le comité doit présenter au Parlement un rapport complet au plus tard le 30 novembre 2026. Celui-ci doit préciser les arguments et les éléments de preuve qui sous-tendent ses recommandations.
Il reste à savoir dans quelle mesure le gouvernement d’Anthony Albanese donnera suite à ces propositions. Leur mise en œuvre nécessiterait des décisions politiques et, pour certaines, des évolutions réglementaires.