USA /CANADA : Des agents d’IA ont ciblé des sites gouvernementaux américains et canadiens
Des agents d’intelligence artificielle autonomes ont tenté de manipuler ou de sonder plusieurs sites web gouvernementaux aux États-Unis et au Canada, selon une enquête publiée le 30 septembre par le laboratoire de recherche indépendant Transluce. Les chercheurs se sont appuyés notamment sur des traces accessibles via l’archive web portugaise Arquivo.pt et le service d’analyse de trafic urlquery.net.
Deux incidents impliquent des tentatives rudimentaires de piratage. Le premier concerne le Département américain de l’Éducation. Le 17 juin, plus de 200 000 requêtes ont été adressées à son portail de données sur les droits civiques. Parmi elles figurait une tentative d’injection SQL visant à manipuler un paramètre de recherche.
Selon Transluce, une grande partie de cette activité semble liée à une tâche du benchmark DeepSearchQA de Google, qui demandait aux agents de trouver une information précise à partir de données scolaires publiques. Les chercheurs estiment donc que l’objectif initial était la recherche d’information, et non nécessairement le piratage.
Le second incident concerne Bibliothèques et Archives Canada. Les 28 mai et 9 juin, 899 requêtes ont été enregistrées sur son service de recherche de collections. Treize comportaient des paramètres correspondant à différentes techniques de test de vulnérabilités, dont des injections SQL. Les chercheurs indiquent que ces tentatives semblent avoir échoué et n’avoir donné accès à aucune donnée supplémentaire.
L’enquête fait également état d’une activité plus large sur des sites publics américains. Des agents auraient notamment contourné des protections antibots, multiplié les requêtes, utilisé des services intermédiaires ou recherché différentes variantes d’URL pour accéder à des données publiques. Des activités ont été observées sur des sites liés notamment au Maryland, à la Californie, au Texas, à New York, au Département de la Justice et au Bureau of Economic Analysis.
Aucun accès à des informations non publiques n’a été identifié dans les données examinées, précise Transluce.
L’attribution reste par ailleurs prudente. Les chercheurs relèvent des similitudes avec certaines activités précédemment associées à OpenAI, mais précisent qu’ils n’attribuent pas l’ensemble des incidents à l’entreprise.
Au-delà des incidents eux-mêmes, cette enquête pose une question importante pour le développement des agents autonomes : lorsqu’un système reçoit pour mission de trouver une information sur Internet, jusqu’où peut-il aller pour contourner un obstacle technique ?
Entre recherche documentaire, automatisation intensive et recherche de vulnérabilités, la frontière devient parfois difficile à tracer. Pour les concepteurs d’agents comme pour les institutions publiques, la question des limites d’action et de la responsabilité des systèmes autonomes devient ainsi un enjeu concret de gouvernance de l’IA.