FRANCE : La CNIL améliore Genmod, son outil pour retracer la généalogie des modèles d’IA
La Commission nationale de l’informatique et des libertés (CNIL) met à jour Genmod, son démonstrateur consacré à la traçabilité des modèles d’intelligence artificielle publiés en source ouverte. Cette nouvelle version rend l’outil plus rapide, plus accessible et mieux adapté à l’évolution rapide de l’écosystème de l’IA.
Dans l’univers de l’IA open source, un modèle peut être téléchargé, modifié, spécialisé avec de nouvelles données ou combiné avec un autre modèle avant d’être à nouveau publié.
Un même modèle peut ainsi donner naissance à de nombreux modèles dérivés. Genmod permet de visualiser cette « généalogie » : l’utilisateur peut identifier les modèles dont un système est issu, mais aussi ceux auxquels il a ensuite contribué.
Cette capacité de traçabilité présente un intérêt particulier pour la protection des données personnelles.
Un enjeu pour le RGPD
La CNIL souligne notamment l’intérêt de Genmod pour étudier la mémorisation des données d’entraînement par les modèles d’IA.
Lorsqu’un modèle a mémorisé des données personnelles, il peut être nécessaire de déterminer si ces informations sont susceptibles d’avoir été transmises à d’autres modèles dérivés. Retracer la généalogie permet alors d’identifier les systèmes potentiellement concernés et d’étudier les conditions d’exercice des droits prévus par le RGPD.
L’enjeu est donc important : avec la multiplication des modèles dérivés, la responsabilité liée aux données ne s’arrête pas nécessairement au modèle initial.
Un outil désormais plus rapide
La nouvelle version de Genmod améliore également l’expérience utilisateur. L’interface est désormais disponible en français et en anglais, tandis que le moteur de recherche a été optimisé.
Selon la CNIL, une recherche sans limite de profondeur nécessite désormais en moyenne une vingtaine de secondes. L’utilisateur peut également suivre la progression de sa recherche, connaître son temps d’attente et lancer plusieurs recherches simultanément.
Un graphe actualisé chaque semaine
Autre évolution importante : l’actualisation des données est désormais automatisée. La base de Genmod est reconstruite à partir de données publiques relatives aux modèles et aux jeux de données disponibles sur Hugging Face, permettant une mise à jour hebdomadaire du graphe.
Cette évolution répond à une difficulté centrale de l’écosystème open source : les modèles évoluent rapidement et leurs relations deviennent de plus en plus complexes.
La traçabilité devient un enjeu de gouvernance
Avec Genmod, la CNIL ne propose pas simplement un nouvel outil de recherche. Elle expérimente une manière de rendre plus traçable l’histoire des modèles d’IA.
Cette approche pourrait prendre une importance croissante à mesure que les modèles sont réutilisés, spécialisés et intégrés dans de nouveaux systèmes. Pour les régulateurs, les chercheurs et les acteurs de l’IA, savoir d’où vient un modèle et quels systèmes en sont issus peut devenir essentiel pour comprendre la circulation des données et identifier les responsabilités.
