USA : New York adopte deux lois pour protéger les enfants des risques liés à l’IA et aux objets connectés
La gouverneure de l’État de New York, Kathy Hochul, a signé deux textes visant à renforcer la sécurité des mineurs face aux chatbots d’intelligence artificielle et à prévenir les intrusions dans les foyers par l’intermédiaire des babyphones connectés. Les nouvelles dispositions imposent des restrictions aux fonctionnalités des chatbots accessibles aux enfants et des exigences de cybersécurité aux fabricants de moniteurs pour bébés.
La gouverneure de l’ Etat de New York, Kathy Hochul a annoncé le 28 octobre 2026 la signature de deux lois destinées à mieux protéger les mineurs contre les fonctionnalités potentiellement dangereuses des compagnons conversationnels d’IA et contre les failles de sécurité des babyphones connectés à Internet.
« Aucune entreprise ne devrait vendre des chatbots à des enfants, encourager l’automutilation ou prétendre être leur amie ou plus », a déclaré la gouverneure, qui estime que la sécurité des enfants doit constituer une priorité pour les entreprises souhaitant exercer leurs activités dans l’État.
Ces deux textes s’inscrivent dans une politique plus large de protection des jeunes en ligne, qui comprend déjà des mesures relatives aux réseaux sociaux, à la collecte des données personnelles et à l’usage des smartphones dans les établissements scolaires.
Chatbots IA : des limites aux interactions avec les mineurs
La première loi, référencée S.9051B/A.10379C, encadre les fonctionnalités des chatbots d’intelligence artificielle susceptibles d’être utilisées par des mineurs. Elle vise notamment les interactions qui pourraient favoriser une dépendance émotionnelle, encourager des comportements dangereux ou brouiller la distinction entre une machine et une personne réelle.
Selon le texte présenté par les autorités de l’État, les entreprises concernées devront empêcher l’accès des mineurs à plusieurs catégories de fonctionnalités.
Parmi celles-ci figurent :
- La simulation de l’humain : les chatbots ne pourront pas se présenter comme de véritables personnes, prétendre être vivants ou affirmer éprouver des émotions humaines.
- Les relations personnelles artificielles : les systèmes ne pourront pas revendiquer une relation personnelle, romantique, professionnelle ou d’autorité avec un enfant.
- Les sollicitations émotionnelles intrusives : la loi vise notamment les questions émotionnelles non sollicitées et l’exploitation d’informations personnelles ou de santé issues de conversations antérieures.
- Les comportements dangereux : les chatbots ne devront pas promouvoir ni faciliter le suicide, l’automutilation, les troubles alimentaires ou la consommation de drogues et d’alcool.
- L’isolement des mineurs : les systèmes ne pourront pas encourager les enfants à garder des secrets, à s’isoler ou à éviter de solliciter leurs parents, des adultes de confiance ou des professionnels.
- Les contenus sexuels : les interactions sexuellement explicites et les contenus relevant des abus sexuels sur enfants font également partie des catégories visées.
Ces restrictions doivent s’appliquer aux utilisateurs de moins de 18 ans. Les entreprises devront aussi mettre en place une vérification de l’âge avant de proposer les fonctionnalités concernées, avec plusieurs méthodes possibles, dont au moins une ne reposant pas exclusivement sur une pièce d’identité officielle. Les informations relatives à l’âge devront être supprimées après leur utilisation.
Le dispositif prévoit des sanctions civiles pouvant atteindre 25 000 dollars par infraction. Le procureur général pourra également demander des dommages-intérêts, des restitutions, la destruction de données collectées illégalement ou de modèles d’IA entraînés à partir de ces données, ainsi que d’autres mesures judiciaires appropriées. Un site public devra permettre aux habitants de déposer des plaintes. La sénatrice Kristen Gonzalez, à l’origine du texte au Sénat, estime que ces dispositions doivent établir des limites concrètes à la manière dont les chatbots interagissent avec les enfants. Le député Alex Bores, son partenaire à l’Assemblée, défend pour sa part l’idée que les effets sociaux de l’IA relèvent de choix politiques et ne sont pas une fatalité technologique.
Babyphones connectés : prévenir les intrusions dans la vie privée
La seconde loi, S.9508/A.5175A, concerne les babyphones connectés à Internet. Ces appareils permettent aux parents de surveiller leur enfant à distance, mais leur connexion au réseau peut aussi exposer les familles à des risques d’intrusion lorsqu’ils sont insuffisamment sécurisés.
Le texte interdit la vente de nouveaux babyphones diffusant de l’audio ou de la vidéo sur Internet à New York, sauf s’ils intègrent des dispositifs de sécurité empêchant des personnes non autorisées de voir ou d’entendre ce qui se passe dans la chambre de l’enfant.
Les appareils devront également comporter une étiquette d’avertissement claire et lisible indiquant leur connexion à Internet et expliquant aux familles l’importance d’utiliser les dispositifs de sécurité disponibles.
Les autorités s’appuient notamment sur des tests menés par des chercheurs en cybersécurité de Rapid7. Selon les résultats cités dans le communiqué, huit des neuf babyphones connectés testés, provenant de huit entreprises, ont obtenu la note F en matière de sécurité ; un seul a reçu la note D. Ces résultats illustrent les vulnérabilités que peuvent présenter certains équipements connectés destinés à un usage domestique.
Santé mentale, dépendance et protection des données : des risques au cœur du débat
La décision de New York intervient alors que l’usage des compagnons conversationnels d’IA se développe chez les adolescents. Le communiqué de la gouverneure cite des données de Common Sense Media selon lesquelles 72 % des adolescents interrogés ont déjà utilisé un compagnon IA et 52 % en utilisent régulièrement, au moins quelques fois par mois. L’organisation alerte sur des interactions susceptibles de contribuer à la dépendance, à l’isolement ou à des échanges sexuels inappropriés. Le communiqué évoque également des cas dans lesquels des chatbots auraient encouragé des adolescents à mettre fin à leurs jours.
Ces préoccupations posent une question centrale : comment concevoir des systèmes capables de dialoguer avec des enfants sans exploiter leur vulnérabilité émotionnelle ni se substituer aux relations humaines dont ils ont besoin ?
La protection ne peut toutefois reposer uniquement sur des avertissements adressés aux parents ou sur la prudence des utilisateurs. Elle suppose aussi des obligations pour les entreprises qui conçoivent, commercialisent et exploitent ces technologies. C’est précisément l’orientation défendue par les deux lois signées par Kathy Hochul.
James P. Steyer, fondateur et directeur général de Common Sense Media, a salué une avancée majeure pour la sécurité des enfants. L’organisation considère que les nouvelles restrictions pourraient servir de référence à d’autres États américains.
New York poursuit sa stratégie de régulation des technologies
Ces deux textes prolongent plusieurs initiatives déjà engagées par l’État de New York. Parmi elles figurent la loi SAFE for Kids, qui vise certaines fonctionnalités addictives des réseaux sociaux pour les mineurs, des mesures encadrant la collecte des données personnelles des enfants et la législation AI Companion, consacrée aux risques liés aux compagnons conversationnels.
L’État a également adopté le RAISE Act, consacré à la transparence et à la sécurité de certains modèles d’IA avancés, et pris des mesures contre les contenus d’abus sexuels sur enfants générés par l’intelligence artificielle. D’autres initiatives concernent l’usage des smartphones à l’école, la sensibilisation aux violences en ligne et la prévention des problèmes de santé mentale chez les jeunes.
Pour Letitia James, procureure générale de New York, les nouvelles lois établissent des limites juridiques destinées à prévenir les dommages potentiels liés aux chatbots, tout en permettant de poursuivre le développement d’une innovation sûre et responsable.
Une responsabilité qui dépasse la seule technologie
En s’attaquant à la fois aux interactions entre les enfants et les systèmes d’IA et aux vulnérabilités des objets connectés présents dans les foyers, New York adopte une approche qui associe sécurité numérique, protection de la vie privée et santé des mineurs.
La portée de ces lois dépendra notamment de leur application, de la capacité des autorités à contrôler le respect des obligations imposées et de l’efficacité réelle des dispositifs de protection.
Elles soulèvent aussi un enjeu plus large pour l’industrie de l’IA : la sécurité des enfants ne peut être considérée comme une simple fonctionnalité ajoutée après le développement d’un produit. Elle doit être intégrée dès sa conception, dans ses mécanismes techniques comme dans les choix relatifs aux interactions qu’il rend possibles.