USA : Anthropic met à jour sa politique d’utilisation de Claude pour tenir compte de l’évolution des capacités de ses modèles et des risques observés au cours de l’année écoulée.

Publié le 8 octobre, le nouveau cadre d’utilisation de Claude entrera en vigueur le 12 novembre 2026. Anthropic précise ses interdictions concernant les campagnes d’influence trompeuses, les armes et la surveillance, et détaille les exigences de supervision humaine pour les applications à haut risque.

Anthropic met à jour sa politique d’utilisation de Claude pour tenir compte de l’évolution des capacités de ses modèles et des risques observés au cours de l’année écoulée. L’entreprise cite notamment des usages liés aux opérations d’influence, au développement d’armes et à la surveillance.

Une nouvelle section regroupe les interdictions visant les campagnes trompeuses, qu’elles soient politiques ou commerciales. Elle couvre notamment la création de réseaux de faux comptes, la diffusion de contenus artificiels et les pratiques destinées à dissimuler l’identité des acteurs à l’origine d’un message.

Selon Anthropic, des médias d’État, des services de propagande gouvernementaux et des entreprises commerciales ont utilisé Claude pour mettre en place des réseaux de faux comptes et de faux sites d’information. Ces pratiques étaient déjà interdites, mais les règles correspondantes étaient auparavant réparties entre plusieurs sections de la politique.

Les règles électorales recentrées sur la protection du processus démocratique

La nouvelle version cible plus précisément les usages susceptibles de tromper les électeurs ou de perturber les élections. Elle interdit notamment la diffusion de fausses informations sur les candidats ou les modalités de vote, l’usurpation de l’identité de candidats ou de responsables électoraux, ainsi que les tentatives visant à décourager la participation.

Anthropic supprime parallèlement son interdiction générale du ciblage personnalisé des électeurs et des campagnes. Cette restriction pouvait englober des activités civiques légitimes, comme la traduction d’informations électorales par des associations ou l’envoi de notifications par les autorités électorales.

Les pratiques reposant sur la tromperie ou l’utilisation abusive de données personnelles restent toutefois interdites par les autres dispositions de la politique.

Armes et surveillance : des interdictions détaillées

Anthropic précise que l’interdiction de développer des armes avec Claude couvre également les logiciels et les composants qui permettent leur fonctionnement. Elle inclut notamment les actions visant à armer des drones ou d’autres véhicules autonomes.

La politique relative à la surveillance et à la justice pénale est également reformulée. Le suivi de personnes sans leur consentement est interdit, qu’il soit réalisé en temps réel ou à partir de données déjà collectées. Claude ne peut pas non plus être utilisé pour déterminer ou recommander qui devrait faire l’objet d’une enquête, d’une arrestation ou de poursuites.

L’entreprise interdit aussi l’utilisation de ses modèles pour construire ou améliorer des outils conçus pour la surveillance. Elle maintient néanmoins certaines utilisations autorisées, notamment le suivi consenti dans le cadre de la prévention de la fraude, la modération de contenus, le journalisme et la recherche juridique.

Anthropic présente ces changements comme une clarification des règles déjà appliquées, et non comme une modification de ses pratiques de contrôle.

La supervision humaine obligatoire dans les situations à haut risque

Pour les usages susceptibles d’affecter la santé, les droits juridiques, les finances, les moyens de subsistance ou l’accès aux services essentiels, Anthropic maintient deux exigences : la présence d’une personne qualifiée capable d’examiner et de modifier les recommandations de Claude, et l’information des personnes concernées sur l’utilisation de l’IA.

La mise à jour détaille davantage les catégories de recommandations soumises à ces obligations.

Elle introduit également des exigences spécifiques pour les modèles connectés à des équipements capables d’effectuer des actions physiques autonomes susceptibles de provoquer des blessures. Un opérateur qualifié doit pouvoir observer le dispositif et l’arrêter si nécessaire. L’équipement doit en outre pouvoir rester dans un état sûr si Claude est déconnecté.

Les comportements abusifs envers les modèles d’Anthropic sont encadrés

La nouvelle politique interdit les comportements durablement cruels ou abusifs envers les modèles lorsqu’ils sont répétés, inutiles et dépourvus de finalité discernable. Anthropic précise que cette disposition vise uniquement des situations extrêmes.

La frustration ordinaire, les critiques adressées au modèle, les thèmes sombres dans la création ou les activités de test et de recherche ne sont pas concernés. Cette règle s’inscrit dans la continuité d’un mécanisme permettant déjà à Claude.ai et Claude Code de mettre fin à certaines conversations marquées par des abus persistants.

L’entreprise clarifie enfin ses restrictions géographiques. L’utilisation de Claude est interdite aux personnes physiquement situées dans une région non prise en charge, aux entités qui y sont établies ou dont le siège s’y trouve, ainsi qu’à certaines organisations majoritairement détenues ou contrôlées par des personnes ou entités de ces régions.

Une politique appelée à évoluer avec les capacités des modèles

Anthropic indique que sa politique continuera d’évoluer au rythme des capacités de Claude et des risques associés. L’entreprise prévoit de poursuivre ses consultations avec les responsables publics, les experts, la société civile et les utilisateurs.

La nouvelle version entrera en vigueur le 12 novembre 2026. Elle met en évidence plusieurs enjeux de gouvernance de l’IA : empêcher les manipulations à grande échelle, limiter les usages de surveillance et maintenir un contrôle humain lorsque les décisions ou les actions automatisées peuvent avoir des conséquences importantes pour les personnes.