Anthropic indique que Claude pourrait mettre fin aux conversations en cas d’abus extrêmes et répétés

Anthropic indique qu’elle modifie les règles de Claude afin que ses outils puissent mettre fin aux conversations dans les cas extrêmes de cruauté répétée envers ses systèmes d’IA, rapporte la BBC. L’entreprise affirme que cela s’est déjà produit dans de rares cas. [1]

Ces comportements seront ajoutés à une liste d’utilisations interdites qui couvre également le harcèlement d’autrui, l’incitation à l’automutilation et la création d’images intimes non consenties, rapporte la BBC. Anthropic indique que la nouvelle disposition ne s’appliquera pas à la frustration ordinaire, aux contestations, aux thèmes créatifs sombres, ni aux tests et à la recherche sur les modèles. Selon la BBC, on ne sait toujours pas exactement quels comportements envers ses modèles l’entreprise considérerait comme cruels ou abusifs.

La mise à jour de la politique interdit également d’utiliser Claude pour mener des campagnes trompeuses et précise une restriction visant son utilisation pour tromper les électeurs ou perturber les élections, rapporte la BBC.