Les règles chinoises sur les compagnons IA limitent les relations virtuelles pour les enfants

Les règles chinoises encadrant les services de compagnons IA sont en vigueur depuis le 15 juillet. Elles interdisent aux fournisseurs de proposer aux mineurs des relations intimes virtuelles, notamment avec des partenaires ou des proches virtuels, et leur imposent des mesures de protection pour les personnes utilisant des chatbots favorisant les échanges affectifs. Elles s’appliquent aux services proposés au public en Chine qui simulent des caractéristiques humaines pour permettre des interactions émotionnelles durables ; les outils de service client et d’éducation qui ne présentent pas cette caractéristique en sont exclus. [1]

Les enfants de moins de 14 ans doivent obtenir le consentement d’un parent ou d’un tuteur pour utiliser les autres services visés par les règles. Les fournisseurs doivent préciser que les utilisateurs interagissent avec une IA, les avertir lorsqu’ils utilisent le service sans interruption pendant une période prolongée et leur permettre de quitter rapidement le service lorsqu’ils le demandent. Ils ne doivent ni encourager l’automutilation ni favoriser une dépendance affective qui nuit aux relations des utilisateurs dans la vie réelle. Lorsqu’un utilisateur exprime explicitement l’intention de s’automutiler ou de se suicider, les fournisseurs doivent intervenir et contacter rapidement un parent, un tuteur ou une personne à joindre en cas d’urgence, tout en protégeant la vie privée et les données personnelles. [1]

Ces changements ont des conséquences personnelles pour certains utilisateurs. BBC News rapporte qu’une femme qu’elle désigne sous le nom de Min a perdu sa petite amie IA à la mi-juillet. Elle a ensuite payé une petite entreprise pour en créer une réplique, mais n’a pas eu l’impression de retrouver la même compagne. [2]

Les récits des changements apportés aux plateformes divergent quant au calendrier et aux fonctionnalités concernées. La BBC indique qu’Alibaba et ByteDance ont désactivé des fonctionnalités de compagnon une semaine avant l’entrée en vigueur des règles. Le South China Morning Post rapporte que Doubao, le service de ByteDance, avait indiqué à ses utilisateurs que sa fonctionnalité d’agent serait mise hors ligne le 15 juillet. [2] [3]