Regras da China para companheiros de IA restringem relações virtuais para crianças

As regras da China para serviços de companheiros de IA estão em vigor desde 15 de julho. Elas proíbem os provedores de oferecer a menores relações íntimas virtuais, inclusive com parceiros ou parentes virtuais, e exigem medidas de proteção para pessoas que usam chatbots emocionalmente envolventes. As regras abrangem serviços oferecidos ao público na China que simulam características humanas para interação emocional prolongada; ferramentas de atendimento ao cliente e de educação sem esse elemento ficam fora de seu escopo. [1]

Crianças com menos de 14 anos precisam do consentimento de um dos pais ou responsável para usar outros serviços abrangidos pelas regras. Os provedores devem deixar claro que os usuários estão interagindo com uma IA, avisá-los sobre períodos prolongados de uso contínuo e permitir que saiam prontamente quando solicitarem. Não devem incentivar a automutilação nem promover dependência emocional que prejudique as relações dos usuários no mundo real. Quando um usuário expressa explicitamente a intenção de se automutilar ou tirar a própria vida, os provedores devem intervir e entrar prontamente em contato com um responsável ou contato de emergência, protegendo a privacidade e as informações pessoais. [1]

As mudanças têm consequências pessoais para alguns usuários. A BBC News relata que uma mulher a quem chama de Min perdeu sua namorada de IA em meados de julho. Mais tarde, ela pagou uma pequena empresa para criar uma réplica, mas não a vivenciou como a mesma companheira. [2]

Os relatos sobre as mudanças nas plataformas diferem quanto ao momento e aos recursos descritos. A BBC afirma que Alibaba e ByteDance desativaram recursos de companheiros uma semana antes de as regras entrarem em vigor. O South China Morning Post noticiou que o Doubao, da ByteDance, havia informado aos usuários que seu recurso de agente ficaria indisponível em 15 de julho. [2] [3]