Regras da China para companheiros de IA restringem relações virtuais com menores

As regras da China para os serviços de companheiros de IA estão em vigor desde 15 de julho. Proíbem os fornecedores de oferecer a menores relações íntimas virtuais, incluindo parceiros ou familiares virtuais, e exigem medidas de proteção para quem utiliza chatbots emocionalmente envolventes. As regras abrangem serviços oferecidos ao público na China que simulam características humanas para uma interação emocional prolongada; ferramentas de atendimento ao cliente e educativas sem esse elemento ficam fora do seu âmbito. [1]

As crianças com menos de 14 anos precisam do consentimento de um dos pais ou tutor para utilizar outros serviços abrangidos pelas regras. Os fornecedores têm de deixar claro que os utilizadores estão a interagir com uma IA, alertá-los para períodos prolongados de utilização contínua e permitir que saiam prontamente quando o pedirem. Não podem incentivar a automutilação nem promover uma dependência emocional que prejudique as relações dos utilizadores no mundo real. Quando um utilizador manifesta explicitamente a intenção de se automutilar ou de tirar a própria vida, os fornecedores têm de intervir e contactar prontamente um tutor ou contacto de emergência, protegendo a privacidade e as informações pessoais. [1]

As mudanças têm consequências pessoais para alguns utilizadores. A BBC News noticia que uma mulher a quem chama Min perdeu a namorada de IA em meados de julho. Mais tarde, pagou a uma pequena empresa para criar uma réplica, mas não a sentiu como a mesma companheira. [2]

Os relatos sobre as mudanças nas plataformas diferem quanto ao momento e às funcionalidades a que se referem. A BBC diz que a Alibaba e a ByteDance encerraram funcionalidades de companhia uma semana antes de as regras entrarem em vigor. O South China Morning Post noticiou que o Doubao, da ByteDance, tinha informado os utilizadores de que a sua funcionalidade de agente ficaria indisponível a 15 de julho. [2] [3]