Las normas de China sobre compañeros de IA restringen las relaciones virtuales para menores

Las normas chinas para los servicios de compañía mediante IA están en vigor desde el 15 de julio. Prohíben a los proveedores ofrecer a menores relaciones íntimas virtuales, como parejas o familiares virtuales, y exigen medidas de protección para quienes utilizan chatbots con capacidad para generar vínculos emocionales. Las normas se aplican a los servicios ofrecidos al público en China que simulan rasgos humanos para mantener una interacción emocional; quedan fuera de su ámbito las herramientas de atención al cliente y educativas que no tengan esa característica. [1]

Los menores de 14 años necesitan el consentimiento de su padre, madre o tutor para utilizar otros servicios incluidos en las normas. Los proveedores deben dejar claro que los usuarios interactúan con una IA, recordarles que eviten periodos prolongados de uso ininterrumpido y permitirles salir de inmediato cuando lo soliciten. No deben alentar las autolesiones ni fomentar una dependencia emocional que perjudique las relaciones de los usuarios en el mundo real. Cuando un usuario expresa explícitamente la intención de autolesionarse o quitarse la vida, los proveedores deben intervenir y ponerse rápidamente en contacto con su tutor o contacto de emergencia, protegiendo al mismo tiempo la privacidad y la información personal. [1]

Los cambios tienen consecuencias personales para algunos usuarios. BBC News informa de que una mujer a la que llama Min perdió a su novia de IA a mediados de julio. Más tarde pagó a una pequeña empresa para que construyera una réplica, pero no la sintió como la misma compañera. [2]

Los relatos sobre los cambios en las plataformas difieren en cuanto a los plazos y las funciones que describen. La BBC afirma que Alibaba y ByteDance cerraron sus funciones de compañía una semana antes de que entraran en vigor las normas. El South China Morning Post informó de que Doubao, de ByteDance, había comunicado a los usuarios que su función de agente dejaría de estar disponible el 15 de julio. [2] [3]