Правила Китаю щодо ШІ-компаньйонів обмежують віртуальні стосунки для дітей

Правила Китаю щодо сервісів ШІ-компаньйонів набули чинності 15 липня. Вони забороняють постачальникам пропонувати неповнолітнім віртуальні інтимні стосунки, зокрема з віртуальними партнерами чи родичами, і вимагають запроваджувати заходи захисту для людей, які користуються чатботами, здатними викликати сильне емоційне залучення. Правила поширюються на сервіси, доступні широкому загалу в Китаї, які імітують людські риси для тривалої емоційної взаємодії; інструменти обслуговування клієнтів і навчальні інструменти без цієї ознаки до їхньої сфери дії не належать. [1]

Дітям до 14 років потрібна згода одного з батьків або опікуна, щоб користуватися іншими сервісами, охопленими правилами. Постачальники мають чітко повідомляти, що користувачі взаємодіють зі ШІ, нагадувати про тривале безперервне користування та на вимогу забезпечувати можливість негайно припинити взаємодію. Їм заборонено заохочувати самоушкодження або сприяти емоційній залежності, яка шкодить реальним стосункам користувачів. Якщо користувач прямо висловлює намір завдати собі шкоди або покінчити з життям, постачальники мають втрутитися та оперативно зв’язатися з опікуном або контактною особою на випадок надзвичайної ситуації, водночас захищаючи приватність і персональні дані. [1]

Для деяких користувачів ці зміни мають особисті наслідки. BBC News повідомляє, що в середині липня жінка, названа виданням Мінь, втратила свою ШІ-дівчину. Згодом вона заплатила невеликій компанії за створення її копії, але не відчула, що це той самий компаньйон. [2]

Повідомлення про зміни на платформах різняться щодо часу й описаних функцій. BBC пише, що Alibaba і ByteDance вимкнули функції компаньйонів за тиждень до набуття правил чинності. South China Morning Post повідомила, що Doubao від ByteDance попередив користувачів: його функцію агента буде вимкнено 15 липня. [2] [3]