Chinese regels voor AI-companions beperken virtuele relaties voor kinderen

China’s regels voor AI-companions zijn sinds 15 July van kracht. Aanbieders mogen minderjarigen geen virtuele intieme relaties aanbieden, zoals virtuele partners of familieleden, en moeten waarborgen treffen voor mensen die emotioneel aansprekende chatbots gebruiken. De regels gelden voor diensten die in China aan het publiek worden aangeboden en menselijke eigenschappen nabootsen voor langdurige emotionele interactie; klantenservice- en onderwijsprogramma’s zonder dat element vallen erbuiten. [1]

Kinderen jonger dan 14 hebben toestemming van een ouder of voogd nodig om andere diensten te gebruiken die onder de regels vallen. Aanbieders moeten duidelijk maken dat gebruikers met AI communiceren, hen waarschuwen voor lange perioden van onafgebroken gebruik en hen op verzoek meteen laten stoppen. Ze mogen zelfbeschadiging niet aanmoedigen en mogen geen emotionele afhankelijkheid bevorderen die de relaties van gebruikers in de echte wereld schaadt. Wanneer een gebruiker uitdrukkelijk aangeeft zichzelf iets aan te willen doen of een einde aan het eigen leven te willen maken, moeten aanbieders ingrijpen en snel contact opnemen met een ouder, voogd of contactpersoon voor noodgevallen, met bescherming van de privacy en persoonsgegevens. [1]

De veranderingen hebben persoonlijke gevolgen voor sommige gebruikers. BBC News bericht dat een vrouw die de omroep Min noemt, halverwege July haar AI-vriendin verloor. Later betaalde ze een klein bedrijf om een replica te bouwen, maar die voelde voor haar niet als dezelfde metgezel. [2]

Berichten over veranderingen bij platforms verschillen in timing en in de beschreven functies. Volgens de BBC schakelden Alibaba en ByteDance hun companion-functies uit een week voordat de regels van kracht werden. De South China Morning Post meldde dat ByteDance’s Doubao gebruikers had laten weten dat de agentfunctie op 15 July offline zou gaan. [2] [3]