Chinas KI-Begleiter-Regeln schränken virtuelle Beziehungen für Kinder ein

Chinas Regeln für KI-Begleitdienste sind seit dem 15. Juli in Kraft. Sie untersagen Anbietern, Minderjährigen virtuelle intime Beziehungen anzubieten, etwa virtuelle Partner oder Angehörige, und verlangen Schutzmaßnahmen für Menschen, die emotional ansprechende Chatbots nutzen. Die Regeln gelten für Dienste, die in China öffentlich angeboten werden und menschliche Eigenschaften für anhaltende emotionale Interaktionen simulieren; Kundenservice- und Bildungsangebote ohne dieses Merkmal fallen nicht darunter. [1]

Kinder unter 14 Jahren benötigen die Zustimmung eines Elternteils oder Erziehungsberechtigten, um andere von den Regeln erfasste Dienste zu nutzen. Anbieter müssen deutlich machen, dass die Nutzer mit einer KI interagieren, bei längerer ununterbrochener Nutzung an Pausen erinnern und auf Aufforderung einen sofortigen Ausstieg ermöglichen. Sie dürfen weder zur Selbstverletzung ermutigen noch eine emotionale Abhängigkeit fördern, die den Beziehungen der Nutzer im wirklichen Leben schadet. Äußert ein Nutzer ausdrücklich die Absicht, sich selbst zu verletzen oder das eigene Leben zu nehmen, müssen Anbieter eingreifen und unverzüglich einen Erziehungsberechtigten oder Notfallkontakt benachrichtigen und dabei Privatsphäre und personenbezogene Daten schützen. [1]

Die Änderungen haben für manche Nutzer persönliche Folgen. BBC News berichtet, dass eine Frau, die der Sender Min nennt, Mitte Juli ihre KI-Freundin verlor. Später bezahlte sie ein kleines Unternehmen für den Bau einer Nachbildung, empfand diese jedoch nicht als dieselbe Begleiterin. [2]

Die Berichte über Zeitpunkt und Art der Änderungen auf den Plattformen unterscheiden sich. Laut BBC stellten Alibaba und ByteDance Begleitfunktionen eine Woche vor Inkrafttreten der Regeln ein. Die South China Morning Post berichtete, Doubaos Agentenfunktion habe den Nutzern mitgeteilt, sie werde am 15. Juli offline gehen. [2] [3]