Macron fordert Verbot von KI-Anwendungen, die Kindern schaden könnten

Der französische Präsident Emmanuel Macron sagt, KI-Anwendungen, die ein Risiko für Kinder darstellen, sollten verboten werden. Besonders besorgt ist er um ihre psychische Gesundheit. Seine Äußerungen erfolgen, während eine Expertenkommission Empfehlungen zu Schutzmaßnahmen vorbereitet und er strengere europäische Regeln für KI-Modelle fordert, die von Kindern genutzt werden.

„Wenn von bestimmten KI-Anwendungen eine Gefahr für Kinder ausgeht, müssen sie verboten werden“, sagte Macron der Zeitung Les Échos, wie Nieuws.nl berichtete. Im Interview nannte er den vorliegenden Bericht zufolge keine konkreten Anwendungen und schlug auch kein bestimmtes Verbot vor.

Macron sagte, die europäischen Regeln sollten vorschreiben, dass KI-Modelle geprüft werden, bevor Kinder sie nutzen können. Eine Expertenkommission soll ihm am Dienstag ihre Empfehlungen vorlegen.

Am Montag führte Macron eine Videokonferenz mit etwa 50 Teilnehmenden, darunter Regierungschefs und die KI-Unternehmer Sam Altman von OpenAI und Dario Amodei von Anthropic. Macron sagte, sie hätten sich unter anderem auf die Notwendigkeit unabhängiger Prüfer verständigt.