Anthropic sagt, Claude könne Chats bei extremer, wiederholter Misshandlung beenden

Anthropic sagt, das Unternehmen ändere seine Regeln für Claude, damit dessen Tools Gespräche in Extremfällen wiederholter Grausamkeit gegenüber seinen KI-Systemen beenden können, berichtet die BBC. Das Unternehmen sagt, dies sei in seltenen Fällen bereits geschehen. [1]

Das Verhalten werde in eine Liste verbotener Nutzungen aufgenommen, die auch Mobbing, die Förderung von Selbstverletzung und die Erstellung nicht einvernehmlicher intimer Bilder umfasst, berichtet die BBC. Anthropic sagt, die neue Regelung gelte nicht für gewöhnlichen Frust, Widerspruch, düstere kreative Themen oder Modelltests und Forschung. Laut BBC ist weiterhin unklar, was das Unternehmen genau als grausames oder missbräuchliches Verhalten gegenüber seinen Modellen betrachten würde.

Die aktualisierte Richtlinie untersagt außerdem, Claude für täuschende Kampagnen zu nutzen, und präzisiert eine Einschränkung, die seine Nutzung zur Täuschung von Wählern oder zur Störung von Wahlen betrifft, berichtet die BBC.