Anthropic untersagt Berichten zufolge anhaltendes missbräuchliches Verhalten gegenüber Claude und anderen KI-Modellen

Anthropic hat seine Nutzungsrichtlinie geändert und darin anhaltende, unnötige Beleidigungen oder Grausamkeiten gegenüber seinen KI-Modellen, darunter Claude, verboten. Das geht aus einem ANP/AFP-Bericht hervor, den Nieuws.nl übernommen hat [1].

Die Richtlinie bezieht sich nicht ausdrücklich auf „model welfare“, heißt es in dem Bericht. Anthropic-Chef Dario Amodei sagte der New York Times im Februar, er sei sich nicht sicher, ob KI-Modelle Bewusstsein haben könnten, das Unternehmen stehe dieser Möglichkeit aber offen gegenüber, so ANP/AFP.

Das Unternehmen hatte zuvor angekündigt, Claude könne in seltenen, extremen Fällen anhaltender schädlicher oder missbräuchlicher Interaktionen Gespräche beenden, berichteten die Nachrichtenagenturen. Diese Maßnahme wurde als Möglichkeit für Claude beschrieben; die nun gemeldete Änderung der Richtlinie betrifft das Verhalten der Nutzer gegenüber Anthropics Modellen.