Anthropic zegt dat Claude gesprekken kan beëindigen bij extreem, herhaald misbruik
Het bedrijf zegt dat de wijziging gericht is op extreem, herhaald misbruik van zijn AI-systemen, niet op gewone frustratie of het testen van modellen.
Beoordelingsinformatie wordt opgehaald.
Anthropic zegt dat het de regels voor Claude aanpast, zodat de tools gesprekken kunnen beëindigen in extreme gevallen van herhaalde wreedheid tegenover zijn AI-systemen, meldt de BBC. Volgens het bedrijf is dit al in zeldzame gevallen gebeurd. [1]
Het gedrag wordt toegevoegd aan een lijst met verboden toepassingen, waarop ook anderen pesten, zelfbeschadiging aanmoedigen en intieme beelden zonder toestemming maken staan, meldt de BBC. Anthropic zegt dat de nieuwe bepaling niet geldt voor gewone frustratie, tegengeluid, duistere creatieve thema's of het testen en onderzoeken van modellen. Volgens de BBC is nog onduidelijk wat het bedrijf precies als wreed of beledigend gedrag tegenover zijn modellen zou beschouwen.
De beleidsupdate verbiedt ook het gebruik van Claude voor misleidende campagnes en verduidelijkt een beperking op het gebruik ervan om kiezers te misleiden of verkiezingen te verstoren, meldt de BBC.
Log in om dit artikel een duimpje omhoog of omlaag te geven.
Over deze discussie en AI-vragen
Besloten testdiscussie. Reacties zijn meningen van lezers en worden nog niet automatisch op feiten gecontroleerd. Bewerken kan tot 60 seconden na plaatsing.
De volgorde geldt voor hoofdreacties; antwoorden staan daaronder van oud naar nieuw. Nieuwe reacties en likes kunnen de volgorde wijzigen. Ververs voor de actuele rangschikking.
Reacties laden…