Anthropic verbiedt naar verluidt aanhoudend misbruik van Claude en andere AI-modellen

Anthropic heeft zijn gebruiksbeleid aangepast en verbiedt nu aanhoudende en onnodige beledigingen of wreedheid tegenover zijn AI-modellen, waaronder Claude, volgens een ANP/AFP-bericht dat door Nieuws.nl is overgenomen [1].

Het beleid verwijst niet expliciet naar ‘welzijn van modellen’, meldt het bericht. Anthropic-topman Dario Amodei zei in februari tegen The New York Times dat hij niet wist of AI-modellen bewustzijn konden hebben, maar dat het bedrijf openstond voor die mogelijkheid, aldus ANP/AFP.

Het bedrijf had eerder aangekondigd dat Claude gesprekken zou kunnen beëindigen in zeldzame, extreme gevallen van aanhoudende schadelijke of beledigende interacties, meldden de persbureaus. Die maatregel werd beschreven als een optie voor Claude; de nieuw gemelde beleidswijziging gaat over het gedrag van gebruikers tegenover de modellen van Anthropic.