Anthropic terá proibido comportamentos abusivos persistentes dirigidos a Claude e a outros modelos de IA

A Anthropic reviu a sua política de utilização para proibir insultos ou crueldade persistentes e desnecessários dirigidos aos seus modelos de IA, incluindo Claude, segundo uma notícia da ANP/AFP publicada pelo Nieuws.nl [1].

A notícia diz que a política não se refere explicitamente ao «bem-estar dos modelos». Em fevereiro, o diretor executivo da Anthropic, Dario Amodei, disse ao The New York Times que não tinha a certeza de que os modelos de IA pudessem ser conscientes, mas que a empresa estava aberta a essa possibilidade, segundo a ANP/AFP.

A empresa tinha anunciado anteriormente que Claude poderia terminar conversas em casos raros e extremos de interações prejudiciais ou abusivas persistentes, noticiaram as agências. Essa medida foi descrita como uma opção para Claude; a alteração de política agora noticiada diz respeito ao comportamento dos utilizadores em relação aos modelos da Anthropic.