Anthropic teria proibido abusos persistentes contra Claude e outros modelos de IA

A Anthropic revisou sua política de uso para proibir insultos ou crueldade persistentes e desnecessários dirigidos a seus modelos de IA, incluindo Claude, segundo uma reportagem da ANP/AFP publicada pelo Nieuws.nl [1].

A política não menciona explicitamente o “bem-estar dos modelos”, diz a reportagem. O diretor-executivo da Anthropic, Dario Amodei, disse ao The New York Times em fevereiro que não tinha certeza se modelos de IA poderiam ser conscientes, mas que a empresa estava aberta a essa possibilidade, segundo a ANP/AFP.

A empresa havia anunciado anteriormente que Claude poderia encerrar conversas em casos raros e extremos de interações nocivas ou abusivas persistentes, informaram as agências. Essa medida foi descrita como uma opção para Claude; a mudança de política noticiada agora trata do comportamento dos usuários em relação aos modelos da Anthropic.