
Foco da Anthropic na segurança da IA está ligado às relações dos fundadores com o altruísmo eficaz, noticia a CNN
A abordagem da Anthropic, que dá prioridade à segurança, reflete as ligações dos fundadores ao altruísmo eficaz e ao longoprazismo, noticia a CNN, numa altura em que a empresa se prepara para uma estreia de grande visibilidade na Nasdaq.
A carregar informação de revisão.
A identidade da Anthropic, centrada na segurança, está enraizada nas ligações dos seus fundadores ao altruísmo eficaz e ao longoprazismo, noticia a CNN, numa altura em que a empresa de IA se prepara para começar a negociar na Nasdaq esta semana, com uma avaliação visada de 1,4 biliões de dólares.
As duas ideias ajudam a explicar por que razão a Anthropic coloca as ameaças existenciais da inteligência artificial no centro da sua imagem pública, diz a CNN. O altruísmo eficaz centra-se na utilização de provas e raciocínio para maximizar o impacto das doações para caridade. O longoprazismo considera o bem-estar das gerações futuras uma prioridade moral importante.
O prospeto da Anthropic menciona a segurança mais de 250 vezes, segundo a CNN, e a empresa está constituída como uma sociedade de benefício público, que tem de equilibrar os interesses dos acionistas com o bem-estar público. A empresa tem alertado repetidamente para os riscos catastróficos que a IA avançada pode representar, ao mesmo tempo que defende que a tecnologia pode trazer benefícios substanciais.
Ligações dos fundadores ao movimento
O diretor executivo, Dario Amodei, foi um dos primeiros signatários do compromisso Giving What We Can, prometendo doar pelo menos 10% do seu rendimento, e escreveu em 2010 sobre uma doação de 10 000 dólares através da GiveWell, uma avaliadora de instituições de caridade alinhada com o altruísmo eficaz.
Mais tarde, Amodei descreveu-se como simpatizante do altruísmo eficaz, mas contrário à divisão das pessoas em tribos, noticiou a CNN. A irmã e cofundadora, Daniela Amodei, presidente da Anthropic, disse que não se identifica com o rótulo. Outras pessoas ligadas à empresa têm relações mais estreitas com o movimento: Holden Karnofsky, marido de Daniela, integrou a equipa de segurança da Anthropic em 2025, enquanto a filósofa Amanda Askell contribuiu para publicações sobre altruísmo eficaz.
Alguns dos primeiros investidores também provinham desses círculos. Sam Bankman-Fried canalizou 500 milhões de dólares para a Anthropic em 2021, antes do colapso da sua bolsa de criptomoedas, a FTX. O investidor inicial Dustin Moskovitz e a mulher canalizaram milhares de milhões de dólares para causas alinhadas com o altruísmo eficaz, noticia a CNN.
A Anthropic recusou comentar à CNN, que afirmou que a empresa se encontrava num período de silêncio obrigatório antes da estreia em bolsa.
Debate sobre quem deve controlar a IA
Os críticos do altruísmo eficaz argumentam que a sua ênfase no cálculo do bem social pode ignorar a complexidade da sociedade humana. Leif Wenar, filósofo de Stanford e crítico destacado do movimento, disse à CNN que receava que se dependesse do juízo de líderes convencidos de que só eles podem salvar o mundo da tecnologia que ajudaram a criar.
O debate ganha particular relevância à medida que a Anthropic entra nos mercados públicos: os fundadores da empresa manterão o controlo da maioria das ações com direito de voto, noticia a CNN. A empresa apresentou a segurança como central para a sua missão, ao mesmo tempo que promove o potencial da IA para enfrentar desafios como as doenças.
Inicie sessão para votar a favor ou contra este artigo.
Sobre esta discussão e as perguntas à IA
Debate de teste privado. Os comentários são opiniões dos leitores e ainda não são verificados automaticamente quanto à sua veracidade. É possível editar durante 60 segundos após a publicação.
A ordenação aplica-se aos comentários principais; as respostas continuam ordenadas do mais antigo para o mais recente. Novos comentários e gostos podem alterar a ordem. Atualize a página para ver a classificação atual.
A carregar comentários…