Alle nieuwsartikelen
CategorieTECHOorlog
Regio’sUSAWERELD
WerelddelenNoord-Amerika
OnderwerpenOverige conflicten
AI-generated editorial illustration based on the published article topic; not a documentary photograph.

Focus op AI-veiligheid bij Anthropic geworteld in banden van oprichters met effectief altruïsme, meldt CNN

Statistieken laden…

De veiligheidsgerichte aanpak van Anthropic weerspiegelt de banden van de oprichters met effectief altruïsme en langetermijndenken, meldt CNN, terwijl het bedrijf zich voorbereidt op een veelbesproken beursgang aan de Nasdaq.

Beoordelingsinformatie wordt opgehaald.

De veiligheidsgerichte identiteit van Anthropic is geworteld in de banden van de oprichters met effectief altruïsme en langetermijndenken, meldt CNN. Het AI-bedrijf bereidt zich voor om deze week aan de Nasdaq te beginnen met een beoogde waardering van $1,4 biljoen.

De twee ideeën helpen verklaren waarom Anthropic existentiële dreigingen van kunstmatige intelligentie centraal stelt in zijn publieke imago, aldus CNN. Effectief altruïsme draait om het gebruik van bewijs en redenering om de impact van liefdadigheidsgiften te maximaliseren. Langetermijndenken beschouwt het welzijn van toekomstige generaties als een belangrijke morele prioriteit.

Het prospectus van Anthropic noemt veiligheid volgens CNN meer dan 250 keer. Het bedrijf is een vennootschap met een maatschappelijk doel, die de belangen van aandeelhouders moet afwegen tegen het algemeen welzijn. Het heeft herhaaldelijk gewaarschuwd dat geavanceerde AI catastrofale risico’s kan opleveren, maar stelt ook dat de technologie aanzienlijke voordelen kan brengen.

Banden van de oprichters met de beweging

Topman Dario Amodei was een van de eerste ondertekenaars van de belofte van Giving What We Can om ten minste 10% van zijn inkomen te doneren. In 2010 schreef hij over een gift van $10.000 aan GiveWell, een beoordelaar van goede doelen die verbonden is met effectief altruïsme.

Amodei omschreef zichzelf later als iemand die sympathie heeft voor effectief altruïsme, maar tegen het indelen van mensen in kampen is, meldde CNN. Zijn zus en medeoprichter, Anthropic-president Daniela Amodei, heeft gezegd dat zij zich niet met het label identificeert. Anderen die met het bedrijf verbonden zijn, hebben nauwere banden: haar man, Holden Karnofsky, trad in 2025 toe tot het veiligheidsteam van Anthropic, terwijl filosoof Amanda Askell heeft bijgedragen aan publicaties over effectief altruïsme.

Sommige vroege investeerders kwamen ook uit die kringen. Sam Bankman-Fried investeerde in 2021 $500 miljoen in Anthropic, voordat zijn cryptobeurs FTX instortte. Vroege investeerder Dustin Moskovitz en zijn vrouw hebben volgens CNN miljarden dollars besteed aan doelen die aansluiten bij effectief altruïsme.

Anthropic wilde tegenover CNN geen commentaar geven. CNN meldde dat het bedrijf voorafgaand aan zijn beursgang verplicht in een stille periode zat.

Debat over wie AI moet beheersen

Critici van effectief altruïsme stellen dat de nadruk op het berekenen van maatschappelijk nut voorbij kan gaan aan de complexiteit van de menselijke samenleving. De Stanford-filosoof Leif Wenar, een prominente criticus van de beweging, zei tegen CNN dat hij zich zorgen maakte over het vertrouwen op het oordeel van leiders die geloven dat alleen zij de wereld kunnen redden van technologie die ze zelf hebben helpen ontwikkelen.

Die discussie weegt bijzonder zwaar nu Anthropic de openbare markten betreedt: de oprichters van het bedrijf behouden volgens CNN de meerderheid van de stemgerechtigde aandelen. Het bedrijf heeft veiligheid als centraal onderdeel van zijn missie gepresenteerd en tegelijk het potentieel van AI aangeprezen om uitdagingen zoals ziekte aan te pakken.

Log in om dit artikel een duimpje omhoog of omlaag te geven.

Over deze discussie en AI-vragen

Besloten testdiscussie. Reacties zijn meningen van lezers en worden nog niet automatisch op feiten gecontroleerd. Bewerken kan tot 60 seconden na plaatsing.

Log in met een bevestigd lezersaccount en stel je gebruikersnaam in om reacties te lezen en deel te nemen.

De volgorde geldt voor hoofdreacties; antwoorden staan daaronder van oud naar nieuw. Nieuwe reacties en likes kunnen de volgorde wijzigen. Ververs voor de actuele rangschikking.

Reacties laden…