Tous les articles d’actualité
CatégorieTECHGuerre
RégionsUSAMONDE
ContinentsAmérique du Nord
SujetsAutres conflits
AI-generated editorial illustration based on the published article topic; not a documentary photograph.

Selon CNN, l’accent mis par Anthropic sur la sécurité de l’IA trouve ses racines dans les liens de ses fondateurs avec l’altruisme efficace

Chargement des statistiques…

Selon CNN, l’approche d’Anthropic qui donne la priorité à la sécurité reflète les liens de ses fondateurs avec l’altruisme efficace et le long-termisme, alors que l’entreprise se prépare à une entrée en Bourse très médiatisée sur le Nasdaq.

Chargement des informations de révision.

Selon CNN, l’identité d’Anthropic, qui place la sécurité au premier plan, trouve ses racines dans les liens de ses fondateurs avec l’altruisme efficace et le long-termisme, alors que l’entreprise d’IA s’apprête à commencer à être cotée au Nasdaq cette semaine, avec une valorisation visée de 1,4 billion de dollars.

Ces deux idées contribuent à expliquer pourquoi Anthropic place les menaces existentielles liées à l’intelligence artificielle au cœur de son image publique, affirme CNN. L’altruisme efficace consiste à s’appuyer sur les faits et le raisonnement pour maximiser l’impact des dons caritatifs. Le long-termisme considère le bien-être des générations futures comme une priorité morale majeure.

Selon CNN, le prospectus d’Anthropic mentionne la sécurité plus de 250 fois. L’entreprise est constituée en société d’intérêt public, une structure qui l’oblige à concilier les intérêts des actionnaires et le bien-être du public. Elle a averti à plusieurs reprises que l’IA avancée pourrait présenter des risques catastrophiques, tout en faisant valoir que cette technologie pourrait aussi apporter des avantages considérables.

Les liens des fondateurs avec le mouvement

Le directeur général Dario Amodei figurait parmi les premiers signataires de l’engagement Giving What We Can, promettant de donner au moins 10 % de ses revenus. En 2010, il a écrit avoir versé 10 000 dollars par l’intermédiaire de GiveWell, un évaluateur d’organismes caritatifs proche de l’altruisme efficace.

Amodei s’est décrit par la suite comme sensible à l’altruisme efficace, mais opposé à diviser les gens en tribus, rapporte CNN. Sa sœur et cofondatrice, Daniela Amodei, présidente d’Anthropic, a déclaré qu’elle ne se reconnaissait pas dans cette étiquette. D’autres personnes liées à l’entreprise entretiennent des liens plus étroits avec le mouvement : son mari, Holden Karnofsky, a rejoint l’équipe chargée de la sécurité d’Anthropic en 2025, tandis que la philosophe Amanda Askell a contribué à des publications sur l’altruisme efficace.

Certains des premiers investisseurs venaient également de ces milieux. Sam Bankman-Fried a investi 500 millions de dollars dans Anthropic en 2021, avant l’effondrement de sa plateforme d’échange de cryptomonnaies FTX. Selon CNN, l’investisseur des débuts Dustin Moskovitz et son épouse ont consacré des milliards de dollars à des causes proches de l’altruisme efficace.

Anthropic a refusé de commenter auprès de CNN, qui précise que l’entreprise se trouvait dans une période de silence obligatoire avant son entrée en Bourse.

Le débat sur le contrôle de l’IA

Les critiques de l’altruisme efficace estiment que l’importance accordée au calcul du bien social peut faire oublier la complexité de la société humaine. Le philosophe de Stanford Leif Wenar, critique éminent du mouvement, a déclaré à CNN craindre que l’on s’en remette au jugement de dirigeants convaincus d’être les seuls à pouvoir sauver le monde de technologies qu’ils ont contribué à créer.

Cet argument prend un relief particulier alors qu’Anthropic fait son entrée sur les marchés publics : selon CNN, les fondateurs de l’entreprise conserveront la majorité des droits de vote attachés à ses actions. L’entreprise présente la sécurité comme un élément central de sa mission, tout en mettant en avant le potentiel de l’IA pour relever des défis tels que la maladie.

Connectez-vous pour donner un pouce vers le haut ou vers le bas à cet article.

À propos de cette discussion et des questions sur l’IA

Discussion de test privée. Les commentaires expriment l’avis des lecteurs et ne font pas encore l’objet d’une vérification automatique des faits. La modification est possible pendant 60 secondes après la publication.

Connectez-vous avec un compte lecteur confirmé et choisissez un nom d’utilisateur pour lire les commentaires et participer.

Le tri s’applique aux commentaires de premier niveau ; les réponses restent classées de la plus ancienne à la plus récente. Les nouveaux commentaires et les mentions J’aime peuvent modifier l’ordre. Actualisez pour voir le classement actuel.

Chargement des commentaires…