
CNN повідомляє: увага Anthropic до безпеки ШІ ґрунтується на зв’язках засновників з ефективним альтруїзмом
Підхід Anthropic, у якому безпека на першому місці, відображає зв’язки засновників з ефективним альтруїзмом і лонгтермізмом, повідомляє CNN, тоді як компанія готується до гучного дебюту на Nasdaq.
Завантаження інформації про перевірку.
Ідентичність Anthropic як компанії, для якої безпека на першому місці, ґрунтується на зв’язках її засновників з ефективним альтруїзмом і лонгтермізмом, повідомляє CNN, тоді як компанія зі сфери ШІ готується цього тижня почати торгівлю на Nasdaq із цільовою оцінкою в $1,4 трлн.
За словами CNN, ці дві ідеї допомагають зрозуміти, чому Anthropic ставить екзистенційні загрози з боку штучного інтелекту в центр свого публічного образу. Ефективний альтруїзм зосереджений на використанні доказів і міркувань, щоб максимізувати вплив благодійних пожертв. Лонгтермізм розглядає добробут майбутніх поколінь як важливий моральний пріоритет.
За даними CNN, у проспекті Anthropic слово «безпека» згадується понад 250 разів, а компанія має статус корпорації суспільної користі, яка повинна балансувати між інтересами акціонерів і суспільним добробутом. Компанія неодноразово попереджала, що передовий ШІ може становити катастрофічні ризики, водночас стверджуючи, що ця технологія здатна принести значну користь.
Зв’язки засновників із рухом
Генеральний директор Даріо Амодеї був серед перших підписантів обіцянки Giving What We Can, пообіцявши жертвувати щонайменше 10% своїх доходів, а в 2010 році написав про пожертву в розмірі $10 000 через GiveWell — оцінювача благодійних організацій, пов’язаного з ефективним альтруїзмом.
Пізніше Амодеї назвав себе прихильним до ефективного альтруїзму, але виступив проти поділу людей на племена, повідомляє CNN. Його сестра й співзасновниця, президентка Anthropic Даніела Амодеї, заявляла, що не ототожнює себе з цим ярликом. Інші пов’язані з компанією люди мають тісніші зв’язки з рухом: її чоловік Голден Карнофскі приєднався до команди з безпеки Anthropic у 2025 році, а філософка Аманда Аскелл публікувалася у виданнях, пов’язаних з ефективним альтруїзмом.
Деякі перші інвестори також походили з цих кіл. Сем Бенкман-Фрід спрямував $500 млн в Anthropic у 2021 році — до краху своєї криптовалютної біржі FTX. За повідомленням CNN, ранній інвестор Дастін Московіц і його дружина спрямували мільярди доларів на цілі, пов’язані з ефективним альтруїзмом.
Anthropic відмовилася коментувати ситуацію для CNN, яка повідомила, що перед виходом компанії на фондовий ринок діяв обов’язковий період мовчання.
Дискусія про те, хто має контролювати ШІ
Критики ефективного альтруїзму стверджують, що зосередженість руху на обчисленні суспільного блага може ігнорувати складність людського суспільства. Стенфордський філософ Лейф Венар, відомий критик руху, сказав CNN, що його непокоїть опора на судження лідерів, які вважають, що лише вони можуть врятувати світ від технологій, які самі допомогли створити.
Ця суперечка набуває особливої ваги, коли Anthropic виходить на публічні ринки: засновники компанії збережуть контрольний пакет її голосуючих акцій, повідомляє CNN. Компанія представляє безпеку як центральну складову своєї місії, водночас наголошуючи на потенціалі ШІ допомагати розв’язувати такі проблеми, як хвороби.
Увійдіть, щоб оцінити цю статтю позитивно або негативно.
Про це обговорення та запитання до ШІ
Приватне тестове обговорення. Коментарі відображають погляди читачів і поки що не проходять автоматичну перевірку фактів. Редагувати коментар можна протягом 60 секунд після публікації.
Сортування застосовується до коментарів верхнього рівня; відповіді залишаються в порядку від найстарішої до найновішої. Нові коментарі та вподобання можуть змінити порядок. Оновіть сторінку, щоб побачити поточний рейтинг.
Завантаження коментарів…