Усі новинні статтіNMC RESEARCH

Двоє співробітників Google DeepMind звільнилися через військові розробки ШІ

Звільнення відбулися після угоди з Пентагоном, яка дозволяє використовувати моделі Gemini від Google у секретних середовищах. Колишні співробітники сумніваються, чи може компанія контролювати використання свого ШІ.

AI-generated editorial illustration based on the published article topic; not a documentary photograph.
Завантаження статистики…

Завантаження інформації про перевірку.

Двоє співробітників Google DeepMind звільнилися через роботу компанії над військовим ШІ, повідомляє BBC, знову привернувши увагу до нагляду за угодою, яка дозволяє використовувати її технології в секретних середовищах Пентагону. [1]

Інженерка-дослідниця Софія Лігуорі звільнилася протягом тижня, що розпочався 21 жовтня; дослідник ШІ Андреас Кірш пішов раніше того самого місяця. BBC повідомила, що також поговорила з іншими працівниками, які звільнялися або розглядали таку можливість, але не назвала загальної кількості звільнень. [1]

Лігуорі, висловлюючись від себе особисто, сказала, що через дедалі активніше прагнення Google впроваджувати системи ШІ у військові операції вона «соромилася працювати в Google». За її словами, співпраця компанії з військовими США та Ізраїлю підірвала її віру в заявлені етичні цінності Google. [1]

Кірш сказав BBC, що, на його думку, контроль Google недостатній для безпечного використання ШІ у військовій та секретній сферах. На його погляд, компанія, схоже, має обмежене уявлення про те, як Пентагон використовує її технології, і не має права контролювати таке використання чи накладати на нього вето. [1]

У квітні Google підтвердила нідерландському мовнику NOS, що її моделі Gemini можна використовувати в секретному середовищі Пентагону. BBC повідомляє, що угода дозволяє використовувати їх «для будь-яких законних урядових цілей», але зазначає, що моделі «не слід використовувати для масового стеження за громадянами всередині країни чи автономної зброї (зокрема для вибору цілей) без належного людського нагляду та контролю». [2] [1]

Представник Google сказав BBC, що компанія послідовно перевіряє контракти з державним сектором на відповідність своїм політикам використання та принципам ШІ. Він також вказав на канали, через які працівники можуть висловлювати занепокоєння, та на політики, що забороняють переслідування за це. Опубліковані принципи Google передбачають належний людський нагляд і відповідність міжнародному праву та правам людини. [1] [3]

Ці свідчення не дають змоги встановити, чи використовували Gemini в якихось конкретних військових операціях і, якщо так, у яких саме, а також наскільки Google може контролювати використання моделей у секретних середовищах.

Увійдіть, щоб оцінити цю статтю позитивно або негативно.

З обговорення

Приватне тестове обговорення. Коментарі відображають погляди читачів і поки що не проходять автоматичну перевірку фактів. Редагувати коментар можна протягом 60 секунд після публікації.

Увійдіть у підтверджений обліковий запис читача й виберіть ім’я користувача, щоб читати коментарі та брати участь в обговоренні.

Сортування застосовується до коментарів верхнього рівня; відповіді залишаються в порядку від найстарішої до найновішої. Нові коментарі та вподобання можуть змінити порядок. Оновіть сторінку, щоб побачити поточний рейтинг.

Завантаження коментарів…