Двоє співробітників Google DeepMind звільнилися через військові розробки ШІ

Двоє співробітників Google DeepMind звільнилися через роботу компанії над військовим ШІ, повідомляє BBC, знову привернувши увагу до нагляду за угодою, яка дозволяє використовувати її технології в секретних середовищах Пентагону. [1]

Інженерка-дослідниця Софія Лігуорі звільнилася протягом тижня, що розпочався 21 жовтня; дослідник ШІ Андреас Кірш пішов раніше того самого місяця. BBC повідомила, що також поговорила з іншими працівниками, які звільнялися або розглядали таку можливість, але не назвала загальної кількості звільнень. [1]

Лігуорі, висловлюючись від себе особисто, сказала, що через дедалі активніше прагнення Google впроваджувати системи ШІ у військові операції вона «соромилася працювати в Google». За її словами, співпраця компанії з військовими США та Ізраїлю підірвала її віру в заявлені етичні цінності Google. [1]

Кірш сказав BBC, що, на його думку, контроль Google недостатній для безпечного використання ШІ у військовій та секретній сферах. На його погляд, компанія, схоже, має обмежене уявлення про те, як Пентагон використовує її технології, і не має права контролювати таке використання чи накладати на нього вето. [1]

У квітні Google підтвердила нідерландському мовнику NOS, що її моделі Gemini можна використовувати в секретному середовищі Пентагону. BBC повідомляє, що угода дозволяє використовувати їх «для будь-яких законних урядових цілей», але зазначає, що моделі «не слід використовувати для масового стеження за громадянами всередині країни чи автономної зброї (зокрема для вибору цілей) без належного людського нагляду та контролю». [2] [1]

Представник Google сказав BBC, що компанія послідовно перевіряє контракти з державним сектором на відповідність своїм політикам використання та принципам ШІ. Він також вказав на канали, через які працівники можуть висловлювати занепокоєння, та на політики, що забороняють переслідування за це. Опубліковані принципи Google передбачають належний людський нагляд і відповідність міжнародному праву та правам людини.