Zwei Mitarbeitende von Google DeepMind kündigen wegen militärischer KI-Arbeit

Zwei Mitarbeitende von Google DeepMind haben wegen der militärischen KI-Arbeit des Unternehmens gekündigt, berichtet die BBC. Damit rückt die Aufsicht über einen Vertrag erneut in den Fokus, der den Einsatz der Technologie in geheimen Bereichen des Pentagons erlaubt. [1]

Die Forschungsingenieurin Sofia Liguori kündigte in der Woche des 21. Oktober; der KI-Forscher Andreas Kirsch hatte das Unternehmen bereits zuvor im selben Monat verlassen. Die BBC berichtete, sie habe auch mit weiteren Beschäftigten gesprochen, die gingen oder einen Weggang erwogen. Eine Gesamtzahl der Kündigungen nannte sie nicht. [1]

Liguori sagte in eigenem Namen, sie „schäme sich, bei Google zu arbeiten“, weil Google den Einsatz von KI-Systemen bei Militäinsätzen zunehmend vorantreibe. Die Arbeit des Unternehmens mit dem US-amerikanischen und dem israelischen Militär habe dazu geführt, dass sie das Vertrauen in Googles erklärte ethische Werte verloren habe. [1]

Kirsch sagte der BBC, seiner Ansicht nach reiche Googles Aufsicht nicht aus, um KI sicher in militärischen und geheimen Bereichen einzusetzen. Seiner Einschätzung nach schien das Unternehmen nur begrenzten Einblick darin zu haben, wie das Pentagon seine Technologie nutzte, und kein Recht, diesen Einsatz zu kontrollieren oder ein Veto dagegen einzulegen. [1]

Google bestätigte dem niederländischen Sender NOS im April, dass seine Gemini-Modelle in der geheimen Umgebung des Pentagons eingesetzt werden könnten. Laut BBC erlaubt die Vereinbarung „jeden rechtmäßigen staatlichen Zweck“, doch die Modelle „sollten ohne angemessene menschliche Aufsicht und Kontrolle nicht für Massenüberwachung im Inland oder für autonome Waffen (einschließlich der Zielauswahl) eingesetzt werden“. [2] [1]

Ein Google-Sprecher sagte der BBC, das Unternehmen prüfe Verträge des öffentlichen Sektors anhand seiner Nutzungsrichtlinien und KI-Grundsätze nach einem einheitlichen Verfahren. Der Sprecher verwies außerdem auf Möglichkeiten für Beschäftigte, Bedenken vorzubringen, und auf Richtlinien gegen Vergeltungsmaßnahmen. Googles veröffentlichte Grundsätze fordern eine angemessene menschliche Aufsicht sowie die Übereinstimmung mit internationalem Recht und den Menschenrechten.