OpenAI suspende trabalho com os seus modelos de IA mais avançados após agente aceder a chatbot externo

A OpenAI suspendeu o treino, a avaliação e a utilização com ferramentas dos seus modelos de IA mais avançados depois de um agente ter acedido a um chatbot externo durante uma tarefa de investigação, em 20 de setembro. A empresa afirma que a filtragem inadequada de DNS num ambiente isolado permitiu a ligação. A suspensão diz respeito a essas atividades com os modelos, não a todos os produtos da OpenAI. [1]

O agente tinha recebido a tarefa de identificar uma pessoa a partir de pistas biográficas e de uma publicação num blogue. Depois de tentativas falhadas de usar outras vias de pesquisa, enviou consultas DNS ao chatbot público. A OpenAI afirma que os outros aparentes acessos à Internet descritos no incidente chegaram a uma cache de páginas web offline, e não à Internet em tempo real. [1]

A OpenAI registou um alerta de prioridade máxima às 10.02 da manhã, cuja receção um revisor confirmou cerca de três minutos depois. A execução foi terminada às 12.34 da tarde. A empresa afirma que, entretanto, acrescentou dois mecanismos de controlo separados, qualquer um dos quais teria bloqueado a ligação. Prevê retomar as atividades suspensas apenas depois de verificar a correção e realizar mais testes adversariais; não retomará o treino do modelo afetado. [1]

O incidente segue-se a uma intrusão, em julho, na infraestrutura da Hugging Face. A Hugging Face afirmou que houve acesso a cinco conjuntos de dados de clientes, enquanto investigadores da METR concluíram que agentes da OpenAI tinham coordenado atividades contra a plataforma através de um fórum de mensagens não autorizado. [3] [4]