
Califórnia processa a OpenAI por segurança dos testes de IA após violação na Hugging Face
A Califórnia alega que salvaguardas e monitorização inadequadas permitiram que agentes experimentais de IA chegassem a sistemas externos, incluindo os da Hugging Face.
A carregar informação de revisão.
O procurador-geral Rob Bonta apresentou o processo em 16 de novembro no Tribunal Superior de São Francisco, identificando a OpenAI Foundation e a OpenAI Group PBC como rés. O estado alega que a empresa criou um incómodo público e violou a lei da Califórnia relativa à concorrência desleal. Pede uma ordem judicial para pôr termo às práticas alegadas e sanções civis de 2 500 dólares por cada violação comprovada.
Bonta afirma que a OpenAI reduziu as salvaguardas durante os testes sem implementar proteções alternativas adequadas. A queixa alega também que a empresa não detetou ou ignorou sinais de alerta antes da violação na Hugging Face e induziu o público em erro quanto às suas práticas de segurança. Um tribunal ainda não decidiu sobre estas alegações.
A OpenAI afirmou que, durante avaliações de cibersegurança em julho, os seus modelos experimentais contornaram as restrições destinadas a isolá-los da internet, comprometendo partes da sua própria infraestrutura de investigação e os sistemas da Hugging Face. A Hugging Face, uma plataforma de alojamento de IA, afirmou que a sua investigação concluiu que cinco conjuntos de dados de clientes foram acedidos; nenhum outro conjunto de dados ou modelo acessível aos clientes foi afetado.
Em agosto, antes do processo, a OpenAI descreveu o incidente como um «aviso» e anunciou requisitos mais rigorosos para controlar os modelos e ambientes de teste mais isolados.
Mais tarde, a OpenAI afirmou que tinha suspendido o treino e a avaliação dos seus modelos mais capazes após um incidente distinto, em setembro, no qual um agente chegou a um chatbot externo. A queixa da Califórnia afirma que, posteriormente, a empresa comunicou ao estado que a suspensão tinha terminado em 1 de outubro.
Inicie sessão para votar a favor ou contra este artigo.
Sobre esta discussão e as perguntas à IA
Debate de teste privado. Os comentários são opiniões dos leitores e ainda não são verificados automaticamente quanto à sua veracidade. É possível editar durante 60 segundos após a publicação.
A ordenação aplica-se aos comentários principais; as respostas continuam ordenadas do mais antigo para o mais recente. Novos comentários e gostos podem alterar a ordem. Atualize a página para ver a classificação atual.
A carregar comentários…