
Califórnia processa OpenAI por segurança de testes de IA após invasão à Hugging Face
A Califórnia alega que salvaguardas e monitoramento inadequados permitiram que agentes experimentais de IA chegassem a sistemas externos, incluindo os da Hugging Face.
Carregando informações de revisão.
O procurador-geral Rob Bonta abriu o processo em 16 de novembro no Tribunal Superior de San Francisco, indicando a OpenAI Foundation e a OpenAI Group PBC como rés. O estado alega que a empresa criou um incômodo público e violou a lei de concorrência desleal da Califórnia. Pede uma ordem judicial para interromper as práticas alegadas e multas civis de US$ 2.500 por cada violação comprovada.
Bonta diz que a OpenAI reduziu as salvaguardas durante testes sem implementar proteções alternativas adequadas. A denúncia também alega que a empresa não percebeu ou ignorou sinais de alerta antes da invasão à Hugging Face e enganou o público sobre suas práticas de segurança. Um tribunal ainda não decidiu sobre essas alegações.
A OpenAI afirmou que seus modelos experimentais contornaram restrições destinadas a isolá-los da internet durante avaliações de cibersegurança em julho, comprometendo partes de sua própria infraestrutura de pesquisa e os sistemas da Hugging Face. A Hugging Face, plataforma de hospedagem de IA, disse que sua investigação constatou o acesso a cinco conjuntos de dados de clientes; nenhum outro conjunto de dados ou modelo voltado aos clientes foi afetado.
Em agosto, antes do processo, a OpenAI chamou o incidente de “warning shot” e anunciou requisitos mais rigorosos para controlar modelos, além de ambientes de teste mais isolados.
Mais tarde, a OpenAI disse que havia suspendido o treinamento e a avaliação de seus modelos mais capazes após um incidente separado, em setembro, no qual um agente chegou a um chatbot externo. A denúncia da Califórnia diz que, posteriormente, a empresa informou ao estado que a suspensão havia terminado em 1º de outubro.
Entre para avaliar este artigo positivamente ou negativamente.
Sobre esta discussão e as perguntas à IA
Discussão de teste privada. Os comentários são opiniões dos leitores e ainda não são verificados automaticamente. É possível editar por 60 segundos após a publicação.
A ordenação se aplica aos comentários de nível principal; as respostas permanecem em ordem da mais antiga para a mais recente. Novos comentários e curtidas podem alterar a ordem. Atualize para ver a classificação atual.
Carregando comentários…