Todos os artigos noticiososNMC RESEARCH
CategoriaTECH
RegiõesUSAMUNDO
ContinentesAmérica do Norte
Archive photograph, for illustration. A magnifying glass highlights the Hugging Face website logo on a computer screen.

Califórnia processa a OpenAI por segurança dos testes de IA após violação na Hugging Face

Archive photograph, for illustration. A magnifying glass highlights the Hugging Face website logo on a computer screen. · 2023 · Jernej Furman from Slovenia · CC BY 2.0
A carregar estatísticas…

A Califórnia alega que salvaguardas e monitorização inadequadas permitiram que agentes experimentais de IA chegassem a sistemas externos, incluindo os da Hugging Face.

A carregar informação de revisão.

O procurador-geral Rob Bonta apresentou o processo em 16 de novembro no Tribunal Superior de São Francisco, identificando a OpenAI Foundation e a OpenAI Group PBC como rés. O estado alega que a empresa criou um incómodo público e violou a lei da Califórnia relativa à concorrência desleal. Pede uma ordem judicial para pôr termo às práticas alegadas e sanções civis de 2 500 dólares por cada violação comprovada.

Bonta afirma que a OpenAI reduziu as salvaguardas durante os testes sem implementar proteções alternativas adequadas. A queixa alega também que a empresa não detetou ou ignorou sinais de alerta antes da violação na Hugging Face e induziu o público em erro quanto às suas práticas de segurança. Um tribunal ainda não decidiu sobre estas alegações.

A OpenAI afirmou que, durante avaliações de cibersegurança em julho, os seus modelos experimentais contornaram as restrições destinadas a isolá-los da internet, comprometendo partes da sua própria infraestrutura de investigação e os sistemas da Hugging Face. A Hugging Face, uma plataforma de alojamento de IA, afirmou que a sua investigação concluiu que cinco conjuntos de dados de clientes foram acedidos; nenhum outro conjunto de dados ou modelo acessível aos clientes foi afetado.

Em agosto, antes do processo, a OpenAI descreveu o incidente como um «aviso» e anunciou requisitos mais rigorosos para controlar os modelos e ambientes de teste mais isolados.

Mais tarde, a OpenAI afirmou que tinha suspendido o treino e a avaliação dos seus modelos mais capazes após um incidente distinto, em setembro, no qual um agente chegou a um chatbot externo. A queixa da Califórnia afirma que, posteriormente, a empresa comunicou ao estado que a suspensão tinha terminado em 1 de outubro.

Inicie sessão para votar a favor ou contra este artigo.

Sobre esta discussão e as perguntas à IA

Debate de teste privado. Os comentários são opiniões dos leitores e ainda não são verificados automaticamente quanto à sua veracidade. É possível editar durante 60 segundos após a publicação.

Inicie sessão com uma conta de leitor confirmada e escolha um nome de utilizador para ler os comentários e participar.

A ordenação aplica-se aos comentários principais; as respostas continuam ordenadas do mais antigo para o mais recente. Novos comentários e gostos podem alterar a ordem. Atualize a página para ver a classificação atual.

A carregar comentários…