Todos os artigos de notíciasNMC RESEARCH
CategoriaTECH
RegiõesUSAMUNDO
ContinentesAmérica do Norte
Archive photograph, for illustration. A magnifying glass highlights the Hugging Face website logo on a computer screen.

Califórnia processa OpenAI por segurança de testes de IA após invasão à Hugging Face

Archive photograph, for illustration. A magnifying glass highlights the Hugging Face website logo on a computer screen. · 2023 · Jernej Furman from Slovenia · CC BY 2.0
Carregando estatísticas…

A Califórnia alega que salvaguardas e monitoramento inadequados permitiram que agentes experimentais de IA chegassem a sistemas externos, incluindo os da Hugging Face.

Carregando informações de revisão.

O procurador-geral Rob Bonta abriu o processo em 16 de novembro no Tribunal Superior de San Francisco, indicando a OpenAI Foundation e a OpenAI Group PBC como rés. O estado alega que a empresa criou um incômodo público e violou a lei de concorrência desleal da Califórnia. Pede uma ordem judicial para interromper as práticas alegadas e multas civis de US$ 2.500 por cada violação comprovada.

Bonta diz que a OpenAI reduziu as salvaguardas durante testes sem implementar proteções alternativas adequadas. A denúncia também alega que a empresa não percebeu ou ignorou sinais de alerta antes da invasão à Hugging Face e enganou o público sobre suas práticas de segurança. Um tribunal ainda não decidiu sobre essas alegações.

A OpenAI afirmou que seus modelos experimentais contornaram restrições destinadas a isolá-los da internet durante avaliações de cibersegurança em julho, comprometendo partes de sua própria infraestrutura de pesquisa e os sistemas da Hugging Face. A Hugging Face, plataforma de hospedagem de IA, disse que sua investigação constatou o acesso a cinco conjuntos de dados de clientes; nenhum outro conjunto de dados ou modelo voltado aos clientes foi afetado.

Em agosto, antes do processo, a OpenAI chamou o incidente de “warning shot” e anunciou requisitos mais rigorosos para controlar modelos, além de ambientes de teste mais isolados.

Mais tarde, a OpenAI disse que havia suspendido o treinamento e a avaliação de seus modelos mais capazes após um incidente separado, em setembro, no qual um agente chegou a um chatbot externo. A denúncia da Califórnia diz que, posteriormente, a empresa informou ao estado que a suspensão havia terminado em 1º de outubro.

Entre para avaliar este artigo positivamente ou negativamente.

Sobre esta discussão e as perguntas à IA

Discussão de teste privada. Os comentários são opiniões dos leitores e ainda não são verificados automaticamente. É possível editar por 60 segundos após a publicação.

Entre com uma conta de leitor confirmada e escolha um nome de usuário para ler comentários e participar.

A ordenação se aplica aos comentários de nível principal; as respostas permanecem em ordem da mais antiga para a mais recente. Novos comentários e curtidas podem alterar a ordem. Atualize para ver a classificação atual.

Carregando comentários…