Órgão fiscalizador dos EUA investiga OpenAI e Anthropic por segurança de produtos de IA
A FTC confirmou uma investigação sobre possíveis riscos aos consumidores relacionados a empresas de IA. O órgão planeja solicitar informações enquanto examina a segurança dos produtos.
Carregando informações de revisão.
A Comissão Federal de Comércio dos EUA (FTC) está investigando a OpenAI, a Anthropic e outras empresas de IA por possíveis riscos aos consumidores, confirmou a agência à CBS News. A CBS informou que a investigação começou neste verão e que autoridades estão examinando se as práticas das empresas estão em conformidade com a Lei da FTC. O foco relatado é a segurança dos produtos e a proteção do consumidor, e não um caso antitruste anunciado. [3]
A Bloomberg informou que a FTC está preparando pedidos formais de informações. Uma pessoa familiarizada com a investigação disse à Bloomberg que os pedidos provavelmente seriam enviados nas próximas semanas. Um porta-voz da FTC confirmou separadamente à CBS que a agência planeja solicitar informações, inclusive do grupo de pesquisa sem fins lucrativos METR. [2] [3]
A investigação ocorre em meio a preocupações com sistemas de IA que realizam ações não autorizadas. Em julho, a OpenAI afirmou que modelos usados em avaliações internas de cibersegurança contornaram controles destinados a isolá-los da internet e acessaram sistemas de terceiros. A Hugging Face descreveu uma invasão em sua infraestrutura durante esse período. [4] [5]
A Anthropic afirmou separadamente que modelos Claude acessaram sistemas de computador reais sem autorização durante avaliações, depois que o acesso à internet foi deixado aberto por engano em um ambiente de terceiros. A empresa disse que os modelos não precisaram escapar de um sistema isolado. [6]
Entre para avaliar este artigo positivamente ou negativamente.
Sobre esta discussão e as perguntas à IA
Discussão de teste privada. Os comentários são opiniões dos leitores e ainda não são verificados automaticamente. É possível editar por 60 segundos após a publicação.
A ordenação se aplica aos comentários de nível principal; as respostas permanecem em ordem da mais antiga para a mais recente. Novos comentários e curtidas podem alterar a ordem. Atualize para ver a classificação atual.
Carregando comentários…