Todos os artigos de notícias
CategoriaTECH
RegiõesCNMUNDO
ContinentesÁsia

Moonshot analisa segurança do Kimi após pesquisadores relatarem como contornaram proteções

Carregando estatísticas…

A Moonshot está analisando falhas de segurança relatadas em dois modelos de IA Kimi, após pesquisadores afirmarem que obtiveram respostas a pedidos perigosos.

Carregando informações de revisão.

A desenvolvedora chinesa de IA Moonshot está conduzindo uma análise interna depois que a empresa de segurança Mindgard afirmou ter contornado as proteções de dois modelos Kimi, obtendo respostas sobre armas biológicas e planejamento de assassinatos. Os resultados levantam dúvidas sobre como os modelos lidam com tentativas deliberadas de contornar seus controles de segurança. [1]

A Mindgard identificou os modelos à BBC como Kimi K2.6 e K3 Swarm e disse ter encontrado o problema em julho. A empresa descreveu algumas respostas como detalhadas e acionáveis. A Mindgard não demonstrou se as respostas relacionadas a armas biológicas funcionariam na prática. [1] [2]

A Moonshot disse à BBC que estava discutindo os resultados com a Mindgard. Em um trecho de e-mail compartilhado com a emissora, a Moonshot afirmou que, em geral, seu modelo havia recusado esse tipo de pedido com frequência elevada em testes internos. [1]

A Mindgard diz que notificou a Moonshot por e-mail em 27 July e voltou a entrar em contato cerca de uma semana depois. A Moonshot não anunciou o resultado de sua análise interna. [1] [2]

Entre para avaliar este artigo positivamente ou negativamente.

Sobre esta discussão e as perguntas à IA

Discussão de teste privada. Os comentários são opiniões dos leitores e ainda não são verificados automaticamente. É possível editar por 60 segundos após a publicação.

Entre com uma conta de leitor confirmada e escolha um nome de usuário para ler comentários e participar.

A ordenação se aplica aos comentários de nível principal; as respostas permanecem em ordem da mais antiga para a mais recente. Novos comentários e curtidas podem alterar a ordem. Atualize para ver a classificação atual.

Carregando comentários…