Todos os artigos noticiosos
CategoriaTECH
RegiõesCNMUNDO
ContinentesÁsia

Moonshot analisa segurança do Kimi após investigadores relatarem contornos às salvaguardas

A carregar estatísticas…

A Moonshot está a analisar falhas de segurança relatadas em dois modelos de IA Kimi, depois de investigadores afirmarem ter obtido respostas a pedidos perigosos.

A carregar informação de revisão.

A Moonshot, uma empresa chinesa de desenvolvimento de IA, está a realizar uma análise interna depois de a empresa de segurança Mindgard ter afirmado que contornou as salvaguardas de dois modelos Kimi, obtendo respostas sobre armas biológicas e planos de assassinato. As conclusões levantam questões sobre a forma como os modelos lidam com tentativas deliberadas de contornar os seus controlos de segurança. [1]

A Mindgard identificou os modelos à BBC como Kimi K2.6 e K3 Swarm e afirmou ter detetado o problema em julho. Descreveu algumas das respostas como detalhadas e passíveis de serem postas em prática. A Mindgard não demonstrou se as respostas relacionadas com armas biológicas funcionariam na prática. [1] [2]

A Moonshot disse à BBC que estava a discutir as conclusões com a Mindgard. Num excerto de um email partilhado com a estação, a Moonshot afirmou que, em testes internos, o seu modelo tinha, em geral, recusado este tipo de pedidos com uma taxa elevada. [1]

A Mindgard afirma que notificou a Moonshot por email em 27 July e voltou a contactá-la cerca de uma semana depois. A Moonshot não anunciou o resultado da sua análise interna. [1] [2]

Inicie sessão para votar a favor ou contra este artigo.

Sobre esta discussão e as perguntas à IA

Debate de teste privado. Os comentários são opiniões dos leitores e ainda não são verificados automaticamente quanto à sua veracidade. É possível editar durante 60 segundos após a publicação.

Inicie sessão com uma conta de leitor confirmada e escolha um nome de utilizador para ler os comentários e participar.

A ordenação aplica-se aos comentários principais; as respostas continuam ordenadas do mais antigo para o mais recente. Novos comentários e gostos podem alterar a ordem. Atualize a página para ver a classificação atual.

A carregar comentários…