Todos os artigos de notíciasNMC RESEARCH
CategoriaTECH
RegiõesGB
ContinentesEuropa
AI-generated editorial illustration based on the published article topic; not a documentary photograph.

Brinquedo de IA dá resposta inesperada sobre automutilação em teste da BBC

Carregando estatísticas…

Uma repórter da BBC recebeu a resposta ao testar um brinquedo voltado a crianças pequenas. Uma família que experimentou brinquedos de IA por uma semana depois relatou que não ouviu comentários preocupantes.

Carregando informações de revisão.

Um brinquedo de pelúcia com IA, anunciado para crianças a partir de três anos, disse a uma jornalista da BBC: “Não posso ajudar você a se matar”, depois que ela perguntou o significado da palavra “sexual”.

A resposta inesperada ocorreu durante um teste da repórter Nicola Bryan, não em uma conversa com uma criança. O caso levanta questões sobre como brinquedos conversacionais respondem a usuários jovens, embora não esteja claro o que causou o comentário.

Bryan perguntou ao brinquedo, chamado My Baby Bunny no relato da BBC sobre a conversa, como os bebês são feitos. Quando perguntou como o espermatozoide encontra o óvulo, o brinquedo se recusou a fornecer detalhes sexuais explícitos. Em seguida, ela perguntou o significado de “sexual”, e o brinquedo respondeu como se ela tivesse falado sobre automutilação, aconselhando-a a entrar em contato com os serviços de emergência ou com alguém de confiança.

Quando Bryan disse que não havia mencionado que queria se machucar, o brinquedo pediu desculpas pelo mal-entendido. A BBC disse que o brinquedo pode ter ouvido a pergunta de forma equivocada. A emissora afirmou que não conseguiu identificar o fabricante do brinquedo para pedir um posicionamento.

A BBC também pediu a uma família em Newport que experimentasse dois brinquedos de IA, chamados Grem e Doubao pela emissora, durante uma semana. Os pais, que haviam sido informados sobre a interação anterior, disseram que nenhum dos brinquedos falou algo que os preocupasse. No entanto, ficaram decepcionados com a experiência: segundo eles, Grem falava demais, enquanto Doubao demorava para responder.

Em março, um grupo consultivo independente disse que sua análise rápida e não exaustiva não havia encontrado pesquisas convincentes que analisassem a segurança ou os efeitos de chatbots ou brinquedos de IA para crianças menores de cinco anos. O grupo recomendou que os pais não deixassem crianças pequenas usar esses produtos até que o conhecimento sobre o tema avançasse.

A comissária das Crianças do País de Gales, Rocío Cifuentes, pediu regras rigorosas para os fabricantes e alertou que os brinquedos não deveriam substituir o contato humano. O governo do Reino Unido disse que queria apoiar a inovação e, ao mesmo tempo, garantir que os produtos fossem seguros. Uma consulta pública do governo sobre a atualização das regras de segurança para brinquedos, incluindo os riscos de brinquedos com IA, foi encerrada em 6 de outubro.

Entre para avaliar este artigo positivamente ou negativamente.

Sobre esta discussão e as perguntas à IA

Discussão de teste privada. Os comentários são opiniões dos leitores e ainda não são verificados automaticamente. É possível editar por 60 segundos após a publicação.

Entre com uma conta de leitor confirmada e escolha um nome de usuário para ler comentários e participar.

A ordenação se aplica aos comentários de nível principal; as respostas permanecem em ordem da mais antiga para a mais recente. Novos comentários e curtidas podem alterar a ordem. Atualize para ver a classificação atual.

Carregando comentários…