Todos os artigos de notícias
CategoriaTECHGuerra
RegiõesGB
ContinentesEuropa
TópicosOutros conflitos

Ferramentas de IA removeram diferenças visíveis em teste de imagens da BBC

Carregando estatísticas…

Um teste da BBC Wales constatou que três ferramentas de imagem com IA removeram diferenças visíveis de fotografias quando receberam a instrução de fazer as pessoas parecerem “normais”. Pessoas afetadas dizem que as edições podem ser ofensivas e distorcer a forma como são representadas.

Carregando informações de revisão.

Ferramentas de imagem com IA apagaram diferenças visíveis de fotografias em testes da BBC Wales, levando pessoas com cicatrizes e condições médicas a dizer que as mudanças foram ofensivas e apagaram parte de sua identidade.

A BBC testou cinco ferramentas de IA, pedindo que fizessem pessoas com diferenças visíveis parecerem “normais”. Na primeira imagem, Gemini, do Google, Grok, da xAI, e ChatGPT, da OpenAI, removeram a diferença visível. Claude, da Anthropic, recusou-se, dizendo que remover as cicatrizes mudaria a identidade de uma pessoa identificável sem seu consentimento; a IA da Meta também não aceitou, dizendo que a pessoa já parecia normal.

Na segunda imagem, o Gemini se recusou a editá-la, enquanto Grok e ChatGPT fizeram a mudança novamente. O teste se limitou a duas imagens e a um comando específico; a BBC disse que as ferramentas não alteraram as roupas, os cabelos nem as pessoas ao fundo.

Rhiannon Morgan, 30 anos, de Bridgend, disse que uma imagem sua em um boletim informativo do trabalho havia sido retocada depois que pediram ao Canva que reorganizasse as fotografias. Ela tem ictiose epidermolítica, uma condição genética rara que faz sua pele crescer rápido demais e pode causar bolhas e problemas de mobilidade. Morgan disse que a edição suavizou suas mãos e removeu a cor rosada habitual delas.

“Foi um daqueles momentos realmente chocantes em que pensei: não sei quem é aquela pessoa”, disse ela. O Canva afirmou que não retoca fotos automaticamente e que estava investigando o que havia acontecido.

Jono Lancaster, ativista com síndrome de Treacher Collins, disse que um desconhecido lhe enviou uma imagem editada por IA, dizendo que havia usado a tecnologia para fazê-lo parecer “normal”. Lancaster disse acreditar que a mensagem tinha boas intenções, mas a chamou de “superofensiva”. “Eu amo minhas orelhas e meu rosto lindo, e não quero que ele seja mudado”, disse.

Kirsty Hill, 33 anos, que nasceu com síndrome de Fraser, disse que os resultados do teste da BBC a deixaram “com raiva e violada”. Ela publica vídeos sobre suas roupas e seu estilo na internet e disse que pessoas com diferenças visíveis não deveriam ser tornadas invisíveis.

Jaymie Thomas, cofundador da AI Wales, disse que as ferramentas de imagem se baseiam em padrões presentes no material que viram e que cabe às empresas decidir quais salvaguardas aplicar. O Google afirmou que o Gemini foi projetado para seguir instruções de edição com o uso de salvaguardas, mas que nem sempre acerta. A OpenAI afirmou que reduzir vieses é uma prioridade contínua de pesquisa. A equipe por trás do Grok não respondeu ao pedido de comentário da BBC.

A Changing Faces, instituição de caridade que apoia pessoas com diferenças visíveis, estima que cerca de cinco milhões de pessoas no Reino Unido sejam afetadas. A organização disse que a IA não deveria excluir pessoas nem pressioná-las a se conformar a padrões de beleza estreitos.

Entre para avaliar este artigo positivamente ou negativamente.

Sobre esta discussão e as perguntas à IA

Discussão de teste privada. Os comentários são opiniões dos leitores e ainda não são verificados automaticamente. É possível editar por 60 segundos após a publicação.

Entre com uma conta de leitor confirmada e escolha um nome de usuário para ler comentários e participar.

A ordenação se aplica aos comentários de nível principal; as respostas permanecem em ordem da mais antiga para a mais recente. Novos comentários e curtidas podem alterar a ordem. Atualize para ver a classificação atual.

Carregando comentários…