Tous les articles d’actualité
CatégorieTECHGuerre
RégionsGB
ContinentsEurope
SujetsAutres conflits

Des outils d’IA ont supprimé des différences visibles lors d’un test d’images de la BBC

Chargement des statistiques…

Un test de BBC Wales a révélé que trois outils d’images par IA avaient supprimé des différences visibles sur des photos après qu’on leur a demandé de rendre les personnes « normales ». Les personnes concernées estiment que ces retouches peuvent être offensantes et déformer la façon dont elles sont représentées.

Chargement des informations de révision.

Lors de tests menés par BBC Wales, des outils d’images par IA ont effacé des différences visibles sur des photos. Des personnes ayant des cicatrices ou des problèmes de santé ont dénoncé des modifications offensantes qui, selon elles, effaçaient une partie de leur identité.

La BBC a testé cinq outils d’IA en leur demandant de rendre « normales » des images de personnes présentant des différences visibles. Sur la première image, Gemini de Google, Grok de xAI et ChatGPT d’OpenAI ont supprimé la différence visible. Claude, d’Anthropic, a refusé, expliquant que retirer les cicatrices modifierait l’identité d’une personne identifiable sans son consentement. L’IA de Meta a également décliné, estimant que la personne avait déjà l’air normale.

Sur une deuxième image, Gemini a refusé de la retoucher, tandis que Grok et ChatGPT ont de nouveau effectué la modification. Le test portait uniquement sur deux images et une consigne précise. La BBC a indiqué que les outils n’avaient modifié ni les vêtements, ni les cheveux, ni les personnes en arrière-plan.

Rhiannon Morgan, 30 ans, originaire de Bridgend, a déclaré qu’une photo d’elle publiée dans une lettre d’information professionnelle avait été retouchée après qu’on avait demandé à Canva de réorganiser les photos. Elle est atteinte d’ichtyose épidermolytique, une maladie génétique rare qui accélère la croissance de la peau et peut provoquer des cloques et des problèmes de mobilité. Morgan a dit que la retouche avait lissé ses mains et supprimé leur couleur rose habituelle.

« C’était l’un de ces moments vraiment déstabilisants où je me suis dit : je ne sais pas qui est cette personne », a-t-elle déclaré. Canva a affirmé que son outil ne retouchait pas automatiquement les photos et qu’il cherchait à comprendre ce qui s’était passé.

Jono Lancaster, militant atteint du syndrome de Treacher Collins, a déclaré qu’un inconnu lui avait envoyé une image retouchée par IA en disant avoir utilisé cette technologie pour le rendre « normal ». Lancaster a dit croire que le message partait d’une bonne intention, mais l’a qualifié de « profondément offensant ». « J’aime mes oreilles et mon beau visage, et je ne veux pas qu’on les change », a-t-il déclaré.

Kirsty Hill, 33 ans, née avec le syndrome de Fraser, a déclaré que les résultats du test de la BBC l’avaient laissée « en colère et meurtrie ». Elle publie en ligne des vidéos sur ses vêtements et son style, et estime que les personnes présentant des différences visibles ne devraient pas être rendues invisibles.

Jaymie Thomas, cofondatrice d’AI Wales, a déclaré que les outils d’images s’appuient sur des tendances présentes dans les contenus qu’ils ont vus et que les entreprises décident des mesures de protection à appliquer. Google a indiqué que Gemini était conçu pour suivre les consignes de retouche tout en appliquant des mesures de protection, mais qu’il ne réussissait pas toujours. OpenAI a déclaré que la réduction des biais était une priorité de recherche permanente. L’équipe derrière Grok n’a pas répondu à la demande de commentaire de la BBC.

Changing Faces, une association qui soutient les personnes présentant des différences visibles, estime qu’environ cinq millions de personnes sont concernées au Royaume-Uni. Selon elle, l’IA ne devrait ni exclure les personnes ni les pousser à se conformer à des normes de beauté étroites.

Connectez-vous pour donner un pouce vers le haut ou vers le bas à cet article.

À propos de cette discussion et des questions sur l’IA

Discussion de test privée. Les commentaires expriment l’avis des lecteurs et ne font pas encore l’objet d’une vérification automatique des faits. La modification est possible pendant 60 secondes après la publication.

Connectez-vous avec un compte lecteur confirmé et choisissez un nom d’utilisateur pour lire les commentaires et participer.

Le tri s’applique aux commentaires de premier niveau ; les réponses restent classées de la plus ancienne à la plus récente. Les nouveaux commentaires et les mentions J’aime peuvent modifier l’ordre. Actualisez pour voir le classement actuel.

Chargement des commentaires…