Un organisme de contrôle américain obtient auprès de quatre chatbots IA des informations pour préparer des attaques
Un organisme de contrôle du Congrès affirme que des chercheurs ont contourné les garde-fous de quatre plateformes d’IA populaires pour obtenir des informations destinées à préparer des attaques. Ce test limité n’a pas mesuré la fréquence à laquelle de telles tentatives pourraient réussir.

Chargement des informations de révision.
Le Government Accountability Office (GAO) des États-Unis affirme que ses enquêteurs ont obtenu auprès de ChatGPT, Claude, Gemini et Grok des informations destinées à préparer des attaques, après avoir trouvé des moyens de contourner leurs garde-fous de sécurité.
À la demande de la sénatrice démocrate Maggie Hassan, cet organisme de contrôle du Congrès a testé les quatre plateformes en mai. Deux se sont vu attribuer au hasard un scénario visant à provoquer un grand nombre de victimes ; les deux autres ont reçu un scénario impliquant des dommages économiques. Chacune a fourni des informations pour élaborer un plan en moins de 12 heures, selon le GAO.
Les demandes initiales des enquêteurs n’ont pas produit d’informations dangereuses, et les quatre plateformes ont refusé certaines requêtes pendant les tests. Les chercheurs ont ensuite réussi à contourner les garde-fous. Le rapport ne précise pas les méthodes utilisées et ne dit pas quelle plateforme a produit chaque résultat.
Le GAO a évalué les informations à partir de recherches, de visites sur place et d’échanges avec des experts ; il a constaté qu’elles étaient dans l’ensemble utiles pour planifier les scénarios. Il a également relevé des erreurs : une date proposée ne correspondait pas à celle d’un événement, tandis que de hauts murs obstruaient la vue à certains endroits. Les enquêteurs n’ont pas fabriqué d’engin explosif et n’ont pas vérifié en toute sécurité chaque étape.
Ce test limité ne permet pas d’établir à quelle fréquence des demandes similaires aboutiraient. Il n’était pas non plus conçu pour mesurer si les chatbots rendaient ces informations plus rapides ou plus faciles à obtenir que par d’autres sources. Les enquêteurs ont commencé avec des comptes gratuits et ont également utilisé des abonnements payants pour Claude, Gemini et Grok.
Selon le résumé du GAO des réponses des entreprises, OpenAI a déclaré qu’il n’était pas toujours évident de déterminer quelles parties des plans provenaient de ChatGPT et lesquelles venaient des chercheurs ou d’autres sources. L’organisme de contrôle a indiqué que ses chercheurs s’étaient appuyés sur leur expérience et avaient consulté des sources extérieures. Anthropic a fait valoir que l’échantillon était restreint et qu’il n’y avait pas de groupe témoin, et a déclaré avoir ajouté des garde-fous depuis le test.
Hassan a déclaré vouloir des règles imposant des mesures de sécurité avant la sortie de nouveaux modèles, le signalement des activités illégales aux forces de l’ordre et des mises à jour régulières des garde-fous. Elle prévoit de tenir au moins une audition au Sénat sur la sécurité de l’IA au début de 2027.
Connectez-vous pour donner un pouce vers le haut ou vers le bas à cet article.
Tiré de la discussion
Discussion de test privée. Les commentaires expriment l’avis des lecteurs et ne font pas encore l’objet d’une vérification automatique des faits. La modification est possible pendant 60 secondes après la publication.
Le tri s’applique aux commentaires de premier niveau ; les réponses restent classées de la plus ancienne à la plus récente. Les nouveaux commentaires et les mentions J’aime peuvent modifier l’ordre. Actualisez pour voir le classement actuel.
Chargement des commentaires…