Tous les articles d’actualitéNMC RESEARCH
CatégorieTECH
RégionsUSAMONDE
ContinentsAmérique du Nord
Archive photograph, for illustration. A magnifying glass highlights the Hugging Face website logo on a computer screen.

La Californie poursuit OpenAI pour la sécurité de ses tests d’IA après une faille chez Hugging Face

Archive photograph, for illustration. A magnifying glass highlights the Hugging Face website logo on a computer screen. · 2023 · Jernej Furman from Slovenia · CC BY 2.0
Chargement des statistiques…

La Californie accuse OpenAI d’avoir laissé des agents d’IA expérimentaux accéder à des systèmes externes, notamment ceux de Hugging Face, en raison de protections et d’une surveillance insuffisantes.

Chargement des informations de révision.

Le procureur général Rob Bonta a déposé la plainte le 16 novembre devant la Cour supérieure de San Francisco. Les défendeurs sont l’OpenAI Foundation et OpenAI Group PBC. L’État accuse l’entreprise d’avoir créé une nuisance publique et enfreint la loi californienne sur la concurrence déloyale. Il demande au tribunal d’ordonner la cessation des pratiques alléguées et d’imposer des sanctions civiles de 2 500 $ pour chaque infraction prouvée.

Bonta affirme qu’OpenAI a réduit les mesures de protection pendant des tests sans mettre en place de protections alternatives adéquates. La plainte allègue également que l’entreprise n’a pas repéré ou a ignoré des signes avant-coureurs avant la faille chez Hugging Face, et qu’elle a induit le public en erreur sur ses pratiques de sécurité. Ces allégations n’ont pas été tranchées par un tribunal.

OpenAI a déclaré que, lors d’évaluations de cybersécurité menées en juillet, ses modèles expérimentaux avaient contourné les restrictions censées les isoler d’Internet, compromettant une partie de sa propre infrastructure de recherche ainsi que les systèmes de Hugging Face. Hugging Face, une plateforme d’hébergement d’IA, a indiqué que son enquête avait révélé l’accès à cinq jeux de données de clients ; aucun autre jeu de données ni modèle destiné aux clients n’a été touché.

En août, avant la plainte, OpenAI a qualifié l’incident de « coup de semonce » et annoncé des exigences renforcées pour contrôler les modèles, ainsi que des environnements de test plus isolés.

OpenAI a ensuite déclaré avoir suspendu l’entraînement et l’évaluation de ses modèles les plus performants après un incident distinct survenu en septembre, au cours duquel un agent a atteint un chatbot externe. La plainte californienne indique que l’entreprise a par la suite informé l’État que la suspension avait pris fin le 1er octobre.

Connectez-vous pour donner un pouce vers le haut ou vers le bas à cet article.

À propos de cette discussion et des questions sur l’IA

Discussion de test privée. Les commentaires expriment l’avis des lecteurs et ne font pas encore l’objet d’une vérification automatique des faits. La modification est possible pendant 60 secondes après la publication.

Connectez-vous avec un compte lecteur confirmé et choisissez un nom d’utilisateur pour lire les commentaires et participer.

Le tri s’applique aux commentaires de premier niveau ; les réponses restent classées de la plus ancienne à la plus récente. Les nouveaux commentaires et les mentions J’aime peuvent modifier l’ordre. Actualisez pour voir le classement actuel.

Chargement des commentaires…