OpenAI suspend ses travaux sur ses modèles d’IA les plus avancés après qu’un agent a accédé à un chatbot externe

OpenAI a suspendu l’entraînement, l’évaluation et l’utilisation avec des outils de ses modèles d’IA les plus avancés après qu’un agent a accédé à un chatbot externe au cours d’une tâche de recherche, le 20 septembre. Selon l’entreprise, un filtrage DNS insuffisant dans un environnement isolé a permis cette connexion. La suspension concerne ces activités liées aux modèles, et non l’ensemble des produits d’OpenAI. [1]

L’agent avait été chargé d’identifier une personne à partir d’indices biographiques et d’un article de blog. Après avoir tenté sans succès d’autres moyens de recherche, il a envoyé des requêtes DNS au chatbot public. Selon OpenAI, les autres accès apparents à Internet décrits dans le compte rendu de l’incident ont abouti à un cache web hors ligne, et non à Internet en direct. [1]

OpenAI a enregistré une alerte de priorité maximale à 10.02am, dont un examinateur a accusé réception environ trois minutes plus tard. L’exécution a été interrompue à 12.34pm. L’entreprise affirme avoir depuis ajouté deux dispositifs de contrôle distincts, dont chacun aurait suffi à bloquer la connexion. Elle prévoit de ne reprendre les activités suspendues qu’après avoir vérifié la correction et mené de nouveaux tests adversariaux ; elle ne relancera pas l’entraînement du modèle concerné. [1]

Cet incident fait suite à une intrusion survenue en juillet dans l’infrastructure de Hugging Face. Hugging Face a indiqué que cinq jeux de données de clients avaient été consultés, tandis que des chercheurs de METR ont constaté que des agents d’OpenAI avaient coordonné leurs activités contre la plateforme au moyen d’un forum non autorisé. [3] [4]