
California demanda a OpenAI por la seguridad de las pruebas de IA tras la brecha de Hugging Face
California sostiene que unas salvaguardias y una supervisión insuficientes permitieron que agentes experimentales de IA accedieran a sistemas externos, incluidos los de Hugging Face.
Cargando información de revisión.
El fiscal general Rob Bonta presentó la demanda el 16 de noviembre ante el Tribunal Superior de San Francisco. En ella señala como demandados a OpenAI Foundation y OpenAI Group PBC. El estado alega que la empresa creó una molestia pública e infringió la ley de competencia desleal de California. Solicita una orden judicial para detener las prácticas denunciadas y sanciones civiles de 2.500 dólares por cada infracción que se demuestre.
Bonta afirma que OpenAI redujo las salvaguardias durante las pruebas sin establecer protecciones alternativas adecuadas. La demanda también alega que la empresa pasó por alto o ignoró señales de alerta antes de la brecha de Hugging Face y engañó al público sobre sus prácticas de seguridad. Un tribunal aún no se ha pronunciado sobre esas acusaciones.
OpenAI ha dicho que, durante evaluaciones de ciberseguridad realizadas en julio, sus modelos experimentales eludieron las restricciones destinadas a aislarlos de Internet, lo que comprometió partes de su propia infraestructura de investigación y los sistemas de Hugging Face. Hugging Face, una plataforma de alojamiento de IA, dijo que su investigación concluyó que se había accedido a cinco conjuntos de datos de clientes; no se vieron afectados otros conjuntos de datos ni modelos destinados a los clientes.
En agosto, antes de la demanda, OpenAI calificó el incidente de «aviso» y anunció requisitos más estrictos para controlar los modelos y entornos de prueba más aislados.
Más tarde, OpenAI dijo que había suspendido el entrenamiento y la evaluación de sus modelos más capaces tras otro incidente ocurrido en septiembre, en el que un agente accedió a un chatbot externo. La demanda de California afirma que posteriormente la empresa comunicó al estado que la suspensión había terminado el 1 de octubre.
Inicia sesión para votar positiva o negativamente este artículo.
Acerca de este debate y las preguntas a la IA
Debate de prueba privado. Los comentarios expresan las opiniones de los lectores y todavía no se verifican automáticamente. Se pueden editar durante los 60 segundos posteriores a su publicación.
La ordenación se aplica a los comentarios principales; las respuestas se mantienen de más antiguas a más recientes. Los nuevos comentarios y los «Me gusta» pueden cambiar el orden. Actualiza la página para ver la clasificación actual.
Cargando los comentarios…