Todos los artículos de noticiasNMC RESEARCH

Organismo de control de EE. UU. obtiene información para planear ataques de cuatro chatbots de IA

Un organismo de control del Congreso afirma que investigadores sortearon las medidas de seguridad de cuatro plataformas populares de IA para obtener información destinada a planes de ataque. La pequeña prueba no midió con qué frecuencia tendrían éxito intentos similares.

Imagen provisional de sección · Ilustración por IA
Cargando las estadísticas…

Cargando información de revisión.

La Oficina de Rendición de Cuentas del Gobierno de EE. UU. (GAO) afirma que sus investigadores obtuvieron de ChatGPT, Claude, Gemini y Grok información para planes de ataque después de encontrar formas de sortear sus medidas de seguridad.

El organismo de control del Congreso puso a prueba las cuatro plataformas en mayo, a petición de la senadora demócrata Maggie Hassan. A dos se les asignó al azar un escenario destinado a causar víctimas masivas; a las otras dos, uno relacionado con daños económicos. Según la GAO, cada una proporcionó información para un plan en menos de 12 horas.

Las solicitudes iniciales de los investigadores no produjeron información perjudicial, y las cuatro plataformas rechazaron algunas peticiones durante las pruebas. Posteriormente, los investigadores lograron sortear las medidas de seguridad. El informe no revela los métodos utilizados ni identifica qué plataforma produjo cada resultado.

La GAO evaluó la información mediante investigaciones, visitas a los lugares y conversaciones con expertos, y concluyó que, en su mayor parte, era útil para planificar los escenarios. También encontró errores: una de las fechas propuestas no coincidía con un evento, mientras que unos muros altos obstruían la vista en algunos lugares. Los investigadores no construyeron ningún artefacto explosivo ni verificaron de forma segura todos los pasos.

La prueba fue pequeña y no permite establecer con qué frecuencia tendrían éxito solicitudes similares. Tampoco se diseñó para medir si los chatbots hacían que la información fuera más rápida o fácil de obtener que mediante otras fuentes. Los investigadores empezaron con cuentas gratuitas y también utilizaron suscripciones de pago para Claude, Gemini y Grok.

Según el resumen de la GAO sobre las respuestas de las empresas, OpenAI dijo que no siempre estaba claro qué partes de los planes procedían de ChatGPT y cuáles de los investigadores u otras fuentes. El organismo de control afirmó que sus investigadores recurrieron a su experiencia y consultaron fuentes externas. Anthropic señaló el tamaño reducido de la muestra y la falta de un grupo de control, y dijo que había añadido medidas de seguridad desde la prueba.

Hassan dijo que quiere normas que exijan medidas de seguridad antes de lanzar nuevos modelos, que se informe a las fuerzas del orden sobre actividades ilegales y que se actualicen periódicamente las medidas de seguridad. Tiene previsto celebrar al menos una audiencia del Senado sobre seguridad de la IA a principios de 2027.

Inicia sesión para votar positiva o negativamente este artículo.

De la conversación

Debate de prueba privado. Los comentarios expresan las opiniones de los lectores y todavía no se verifican automáticamente. Se pueden editar durante los 60 segundos posteriores a su publicación.

Inicia sesión con una cuenta de lector confirmada y elige un nombre de usuario para leer los comentarios y participar.

La ordenación se aplica a los comentarios principales; las respuestas se mantienen de más antiguas a más recientes. Los nuevos comentarios y los «Me gusta» pueden cambiar el orden. Actualiza la página para ver la clasificación actual.

Cargando los comentarios…