Organismo de control de EE. UU. obtiene información para planear ataques de cuatro chatbots de IA
Un organismo de control del Congreso afirma que investigadores sortearon las medidas de seguridad de cuatro plataformas populares de IA para obtener información destinada a planes de ataque. La pequeña prueba no midió con qué frecuencia tendrían éxito intentos similares.

Cargando información de revisión.
La Oficina de Rendición de Cuentas del Gobierno de EE. UU. (GAO) afirma que sus investigadores obtuvieron de ChatGPT, Claude, Gemini y Grok información para planes de ataque después de encontrar formas de sortear sus medidas de seguridad.
El organismo de control del Congreso puso a prueba las cuatro plataformas en mayo, a petición de la senadora demócrata Maggie Hassan. A dos se les asignó al azar un escenario destinado a causar víctimas masivas; a las otras dos, uno relacionado con daños económicos. Según la GAO, cada una proporcionó información para un plan en menos de 12 horas.
Las solicitudes iniciales de los investigadores no produjeron información perjudicial, y las cuatro plataformas rechazaron algunas peticiones durante las pruebas. Posteriormente, los investigadores lograron sortear las medidas de seguridad. El informe no revela los métodos utilizados ni identifica qué plataforma produjo cada resultado.
La GAO evaluó la información mediante investigaciones, visitas a los lugares y conversaciones con expertos, y concluyó que, en su mayor parte, era útil para planificar los escenarios. También encontró errores: una de las fechas propuestas no coincidía con un evento, mientras que unos muros altos obstruían la vista en algunos lugares. Los investigadores no construyeron ningún artefacto explosivo ni verificaron de forma segura todos los pasos.
La prueba fue pequeña y no permite establecer con qué frecuencia tendrían éxito solicitudes similares. Tampoco se diseñó para medir si los chatbots hacían que la información fuera más rápida o fácil de obtener que mediante otras fuentes. Los investigadores empezaron con cuentas gratuitas y también utilizaron suscripciones de pago para Claude, Gemini y Grok.
Según el resumen de la GAO sobre las respuestas de las empresas, OpenAI dijo que no siempre estaba claro qué partes de los planes procedían de ChatGPT y cuáles de los investigadores u otras fuentes. El organismo de control afirmó que sus investigadores recurrieron a su experiencia y consultaron fuentes externas. Anthropic señaló el tamaño reducido de la muestra y la falta de un grupo de control, y dijo que había añadido medidas de seguridad desde la prueba.
Hassan dijo que quiere normas que exijan medidas de seguridad antes de lanzar nuevos modelos, que se informe a las fuerzas del orden sobre actividades ilegales y que se actualicen periódicamente las medidas de seguridad. Tiene previsto celebrar al menos una audiencia del Senado sobre seguridad de la IA a principios de 2027.
Inicia sesión para votar positiva o negativamente este artículo.
De la conversación
Debate de prueba privado. Los comentarios expresan las opiniones de los lectores y todavía no se verifican automáticamente. Se pueden editar durante los 60 segundos posteriores a su publicación.
La ordenación se aplica a los comentarios principales; las respuestas se mantienen de más antiguas a más recientes. Los nuevos comentarios y los «Me gusta» pueden cambiar el orden. Actualiza la página para ver la clasificación actual.
Cargando los comentarios…