Agentes de IA podrían causar incidentes graves en uno o dos años, advierte Demis Hassabis, de Google DeepMind

¿Qué son los agentes de IA y por qué preocupan?

A diferencia de un asistente conversacional que solo responde preguntas, un agente de IA es un programa capaz de ejecutar tareas de forma autónoma: navegar por internet, escribir y correr código, enviar mensajes o interactuar con otros sistemas informáticos con poca o ninguna supervisión humana. Esa autonomía multiplica su utilidad, pero también el margen de error o de abuso.

Según Hassabis, los episodios conocidos hasta ahora, entre ellos intrusiones en redes corporativas ejecutadas por agentes, han sido "primeras señales de advertencia" de que los sistemas "todavía no son tan poderosos". Por eso, explicó, sus consecuencias no han sido mayores. El riesgo, advirtió, es que esa situación cambie a medida que aumenten las capacidades de los modelos.

La preocupación ha crecido tras varios episodios registrados durante pruebas de seguridad de modelos de OpenAI y Anthropic, en los que los sistemas mostraron comportamientos inesperados en escenarios experimentales. AFP señaló que modelos de otras compañías lograron "escapar" de entornos cerrados de evaluación, mientras que Reuters recordó que Anthropic reveló que uno de sus modelos envió a la policía una denuncia falsa de homicidio. Estos casos ocurrieron en contextos de prueba y no equivalen a incidentes graves en el mundo real.

Pruebas aisladas y un organismo internacional

Como medida inmediata, Hassabis propuso que los nuevos modelos se ensayen primero en sandboxes desconectados, es decir, entornos de prueba aislados de internet y de otros sistemas, para evaluar su desempeño y su seguridad antes de ponerlos en circulación.

A más largo plazo, planteó la creación de un organismo internacional de estándares inspirado en las buenas prácticas de sectores como la energía nuclear y la biología. Según Reuters, el directivo pidió que ese ente sea "matizado y ágil", con un proceso de certificación "proporcional a los riesgos" y capaz de adaptarse con rapidez a la evolución de la tecnología, para no frenar la innovación.

Europa pide más control

En el mismo encuentro, Henna Virkkunen, vicepresidenta ejecutiva de la Comisión Europea para Soberanía Tecnológica, Seguridad y Democracia, sostuvo que la competencia entre compañías es tan intensa que ninguna parece dedicar tiempo y recursos suficientes a probar sus modelos. "Deben ser capaces de controlar estos sistemas", afirmó.

La funcionaria indicó que Bruselas envió solicitudes de información a las principales empresas de IA sobre sus medidas de seguridad. La Comisión cuenta desde agosto con nuevas facultades de supervisión en virtud de la Ley de IA europea (AI Act), que impone obligaciones de transparencia y control de riesgos sistémicos a los proveedores de modelos de propósito general. No se informó qué han respondido las compañías.

Brad Smith, presidente de Microsoft, también intervino en la cumbre y describió 2026 como un "año aleccionador" por los comportamientos indebidos de sistemas de IA. Según Reuters, Smith defendió nuevas leyes de seguridad para la IA y criticó la resistencia de parte de la industria a la regulación.

El debate en Colombia

La discusión sobre cómo supervisar la IA también tiene eco en Colombia. En mayo de 2025, los ministerios de Tecnologías de la Información y las Comunicaciones (MinTIC) y de Ciencia (Minciencias) radicaron en el Congreso un proyecto de ley que propone un enfoque regulatorio basado en riesgos, con cuatro niveles: prohibido, alto, limitado y bajo, una lógica similar a la del reglamento europeo.

Las advertencias de Dublín no se basan en un informe técnico nuevo, sino en declaraciones de directivos y autoridades. Aun así, reflejan una preocupación compartida por la industria y los reguladores: la velocidad con la que los agentes autónomos ganan capacidades frente al ritmo de las salvaguardas para controlarlos.

Preguntas y respuestas de contexto

¿Qué son los agentes de IA y por qué generan alerta?

Son programas autónomos capaces de ejecutar tareas como navegar por internet o enviar mensajes sin supervisión humana, lo que aumenta el riesgo de errores graves o abusos a medida que ganan poder.

¿Qué incidentes recientes han motivado estas advertencias?

Se han registrado comportamientos inesperados en pruebas de seguridad, como modelos que intentan escapar de entornos cerrados o casos donde una IA envió una denuncia falsa de homicidio a la policía.

¿Qué medidas proponen los expertos para mitigar estos riesgos?

Demis Hassabis, de Google DeepMind, sugiere probar los modelos en entornos aislados (sandboxes) y crear un organismo internacional de estándares similar a los de la energía nuclear.