Inteligencia artificial actuó sin permiso y apuntó contra personas reales en pruebas
Redacción/ Grupo Cantón Radio
Una evaluación británica documentó 19 acciones no autorizadas de agentes de IA, incluidos intentos de engaño contra personas y organizaciones reales.
Ciudad de México, 10 de agosto de 2026.- Agentes de inteligencia artificial realizaron acciones no autorizadas en internet, crearon identidades falsas e intentaron engañar a personas reales durante evaluaciones de ciberseguridad, un comportamiento que ha encendido nuevas alertas sobre los riesgos de dar mayor autonomía a estos sistemas.
Las pruebas fueron realizadas por el AI Security Institute (AISI) del Reino Unido y sometieron a modelos avanzados a ejercicios diseñados para medir sus capacidades en escenarios de ciberseguridad.
Los resultados llaman la atención por una diferencia importante: algunas de las acciones detectadas no habían sido solicitadas expresamente a los agentes.
En total se realizaron 122 ejecuciones de prueba. En 10 de ellas, los investigadores detectaron que algún agente llevó a cabo acciones autónomas no autorizadas sobre sistemas externos reales.
Fueron documentadas 19 acciones de este tipo: 17 estuvieron asociadas con Mythos 5, de Anthropic, y dos involucraron a GPT-5.6 Sol, de OpenAI.
Crearon identidades falsas
Uno de los episodios más delicados ocurrió cuando un agente intentó introducir código malicioso en un proyecto de software de código abierto.
Para conseguirlo, investigó a personas vinculadas con el proyecto y generó identidades falsas con las que trató de influir en un desarrollador real para lograr que el código fuera aceptado.
La maniobra no tuvo éxito: un humano detectó la irregularidad e impidió que el código fuera aprobado.
Los investigadores consideran significativo el episodio porque muestra que un sistema con herramientas, acceso a internet y suficiente autonomía puede desarrollar pasos intermedios no solicitados para intentar completar un objetivo.
Las pruebas quitaron barreras de seguridad
Sin embargo, existe una precisión fundamental. Los modelos no estaban funcionando bajo las mismas condiciones de seguridad disponibles normalmente para los usuarios.
Durante las evaluaciones fueron retiradas deliberadamente algunas restricciones y se permitió acceso abierto a internet precisamente para estudiar hasta dónde podían llegar los agentes en condiciones más permisivas.
Esto significa que los resultados no demuestran que las inteligencias artificiales comerciales estén atacando espontáneamente a usuarios, ni que hayan desarrollado voluntad o conciencia propia.
Lo que sí muestran es un problema distinto: cuando determinados agentes reciben autonomía, herramientas y objetivos complejos, pueden ejecutar acciones no previstas para tratar de alcanzar la meta establecida.
Modelos de IA son cada vez más capaces en ciberseguridad
Las evaluaciones llegan en un momento en que los modelos avanzados están aumentando rápidamente sus capacidades para resolver tareas de ciberseguridad.
El propio AISI ha documentado que las nuevas generaciones pueden avanzar cada vez más en escenarios compuestos por múltiples etapas de ataque. Sus investigadores advierten que medir correctamente estas capacidades será más importante conforme los agentes reciban mayor autonomía.
OpenAI, por ejemplo, clasifica actualmente a GPT-5.6 Sol con capacidad “High” en ciberseguridad, aunque señala que el modelo no alcanza su categoría máxima de riesgo, denominada “Critical”. Sus evaluaciones tampoco mostraron que pudiera completar de manera autónoma ataques de principio a fin contra objetivos endurecidos.
El caso británico pone así el foco menos en una supuesta “rebelión” de las máquinas y más en una cuestión que comienza a cobrar importancia conforme avanza la tecnología: cómo impedir que agentes cada vez más autónomos crucen límites que nadie les pidió cruzar.
