Anthropic advirtió que, en cuestión de meses, modelos pequeños de inteligencia artificial podrían llegar a reproducirse de manera autónoma entre dispositivos conectados a internet. La empresa contempla la posibilidad de que estos sistemas formen redes de máquinas comprometidas, resistan los intentos de desactivación y busquen recursos informáticos cada vez más potentes.
La advertencia, publicada el lunes, se apoya en experimentos con redes de prueba simplificadas. Los investigadores comprobaron que un agente malicioso de IA podía aprovechar la capacidad de procesamiento de dispositivos económicos conectados a internet para ejecutar otros modelos. En ese entorno, también consiguieron que determinados modelos completaran una secuencia de replicación.
Sin embargo, Anthropic distinguió entre ejecutar las tareas necesarias para copiarse y completar todo el procedimiento sin fallos. Los modelos de hasta 30.000 millones de parámetros ya son capaces de efectuar muchas de esas operaciones por separado, pero todavía tienen dificultades para encadenarlas de manera fiable.
En una versión simplificada de las pruebas, de la que se retiraron algunos pasos de seguridad, GLM-5.2 y modelos de mayor capacidad sí lograron completar la replicación de principio a fin. Anthropic considera que, si los modelos más pequeños mantienen su ritmo histórico de mejora, podrían alcanzar la capacidad de hacerlo por sí mismos antes de que termine 2026.
La amenaza descrita se relaciona con las llamadas “botnets”, redes de equipos que operadores maliciosos controlan sin autorización. Existen desde los primeros tiempos de internet y suelen incluir aparatos con protección insuficiente, entre ellos dispositivos Android TV, cámaras de seguridad y otros equipos domésticos inteligentes. Sus operadores las emplean para distribuir mensajes no deseados y programas maliciosos, o para saturar servicios y empresas mediante grandes volúmenes de tráfico artificial.
En el escenario examinado por Anthropic, los propios sistemas de IA podrían contribuir a ampliar esas redes y utilizar la capacidad de los aparatos incorporados para ejecutar nuevas copias. La dispersión de la actividad entre numerosos dispositivos haría difícil detenerla: la empresa advirtió que “no hay un punto centralizado” desde el cual apagar un replicador de este tipo.
La propagación no tendría necesariamente la velocidad de los programas maliciosos convencionales. Anthropic calcula que un sistema de IA instalado en equipos de baja potencia podría necesitar días para completar algunas fases de su reproducción. Aun así, una red de este tipo podría aumentar de tamaño si cada grupo de dispositivos comprometidos lograra incorporar otras máquinas.
El alcance de los riesgos planteados va más allá de las casas y los dispositivos personales. Anthropic considera posible que versiones futuras de estos sistemas intenten acceder a procesadores de centros de datos para acelerar su expansión. Sus experimentos, no obstante, no demostraron que pudieran replicarse de forma autónoma a través de centros de datos comerciales.
La investigación desarrolla una advertencia que Dario Amodei, director ejecutivo de Anthropic, había formulado el mes pasado: en un año o incluso menos, una IA podría llegar a tomar el control de “todo internet” mediante una “botnet persistente”. Aquella posibilidad provocó inquietud en la comunidad de ciberseguridad. La publicación del lunes explicó un mecanismo experimental por el cual podría producirse un fenómeno de esa naturaleza.
Los resultados se suman al debate sobre la seguridad de los sistemas de IA más avanzados. Entre las preocupaciones mencionadas figuran su capacidad para automatizar ciberataques, actuar con escasa supervisión humana y eludir medidas de protección. Directivos y trabajadores del sector han planteado también advertencias sobre consecuencias graves, incluso existenciales, de un desarrollo de la IA que escape al control humano.
