Anthropic afirmó este jueves que bloqueó intentos de actores maliciosos de utilizar sus modelos de inteligencia artificial para actividades peligrosas. Entre los casos citó investigaciones que podían contribuir al desarrollo de armas biológicas y un aparente intento de un grupo de Yemen, probablemente vinculado a los hutíes respaldados por Irán, de usar Claude para desarrollar cohetes y misiles guiados.
La empresa advirtió que, a medida que los modelos de IA ganan capacidad, ataques cibernéticos complejos ya no exigen el mismo nivel de conocimientos especializados y una sola persona puede crear amenazas que hace un año no estaban a su alcance. Anthropic aseguró que incorporó salvaguardas más estrictas en sus modelos recientes para limitar consultas biológicas de doble uso que también podrían servir para fabricar armas.
“Los casos que compartimos aquí no son usos indebidos típicos, sino ejemplos de la actividad de amenaza más destacada y novedosa que hemos identificado hasta la fecha”, señaló Anthropic en su tercer informe sobre abuso de IA desde marzo de 2025.
La compañía sostuvo que publica estos hallazgos porque considera que tiene la responsabilidad de informar sobre el uso malicioso de sus servicios y porque los riesgos crecerán a medida que los modelos se vuelvan más capaces si los desarrolladores y quienes trabajan en seguridad no refuerzan las protecciones.
El informe apareció dos días después de que uno de sus investigadores anunciara su renuncia por temor a que Anthropic y sus competidores no actúen con suficiente responsabilidad en el desarrollo de la inteligencia artificial. Sus advertencias coincidieron con inquietudes dentro y fuera del sector sobre la posibilidad de que esta tecnología escape al control humano.
Claude recibió una petición relacionada con un virus más dañino
Entre diciembre de 2025 y agosto de 2026, los investigadores de Anthropic detectaron usos indebidos por parte de vendedores de programas espía, individuos con motivaciones políticas y grupos respaldados por Estados que difundían propaganda.
Uno de los casos involucró a actores no identificados que intentaron usar los modelos de la empresa para una investigación con posibles aplicaciones en armas biológicas. Anthropic dijo que sus sistemas bloquearon una solicitud de ayuda a Claude para redactar una propuesta de financiación científica.
La propuesta estaba relacionada con una investigación de ganancia de función sobre el virus chikunguña, con cambios dirigidos a su capacidad de transmisión y de evasión del sistema inmunitario.
El chikunguña es un virus transmitido por mosquitos que puede causar síntomas graves, entre ellos dolor intenso y fiebre. La solicitud buscaba apoyo para una investigación orientada a reforzar mutaciones que hicieran al virus cada vez más dañino. Anthropic reconoció que este tipo de trabajo puede servir para mejorar vacunas y tratamientos, pero también puede aumentar el peligro de un patógeno.
Un grupo en Yemen usó Claude en tres proyectos de armas
Anthropic también describió el caso de un grupo asentado en el norte de Yemen que intentó utilizar Claude para desarrollar cohetes y misiles guiados. La empresa indicó que detectó una célula que trabajaba en tres programas de armamento.
Los proyectos incluían un cohete guiado con un sistema de vuelo basado en componentes de uso común y capacidad de guía en la fase final, un misil balístico de varias etapas con una meta declarada de más de 2.000 kilómetros de alcance y otro misil con varias versiones, entre ellas una variante con vehículo planeador hipersónico.
La célula recurrió a Claude para trabajar en software de guía, navegación y control para esas armas, una tarea que, de otro modo, habría requerido un equipo de ingenieros.
Anthropic afirmó que no tiene pruebas de que el grupo lograra desplegar un dispositivo operativo, aunque sí detectó una prueba de lanzamiento de un cohete guiado. La prueba aparentemente fracasó y, pocas horas después, los responsables volvieron a Claude para intentar averiguar la causa.
La empresa aseguró que prohibió las cuentas relacionadas en cuanto detectó la actividad ilegal.
Anthropic no identificó públicamente a los responsables. Sin embargo, señaló que el grupo operaba en el norte de Yemen, una zona controlada en gran parte por los hutíes, que también dominan la capital, Saná.
La revelación coincidió con una ofensiva de los hutíes, respaldados por Irán, hacia el estrecho de Bab el Mandeb. El viernes, el grupo aseguró que había tomado el control de una isla del mar Rojo situada en medio de esa ruta marítima.
Anthropic endureció las barreras de sus modelos más recientes
Ninguno de los casos incluidos en el informe utilizó los modelos más recientes y potentes Claude Fable o Mythos, salvo un caso de destilación ilícita que la empresa describió como una campaña encubierta a escala industrial para extraer las capacidades de un modelo y reproducirlas en otro sin autorización.
Anthropic afirmó que modelos anteriores, como Claude Opus 4 y Claude Sonnet 4.5, lanzados en 2025, estaban muy por debajo del nivel necesario para ayudar de forma significativa a un usuario sofisticado a realizar investigación biológica peligrosa.
Por esa razón, sus salvaguardas eran menos estrictas y se centraban sobre todo en impedir que personas sin experiencia accedieran a información que pudiera facilitar la recreación de armas biológicas conocidas.
La empresa sostuvo que esa garantía ya no puede aplicarse con la misma seguridad a los modelos actuales, capaces de ayudar en tareas científicas complejas. Por ello, añadió barreras más fuertes para restringir una amplia variedad de consultas biológicas de doble uso en modelos recientes como Claude Fable 5.
Expertos han pedido que los gobiernos regulen la tecnología a medida que las compañías lanzan sistemas de IA cada vez más potentes, en lugar de dejar toda la supervisión en manos de la propia industria.
John Thickstun, profesor asistente de Ciencias de la Computación en la Universidad de Cornell, cuestionó que empresas como Anthropic y OpenAI tengan que decidir por sí mismas qué conductas son seguras o peligrosas y tomar decisiones de gran alcance social sin supervisión democrática o deliberativa.
El informe también detectó redes de influencia política
Anthropic identificó además grupos que crearon cientos de cuentas en redes sociales con apariencia de perfiles ordinarios y que publicaron durante una semana mensajes que reforzaban una misma posición política. La empresa describió nueve casos con origen en Rusia, Irán, Turquía, el golfo Pérsico, Asia del Sur, África y Europa.
La compañía explicó que las plataformas sociales pueden descubrir una operación de influencia cuando las publicaciones ya circulan, mientras que Anthropic puede detectarla en Claude durante su preparación.
El informe salió después de que el investigador Jacob Coxon anunciara su renuncia y expresara el temor de que Anthropic y OpenAI avancen hacia una superinteligencia capaz de mejorarse a sí misma y pongan vidas en riesgo. Coxon también advirtió que algunos de sus colegas creen que la IA podría amenazar la vida humana antes del final de la década.
Anthropic aseguró que bloqueó cada una de las actividades maliciosas que identificó, utilizó esos casos para reforzar sus salvaguardas y compartió información con autoridades gubernamentales y socios de la industria.
“Esperamos que los hallazgos de este informe ayuden a otros desarrolladores a reconocer patrones similares en sus propias plataformas, den a los gobiernos y a la sociedad civil una visión más clara de cómo toman forma las amenazas emergentes y fortalezcan las defensas colectivas”, señaló la empresa.
