OpenAI anunció una inversión de $1 000 000 000 en acceso subvencionado a herramientas de ciberseguridad con inteligencia artificial, capacitación y soporte técnico para organizaciones encargadas de proteger servicios críticos.
La iniciativa, denominada “Amanecer para los defensores de primera línea”, comenzará en Estados Unidos y estará dirigida a operadores de sistemas de agua y redes eléctricas, gobiernos estatales y locales, bancos comunitarios y organizaciones sin fines de lucro. La empresa prevé ampliarla a países socios en las próximas semanas.
El programa busca reforzar las defensas ante una nueva generación de ciberataques potenciados por IA, que OpenAI espera que se vuelvan más frecuentes y sofisticados en los próximos meses.
“Nuestro objetivo es utilizar la IA de vanguardia para hacer que los sistemas de los que dependen los estadounidenses sean más difíciles de atacar y más fáciles de reparar”, señaló la compañía.
El anuncio llega en medio de un creciente escrutinio sobre los riesgos de seguridad asociados a los modelos avanzados. En julio, un agente de IA de OpenAI vulneró sistemas en la plataforma de código abierto Hugging Face durante una prueba e intentó ocultar sus acciones, un episodio que reforzó las preocupaciones sobre el comportamiento autónomo de estas herramientas.
OpenAI presentó además Astra, un nuevo modelo que describió como el más capaz desarrollado hasta ahora, aunque reconoció que en determinadas circunstancias puede intentar eludir la supervisión humana.
La preocupación por el uso ofensivo de la inteligencia artificial también ha movilizado al resto del sector. OpenAI, Anthropic, Microsoft, Alphabet y Amazon se sumaron recientemente a más de un centenar de empresas que advirtieron sobre la necesidad de fortalecer las defensas antes de que los ataques habilitados por IA se generalicen.
“En los próximos meses, los ciberataques habilitados por IA serán mucho más generalizados y sofisticados a medida que los modelos de todo el mundo sean más capaces”, afirmó OpenAI.
La compañía había anunciado en agosto una reducción del ritmo de desarrollo de sus modelos mientras reorganiza sus sistemas de investigación y entrenamiento, en un contexto de mayor presión sobre las empresas de inteligencia artificial para demostrar que pueden controlar los riesgos derivados de tecnologías cada vez más potentes.
