El Consejo de Seguridad de la ONU escuchó este miércoles advertencias sobre sistemas de inteligencia artificial cada vez más potentes que, en el futuro cercano, podrían mejorar sus propias capacidades, escapar al control humano y convertirse en un problema de seguridad internacional. Entre los participantes estuvieron Sam Altman, director ejecutivo de OpenAI, Dario Amodei, director ejecutivo de Anthropic, y Clément Delangue, cofundador de Hugging Face.
Amodei sostuvo que una mala gestión de la tecnología podría convertir a la IA en un riesgo para la humanidad en su conjunto. Yoshua Bengio, copresidente del Panel Científico Internacional Independiente creado por la Asamblea general de la ONU el año pasado, afirmó que los peligros son reales e inminentes y que ningún país puede contener por sí solo una amenaza de este tipo.
Altman centró su intervención en quién debe tomar las decisiones sobre el desarrollo de la IA. Dijo que esas decisiones no deberían quedar solo en manos de laboratorios de San Francisco y que los gobiernos responsables ante sus ciudadanos también deben participar. Añadió que la dimensión internacional exige cooperación incluso entre países que compiten entre sí.
Estados Unidos y China, los dos actores dominantes en el desarrollo de IA, mantienen diferencias sobre el grado de supervisión global que necesita la tecnología. Ambos países han discutido un sistema de notificación para objetivos y amenazas comunes que abarcaría incidentes de IA capaces de alcanzar un nivel de seguridad nacional. Esas conversaciones preceden a la reunión prevista para el jueves en Washington entre Donald Trump y Xi Jinping.
Trump dijo el martes ante la Asamblea general de la ONU que rechaza un esquema global para controlar la inteligencia artificial. También afirmó que Estados Unidos pretende mantener su ventaja frente a China y que no quiere frenar una tecnología que, a su juicio, tendrá una magnitud superior a la Revolución Industrial. Señaló además que el Departamento de Justicia la vigilará de cerca.
El secretario general de la ONU, Antonio Guterres, ha defendido una gobernanza global de la inteligencia artificial y advirtió que la velocidad de sus avances plantea riesgos que no deben ignorarse. Su posición contrasta con la expresada por Trump sobre el alcance que debería tener una supervisión internacional.
La sesión, presidida por el ministro francés de Relaciones Exteriores, Jean-Noël Barrot, tuvo lugar durante la reunión anual de la Asamblea general. Los quince miembros del Consejo de Seguridad participaron, incluidos Estados Unidos y China.
El Consejo ya había tratado los riesgos de la inteligencia artificial en 2023. En aquella ocasión, China advirtió que la tecnología no debía convertirse en un “caballo fugitivo”, mientras Estados Unidos alertó contra su uso para censurar o reprimir a la población. En 2024, el entonces secretario de Estado estadounidense Antony Blinken presidió otra reunión del Consejo dedicada a la IA.
