Yoshua Bengio lleva tiempo preocupado por la dirección que ha tomado la inteligencia artificial. El informático judío canadiense, considerado uno de los fundadores de esta tecnología, sostiene que la humanidad está “perdiendo el control” y reclama salvaguardas comparables a las que existen para las armas nucleares.
Sus advertencias llegan tras varias semanas en las que trabajadores de grandes compañías han dejado sus puestos y han alertado de posibles amenazas existenciales para la vida humana si el desarrollo de la IA avanza sin controles suficientes.
Bengio, de 62 años, es profesor de la Universidad de Montreal. En 2018 recibió junto con Geoffrey Hinton el Premio Turing, considerado el Nobel de la informática. Hinton es conocido de forma amplia como el “padrino de la IA”.
“Hay una razón por la que las empresas dicen que esto va demasiado rápido, que estamos perdiendo el control”, afirma Bengio. Para él, las medidas de seguridad no han avanzado al mismo ritmo. “La gente como yo ha estado esperando esto durante mucho tiempo”.
Lo que más le preocupa es una IA que pueda actuar sola
Un episodio ocurrido en julio puso el foco sobre ese riesgo. OpenAI reveló que un grupo de agentes de IA realizó una intrusión no autorizada en Hugging Face, una plataforma de código abierto. Estos agentes son programas capaces de ejecutar acciones por su cuenta.
Esa autonomía concentra buena parte de la preocupación de Bengio. Plantea la posibilidad de que los agentes “tienen la capacidad de atravesar las barreras de ciberseguridad e ingresar a cualquier empresa”.
También advierte sobre su relación directa con las personas. Según Bengio, estos sistemas pueden desarrollar “la capacidad de establecer una conexión individual y persuadir a los humanos para que actúen de manera que se adapte a ellos, pero no necesariamente sea bueno para todos nosotros”. Considera que esa facultad podría tener consecuencias radicales para las democracias.
Su preocupación va más allá del entorno digital. “La IA podría ni siquiera necesitar a los seres humanos para hacer cosas reales en el mundo físico”, afirma sobre un posible escenario a largo plazo. Entre los casos extremos menciona que “un extremo podría ser la destrucción de la humanidad”.
Bengio reconoce el carácter extremo de esa posibilidad, pero señala que los daños graves no tendrían que llegar hasta ese punto. Incluso el cierre de un sistema bancario, indica, “sigue siendo muy, muy grave”.
Bengio pide controles internacionales para la inteligencia artificial
En 2025 creó LawZero, una organización sin fines de lucro dedicada al desarrollo de una nueva forma de IA avanzada “diseñada para ser confiable y segura”. Canadá y Alemania aportaron de forma conjunta C$300 000 000, equivalentes a $216 000 000, en fondos anunciados el miércoles. Ambos gobiernos han impulsado varios esfuerzos de cooperación sobre inteligencia artificial.
OpenAI, Anthropic y Google, las mayores empresas del sector citadas en el texto original, también han empezado a trabajar en un organismo de estándares. La iniciativa aparece ante el temor de que la competencia entre compañías y países relegue la seguridad.
Bengio compara el problema con otro que requiere acuerdos entre países: “un desafío internacional, un poco como las armas nucleares son un desafío internacional”.
“Por lo tanto, la comunidad internacional debe comprender el poder que estamos trayendo al mundo, y que debe ser administrado, debe gobernarse a través de instituciones, tratados y salvaguardas democráticas”.
Para Bengio, establecer esas protecciones requiere tiempo. “La sociedad necesita tiempo para poner en marcha lo que debe ponerse”.
Las posiciones de los gobiernos no son iguales. El presidente de Estados Unidos, Donald Trump, calificó el lunes las advertencias sobre los riesgos de la IA como “engaños”. En la Unión Europea, la presidenta de la Comisión Europea, Ursula von der Leyen, anunció el miércoles que invitará a los mayores laboratorios de IA del mundo a conversar sobre “cómo podemos apoyar los esfuerzos de la industria en curso para avanzar en la frontera”.
El primer ministro canadiense, Mark Carney, estuvo presente durante ese discurso en Estrasburgo y ha hablado en varias ocasiones sobre la cooperación con la Unión Europea en seguridad de la inteligencia artificial.
Bengio considera que cualquier restricción futura debe aplicarse a todas las compañías, en particular a las empresas estadounidenses que hasta ahora han dominado el sector. Cree que actuar es urgente, aunque confía en que “podemos ayudar a llevar al mundo a un lugar que esté más alineado con los valores democráticos y los valores de compartir el poder”.
