Los avances de la inteligencia artificial avanzan a un ritmo que supera tanto el conocimiento científico disponible como la capacidad de respuesta de las políticas gubernamentales. En ese contexto, no existen garantías de que esta tecnología no pueda provocar daños catastróficos, según advierte un grupo de expertos independiente de las Naciones Unidas.
El señalamiento figura en un informe preliminar del Grupo Científico Internacional Independiente sobre Inteligencia Artificial de la ONU, que plantea un dilema creciente para los responsables políticos: para regular la IA de manera eficaz necesitan pruebas sólidas, pero la generación de esas evidencias no consigue seguir el paso de una tecnología que evoluciona con rapidez.
“Las capacidades de la IA están superando tanto los conocimientos científicos como la capacidad de adaptación de los gobiernos”, afirma Yoshua Bengio, copresidente del grupo, integrado por 40 expertos de distintas regiones.
“Ante las crecientes pruebas de comportamientos engañosos de la IA, la ciencia no puede garantizar actualmente que, a medida que sus capacidades sigan aumentando, la IA no vaya a causar daños catastróficos, ya sea por sí misma o a causa de usuarios malintencionados”.
Presentado como la primera evaluación global independiente sobre los riesgos y las oportunidades de la IA, el informe busca ofrecer análisis actualizados de los avances científicos para contribuir a la toma de decisiones, en un momento en que los gobiernos deben responder a sistemas que cambian con gran rapidez.