Israel se compromete a la IA responsable, defendiendo los derechos humanos y la democracia en un tratado firmado con 57 países.
Israel se une a EE. UU. y Europa en tratado sobre inteligencia artificial
Israel ha firmado junto a Estados Unidos, Reino Unido y varios países de la Unión Europea un tratado internacional para fomentar el uso de la inteligencia artificial de manera que promueva el bien común. La iniciativa busca garantizar que esta tecnología no socave los principios democráticos, los derechos humanos ni el Estado de derecho.
La ministra de Innovación, Ciencia y Tecnología, Gila Gamliel, destacó la importancia de esta firma para consolidar a Israel como un líder en la creación de políticas globales en inteligencia artificial. Además, destacó que el tratado impulsará al país a la vanguardia de las naciones más avanzadas en este campo.
Este tratado, el primero de su tipo y firmado por 57 naciones, incluye a 46 Estados miembros del Consejo de Europa. Tras su ratificación, los países se comprometerán a evitar cualquier resultado perjudicial y discriminatorio generado por sistemas de IA, en medio de crecientes preocupaciones globales sobre la regulación de esta tecnología.
El primer tratado mundial de IA y su impacto en la innovación responsable
La convención sobre inteligencia artificial, aprobada bajo el marco del Consejo de Europa, establece principios y normas globales para garantizar que el despliegue de esta tecnología cumpla con los derechos humanos y el Estado de derecho. Mientras los legisladores debaten cómo regular la IA, los países firmantes se enfrentarán a la responsabilidad de los efectos negativos que puedan surgir de su aplicación.
En un contexto de preocupación por el avance de la IA en Israel, que ha sido afectado por la guerra con Hamás, la firma del tratado se ve como un paso clave para impulsar la innovación en el país. A pesar de la guerra, el gobierno israelí considera crucial participar en estos acuerdos internacionales.
La tecnología de IA, que ha experimentado un rápido desarrollo en la última década, tiene un gran potencial en áreas como el reconocimiento facial, la medicina y la toma de decisiones complejas. Sin embargo, expertos señalan que la IA también plantea riesgos significativos que deben ser gestionados adecuadamente.
La IA, un campo de rápido desarrollo que plantea oportunidades y riesgos
Durante una conferencia en Tel Aviv, el profesor Amnon Shashua, cofundador de AI21 Labs, afirmó que la IA generativa está en un punto de inflexión, aunque todavía no representa una revolución. AI21 Labs es una empresa que trabaja en procesamiento de lenguaje natural, compitiendo directamente con OpenAI.
Shashua explicó que los modelos avanzados de IA están cerca de imitar la inteligencia humana en la resolución de problemas complejos. Esto podría transformar la relación entre los humanos y las máquinas en el futuro cercano, afectando a numerosas áreas del conocimiento.
Por otro lado, naciones de todo el mundo invierten grandes sumas de dinero en esta tecnología, viéndola como el motor del crecimiento económico global en los próximos años. Sin embargo, con estos avances vienen también advertencias sobre los peligros de la IA, especialmente en infraestructuras críticas y la creación de deepfakes.
Expertos advierten sobre los riesgos de la IA mientras crece su uso global
Sam Altman, director ejecutivo de OpenAI, ha señalado que la regulación gubernamental será crucial para evitar los riesgos de los sistemas de IA más avanzados. Entre las preocupaciones, se encuentra el uso indebido de la IA en la educación y la creación de deepfakes, lo que podría tener consecuencias negativas para la sociedad.
El tratado firmado por Israel y otros países busca frenar estos posibles abusos y asegurar que la IA no se utilice para socavar las instituciones democráticas ni los derechos humanos. Sin embargo, el acuerdo no establece sanciones específicas en caso de incumplimiento, lo que ha generado dudas sobre su efectividad.
El Fiscal general Adjunto de Israel, Dr. Gilad Noam, subrayó la importancia de mantener la participación del país en procesos internacionales a pesar de los desafíos locales. Según Noam, es crucial que Israel siga innovando y, al mismo tiempo, proteja los derechos humanos en colaboración con sus aliados.
El tratado de IA obliga a supervisar el uso ético y responsable de la tecnología
El marco jurídico del tratado establece que los países signatarios deben garantizar que los sistemas de IA no socaven la separación de poderes ni afecten la independencia judicial. Asimismo, impone a los gobiernos la responsabilidad de supervisar los efectos de la IA y proteger los derechos de privacidad de las personas.
Para cumplir con el tratado, los países deberán identificar y minimizar los riesgos que plantea la IA, basándose en evaluaciones de impacto que consideren los efectos potenciales para los derechos humanos. Esta medida es vista como un paso esencial para gestionar el crecimiento de la IA de forma ética y responsable.
No obstante, el tratado no contempla sanciones ni multas por incumplimiento, lo que plantea interrogantes sobre cómo se aplicará en la práctica. A pesar de ello, los países firmantes han manifestado su compromiso con la supervisión estricta del uso de la IA en sus territorios.
