La inteligencia artificial de reconocimiento facial puede ser profundamente defectuosa, pero está mejorando constantemente, según la empresa israelí AnyVision, que crea productos y algoritmos únicos que se utilizan para controlar la entrada a aeropuertos, hospitales y casinos y permitir el paso de las fronteras estatales.
Activa en 45 países, AnyVision compartió recientemente su tecnología de recopilación de datos en la Conferencia Europea sobre Visión por Computadora 2020, que terminó la semana pasada.
La compañía llevó a cabo un Taller de Reconocimiento Facial para ver si era posible reducir la cantidad de sesgo que revelan los sistemas de inteligencia artificial. Entre los 10 equipos ganadores, el sesgo fue tan bajo que se volvió casi insignificante.
“En los primeros días del reconocimiento facial, las compañías usaban datos erróneos”, dijo el investigador de AnyVision, Dr. Eduard Vazquez, al Jerusalén Post. “No puedes usar malos datos y obtener buenos resultados. “Una inteligencia artificial nunca debe ser usada para tomar decisiones como a quién arrestar o si alguien es culpable de un crimen”.
Esas herramientas solo pueden utilizarse adecuadamente en una sociedad con un sistema jurídico que funcione y con derechos humanos básicos, dijo al Post.
Vázquez es cuidadoso en señalar que, así como está mal decir que las máquinas son parciales, está mal decir que las máquinas no son parciales. Sin embargo, los sistemas de inteligencia artificial son menos parciales que las personas.
“Es una herramienta que intentamos mejorar todo el tiempo. No está pensada, y no debería ser usada nunca, para tomar decisiones por sí misma”.
En la ciencia ficción distópica hay historias sobre personas que no pueden probar que son quienes dicen ser. En el mundo real, dijo Vázquez, hay otras formas de probar la identidad más allá de un escaneo de la cara, como llamar a la oficina y que le pidan que entre.
“Si un sistema de inteligencia artificial es parcial, es un mal sistema”, concluyó. “No se puede poner en el mundo real un sistema que no ha sido probado bien”.
“Si tú mismo eres parcial”, añadió, “también tendrás un sistema pobre”, sin importar la tecnología que uses.