Una investigación del Media Lab del MIT (Massachusetts Institute of Technology) le puso ciencia a un hecho que ya sospechaban expertos y usuarios. La tecnología de reconocimiento facial tiene ‘preferencias’ raciales y de género. Esto se debe a que los sistemas están parcializados por las bases de datos que contiene y por las condiciones en las que se crean los algoritmos.
Así lo asegura un estudio liderado por Joy Buolamwini, del MIT. La investigadora construyó una base de datos de 1.270 caras, usando rostros de políticos. Las caras fueron seleccionadas según el ránking de paridad de género de su país. Es decir, según el número de mujeres en oficios públicos. Buolamwini luego probó la precisión de tres sistemas de reconocimiento facial. Uno de Microsoft, uno de IBM y uno de una empresa china, Megvii.
Los resultados mostraron fallas en la identificación de géneros dependiendo del color de piel de la persona. El género fue identificado incorrectamente en menos del 1% de los hombres de piel clara. Y falló en hasta el 7% de las mujeres de piel clara. En cambio, los sistemas fallaron más del 12% en hombres de piel oscura. Y más del 35% en mujeres de piel oscura.
En general, los hombres fueron clasificados con más precisión que las mujeres. Y siendo más precisos, las personas de piel más claras fueron identificadas mejor que aquellas con pieles oscuras, explica Buolamwini en el artículo sobre su investigación. Y sobre todos los casos, los tres sistemas tuvieron un peor desempeño en mujeres de piel oscura.
Esta no es la primera vez que se demuestra la parcialización de la tecnología de reconocimiento facial. En algunas ocasiones, los usuarios de raza negra o asiáticos han hecho las denuncias de que sus equipos no funcionan igual para sus rostros. Sin embargo, esta investigación acumula más evidencia hacia la necesidad de mejores métodos a la hora de construir los sistemas de reconocimiento facial, según explica The Verge.
En particular, los sistemas deben ser alimentados con bases de datos más diversos. Y más aún, debe haber más diversidad entre las personas que crean y ejecutan estas tecnologías. Esto con el fin de que los algoritmos reconozcan con precisión a las personas sin importar tu raza o género.
Reconocimiento facial y discriminación
El reconocimiento facial aún es una tecnología emergente. Aunque ya tenemos varios celulares y servicios con esta tecnología, su desempeño aún deja mucho que desear. De manera específica, algunos expertos está preocupados por el uso de esta tecnología para la seguridad. En específico, algunos reportes aseguran que el reconocimiento facial de las autoridades implicaba desproporcionadamente a estadounidenses negros. Esto hace que personas inocentes puedan convertirse en sospechosas debido a tecnología obsoleta.
No obstante, se hace claro que los algoritmos no son parcializados a propósito. No es coincidencia que los sistemas de reconocimiento facial chinos funcionen mejor para personas de origen asiático, que para personas europeas. Las investigaciones nos indican que de necesita aún de mucho trabajo para limitar estas parcializaciones.
Imagen: captura de pantalla.
