IBM, una de las compañías más relevantes en el segmento de investigación y desarrollo de tecnología, ha informado que no se adentrará más en el campo del reconocimiento facial. La razón es que la empresa tiene temores de que esta rama pueda ser utilizada para promover el racismo e injusticia social.
El anuncio y explicación se realizó a través de una carta que Arvind Krishna, presidente de IBM, compartió con el congreso de los Estados Unidos. “IBM se opone firmemente, y no aprueba ninguna tecnología, como la tecnología de reconocimiento facial ofertada por otros proveedores, para la vigilancia masiva, el perfilado racial, las violaciones de libertades y derechos humanos básicos o cualquier otro fin que no vaya en línea con nuestros valores y principios de confianza”, lee el documento compartido. “Creemos que es hora de comenzar un diálogo a nivel nacional sobre si la tecnología de reconocimiento facial debe utilizarse o no y cómo por parte de las agencias y cuerpos de seguridad”.
El contexto en el que IBM realiza el contexto parece el apropiado. Semanas después, las protestas y marchas exigiendo justicia por el asesinato de George Floyd no paran. Más importante, ha despertado debates dormidos sobre diferentes maneras en las que el racismo y discriminación ha permeado casi todas las ramas del conocimiento. Esto no excluye el campo de la tecnología. El reconocimiento facial, desde hace mucho, ha probado ser una herramienta que promueve el sesgo. También se ha cuestionado que sus peligros, dada la falta de limitaciones y estándares que existen sobre su uso.
Te puede interesar: Reconocimiento facial funciona mejor en hombres blancos: estudio MIT
“la Inteligencia Artificial es una herramienta poderosa que puede ayudar a los cuerpos de seguridad a mantener seguros a los ciudadanos. Pero los fabricantes y usuarios de los sistemas de Inteligencia Artificial deben tener una responsabilidad compartida para asegurar que la Inteligencia Artificial se prueba en relación al sesgo, en particular cuando la usan los cuerpos de seguridad, y que ese sesgo debe ser auditado y contar con informes”, afirma Krishna en su carta.
Parte de las solicitudes incluyen una solicitud al Congreso de los Estados Unidos para fomentar tecnologías que remplacen la de reconocimiento facial. Por ejemplo, el uso de cámaras corporales, investigación de análisis de datos (para mayor control de las acciones cometidas por policías) y en general investigaciones que fomenten herramientas más transparentes. Un llamado que hace eco con medidas que ya han sido tomadas en algunas ciudades en ese país, como San Francisco, Oakland y San Diego que tienen prohibido el uso de tecnología de reconocimiento facial para vigilancia.
IBM tampoco es la primera compañía de tecnología que ha roto los lazos con el reconocimiento facial. En marzo de 2020 Microsoft retiró la inversión en AnyVision, una startup israelí enfocada en este tipo de tecnología. Esto, por temores similares, asegurando que este tipo de herramientas deberían poder funcionar sin algún sesgo o violar las libertades democráticas.
Imágenes: FreePik
