En el camino hacia un futuro de carros sin conductor, un estudio reciente del Kings College de Londres arroja luz sobre un problema crítico: los sistemas de vehículos autónomos presentan un sesgo en la detección de peatones, con resultados preocupantes que resaltan desigualdades en la capacidad de identificación de peatones adultos y niños, así como de personas de piel clara y piel oscura
El análisis realizado por los investigadores del Kings College examina ocho sistemas de detección de peatones impulsados por inteligencia artificial. Mediante la evaluación de más de 8.000 imágenes utilizando estos sistemas, se reveló que los algoritmos de vehículos autónomos son un 20% más efectivos en detectar peatones adultos en comparación con niños. Así mismo, se detectó que estos sistemas tienen un rendimiento superior en la detección de peatones de piel clara en comparación con los de piel oscura, con una diferencia de más del 7,5%.
La preocupación no se detiene aquí. El estudio también reveló que la IA tenía un rendimiento aún más deficiente en la detección de personas de piel oscura en entornos con poca o ninguna luz, lo que plantea serias dudas sobre la seguridad de esta tecnología durante la noche.
Te puede interesar: Mercedes-Benz anuncia la integración de ChatGPT en sus carros, así funcionará
En términos simples, el estudio sugiere que cruzar la calle podría volverse más peligroso en el futuro cercano para niños y personas de piel oscura debido a estas deficiencias en los sistemas de detección de vehículos autónomos. Jie Zhang, uno de los autores del estudio, señaló: “La justicia en la IA implica que un sistema trata a los grupos privilegiados y desfavorecidos por igual, lo cual no es el caso actual con los vehículos autónomos”. Zhang también destacó que los problemas de sesgo presentes en sistemas de código abierto probablemente también afecten a los fabricantes de automóviles.
Este estudio pone de manifiesto que aún queda un largo camino por recorrer antes de que los vehículos autónomos sean una realidad segura en las carreteras. La investigación subraya la importancia de abordar los sistemas presentes en los conjuntos de datos y en el diseño de algoritmos, ya que incluso pequeñas distorsiones podrían tener consecuencias fatales. La seguridad de peatones y conductores debe ser la máxima prioridad en el desarrollo de esta tecnología en evolución.
Imagen: Portal GDA vía Flickr
