Las plataformas pequeñas y poco conocidas son muy vulnerables para que grupos publiquen videos violentos y contenido terrorista. Estas imágenes terminan filtrándose en las redes; sin embargo ahora una herramienta creada por una filial de Google, logra detectar y eliminar estos videos y fotos.
La nueva herramienta tiene el difícil objetivo de mantener el contenido terrorista fuera de Internet. Es conocido que las pequeñas plataformas sin recursos ni experiencia para manejar solicitudes de eliminación, han sido ‘armas’ de propaganda para grupos terroristas que comparten contenido violento.
Los grupos terroristas almacenan, comparten y vinculan contenidos en estas plataformas; videos violentos de decapitaciones y propaganda de reclutamiento.
Altitude fue lanzada en París para ayudar a resolver el problema. Creada por Jigsaw (una unidad dentro de Google que rastrea el extremismo violento, la desinformación y la censura represiva) y Tech Against Terrorism, un grupo que busca interrumpir la actividad de los terroristas en línea; tiene como objetivo brindar a las plataformas más pequeñas la capacidad de detectar de manera fácil y eficiente dicho contenido en sus redes y eliminarlo.
Te puede interesar: Así funciona la prótesis que ayuda a traducir los pensamientos de personas que perdieron el habla
Foro Global de Internet para Contrarrestar el Terrorismo también trabaja en el proyecto. Este es un grupo liderado por la industria fundado en 2017 por Facebook, Microsoft, Twitter y YouTube que alberga una base de datos compartida de hashes de imágenes (una especie de huella digital) de terroristas.
Cabe notar que tras años de errores y de no haber abordado el problema, plataformas como Facebook, Google y X (anteriormente Twitter), con la ayuda de ONG dedicadas y autoridades policiales, han eliminado en gran medida este contenido, con la notable excepción de Telegram.
Por esto los grupos violentos se han trasladado a plataformas menos reguladas. “El Estado Islámico y otros grupos terroristas no abandonaron Internet sólo porque ya no tenían el megáfono de sus plataformas de redes sociales. Encontraron esta oportunidad para alojar contenido en sitios de alojamiento de archivos u otros sitios web, plataformas pequeñas y medianas.”, argumenta Yasmin Green, directora ejecutiva de Jigsaw.
Te puede interesar: Smartphones detectan embriaguez analizando cambios en la voz, ¿cuál será su utilidad?
Otros escudos y rastreadores como Altitude son muy costosos para las empresas pequeñas. Expertos creen que estas herramientas deben ser de código abierto y gratuitas.
Altitude se puede integrar directamente en el backend de cualquier plataforma con la que esté trabajando, luego se conecta a la propia plataforma de análisis de contenido terrorista de Tech Against Terrorism, que centraliza la colección de contenido creado por organizaciones terroristas oficialmente designadas.
La base de datos permite a todas las plataformas que utilizan Altitude comprobar fácilmente si un contenido ha sido verificado como contenido terrorista.
La herramienta también proporcionará contexto sobre los grupos con los que está asociado el contenido, otros ejemplos de este tipo de material, información sobre lo que otras plataformas han hecho con el material e incluso información relacionada con las leyes pertinentes de un país.
Te puede interesar: Colombiana produce plástico con aguacate y remolacha, ¿para qué se utiliza?
“No estamos aquí para decirle a las plataformas qué hacer, sino más bien para brindarles toda la información que necesitan para tomar la decisión de moderación. Queremos mejorar la calidad “No se trata del volumen de material eliminado, sino de garantizar que el peor material se elimine de una manera que apoye el estado de derecho”, argumenta Adam Hadley, director ejecutivo de Tech Against Terrorism.
Tech Against Terrorism trabaja con más de 100 plataformas, casi todas en reserva debido al impacto negativo en su negocio de estar vinculadas a contenido terrorista. Se incluye a pastbins, aplicaciones de mensajería, plataformas para compartir vídeos, redes sociales y foros.
Para muchas de estas plataformas más pequeñas, lidiar con solicitudes de eliminación de gobiernos, organizaciones de la sociedad civil, fuerzas del orden y los propios usuarios de la plataforma puede ser abrumador y hacer que las empresas se vayan a un extremo u otro.
La guerra entre Israel y Hamas ha demostrado el importante papel que sigue desempeñando Telegram al permitir que los grupos terroristas difundan sus mensajes. El contenido terrorista sigue siendo accesible y se comparte rápidamente en otras plataformas.
Imagen: shironosov
