El dilema de la inteligencia artificial

La inmensa mayoría del software que se ha programado en la historia no es más que una cadena de instrucciones, de órdenes del tipo ‘si pasa esto, haz esto’. Son sencillas o complejas, con muchos o pocos caminos posibles dependiendo de lo que el software deba hacer.

Así. solo con algoritmos, hemos progresado desde los tiempos de Alan Turing. La computación personal, internet, los teléfonos móviles, las redes sociales y casi toda la tecnología que tenemos hoy fue programada de esa manera.

Pero ese sigue siendo un modelo limitado. Aunque es muy bueno para hacer tareas repetitivas, o que requieran de una gran capacidad de hacer cálculos matemáticos, sí les impedía a los computadores hacer cosas que requirieran de procesos mentales complejos: cosas como responder de forma apropiada a un mensaje, o crear un poema o una canción.

Si nos pusiéramos a recrear lo que ocurre en nuestras mentes cuando realizamos algo como eso, el algoritmo sería de una complejidad inabarcable. Pero los especialistas en inteligencia artificial están pensando en maneras de que los programas informáticos puedan hacer esa clase de cosas con éxito. ¿Cómo? por medio de inteligencia artificial.

A esto, Greg Corrado, investigador científico sénior en Google, lo llama “ser astuto”. El truco, dice, no es crear un programa tan complejo como la mente humana: “Programar un computador directamente para que haga cosas astutas es mucho más difícil que enseñarle a aprender, y hacer que aprenda a ser astuto”.

A las técnicas para entrenar computadores se les llama ‘aprendizaje de máquina’. Y aunque, en su mayoría, se trata de ideas que han sido debatidas por décadas en las facultades de informática y neurociencias de todo el mundo, “solo empezaron a funcionar bien hasta ahora, con los avances actuales en poder computacional”.

Hoy, esa es una de las principales apuestas que han estado haciendo todos los gigantes tecnológicos de unos años hacia acá. Google, Apple, Microsoft y Facebook son solo algunas de las compañías que están en la carrera por ser las primeras en ofrecer un software mucho más humano, que pueda hacer cosas que antes estaban reservadas a las personas.

Ya tenemos los primeros resultados. Desde Siri hasta Google Photos, pasando por Cortana o los bots de Facebook o Slack, es cada vez más claro que la inteligencia artificial será la piedra fundacional de muchas de las herramientas tecnológicas que usemos en el futuro.

¿Cómo se hace?

Lo que busca el aprendizaje de máquina es lograr que el software se programe a sí mismo. Si el algoritmo para identificar el rostro de una persona –por ejemplo– es demasiado complejo, lo mejor es que la misma máquina lo descubra.

El método para lograrlo es hacer una enorme cantidad de pequeños procesos. La mayoría van a fallar, pero algunos se acercarán un poco más al objetivo. Luego, se repiten los que funcionaron y se les añade un segundo proceso. Ocurre lo mismo: la mayoría fracasan, pero algunos se acercan un poco más. Y así, ‘enjuague y repita’ hasta que se llega a una cadena de procedimientos que cumplen el objetivo.

Al proceso ya no se le llama ‘programar’, sino ‘entrenar’. Al principio, lo que se busca es que la máquina encuentre una manera de dar la respuesta correcta. El proceso se echa a andar hasta que la máquina sepa cómo hacerlo. Luego, la máquina comienza a intentar poner en marcha los mismos procesos en otras instancias del mismo problema, y el entrenador deben indicarle cuándo acierta y cuándo falla. Entre más se repita el proceso, mejores son los resultados.

Es un proceso que toma algún tiempo y, sobre todo, mucho poder de cómputo. Pero también requiere de mucha información. Y ahí es donde empiezan las preguntas.

El papel de los datos

Si un programa está aprendiendo a responder correos electrónicos tomando en cuenta el contexto, tiene que leer muchos correos electrónicos en su entrenamiento. Si está aprendiendo a clasificar fotos, debe ver muchas fotos. ¿Y de dónde salen esas fotos y esos correos? De los usuarios.

“Los datos son el combustible de este cohete –dice Corrado–. Ofrecen los ejemplos de los cuales se aprende. Entre más datos, mejor el resultado”. Entre otras cosas, para eso es que Google lee tus correos y escucha tu voz: para entrenar a sus programas de inteligencia artificial.

Entre más datos se utilicen para entrenar a estas máquinas, más exitosas van a ser, pues van a tener más fuentes para aprender. La tentación está ahí: como dice Corrado, la privacidad “hace que el trabajo de hacer aprendizaje de máquina sea más difícil”.

Ese es el pecado original de la inteligencia artificial: la manera más efectiva de hacerla implica violar la privacidad de sus usuarios. Google Photos, por ejemplo, crea una especie de conciencia sobre mí y otra sobre ti, y la mía no sabe nada sobre la tuya. Pero si hiciera un único proceso con todas las fotos de todos sus usuarios, podría ser mucho más eficiente y poderoso.

¿A qué costo? Si Google decidiera hacer un ‘gran cerebro’ juntando todas esas conciencias, podría saber qué pasa en las vidas de todos sus usuarios al mismo tiempo. Sabría dónde estamos, con quién nos reunimos, dónde vivimos, a dónde viajamos, quiénes son nuestros amigos.

Por ejemplo: si yo aparezco detrás de una foto tuya, el robot puede buscar más fotos de ese lugar en esa fecha. Si lo conecta con mi historial de búsquedas y de navegación, con mi correo electrónico o los mensajes de la app de mensajería que utilizo, básicamente mi privacidad deja de existir. Sumen todo el índice de la web que Google almacena en sus servidores, el contenido de todos los videos de YouTube y todos los mapas de Google Maps y Street View, y tenemos el argumento de una distopía. Y parece que técnicamente ya sería posible.

¿Estamos, entonces, a merced de que Google decida ‘no ser malo’? La compañía dice que trata esos datos con muchísimo cuidado. “No permitimos que algún ingeniero de Google o ningún humano vea las fotos, a menos de que los usuarios hayan dado consentimiento para eso”, dijo a ENTER.CO David Lieb, jefe de producto de Google Photos. La empresa asegura que tiene una política parecida con los correos, y en general con cualquier información sensible de las personas.

Otras veces, cuando necesitan juntar la información de muchas personas para entrenar un robot –por ejemplo, cuando están afinando el programa de reconocimiento de voz–, se aseguran de que los datos estén anonimizados, de modo que no puedan ser asociados a ninguna información que permita identificar a los dueños de la voz.

“Los usuarios son nuestros clientes, –dice Corrado– y no vale la pena romper su confianza”. Esa es la razón por la que, aseveran, nunca sucumbirían a la tentación de jugar al ‘Gran Hermano’. ¿Pero estarían dispuestos a que alguien más escrutara sus procesos? ¿Cómo verifican que ninguno de sus empleados rompa las reglas?

“Toda esa información está regida por nuestras políticas de privacidad que determinan que la información se mantiene siempre privada y visible únicamente por el usuario –explicó Google en una declaración enviada a ENTER.CO–. En algunos casos, podemos utilizar esa información para mejorar los servicios que tú como usuario utilizas. Pero más allá de que mejore a los productos, siempre se mantiene privada y segura”.

Además, la compañía asegura que no comparte información con otras compañías, organizaciones o personas fuera de Google.

¿Una salida?

Hay varias maneras de salir del dilema. Una de ellas es no procesar los datos de los usuarios en servidores externos, sino en los mismos dispositivos. Esto limita mucho las posibilidades de la tecnología: como este es un ejercicio de volumen, entre más datos se tengan y más cómputos se hagan, mejor va a ser el resultado. Ni el procesador de un celular o un computador van igualar la capacidad de una granja de servidores, ni los datos de un solo usuario van a ser tan eficientes como los de cientos o miles de ellos.

Otra solución es anonimizar los datos. Es decir: transformarlos ligeramente de modo que sea más difícil identificar al usuario. El problema es que siempre va a ser posible encontrar una manera de revertir el proceso: “Puedes hacer algo más astuto que nunca para anonimizar tus datos, pero alguien más astuto que tú puede llegar mañana y desanonimizarlos”, dijo a Wired Aaron Roth, un experto en seguridad de la Universidad de Pensilvania, que está trabajando con Apple.

Hay una tercera opción: usar los datos de las personas de modo que no sea posible identificarlas. Se llama ‘privacidad diferencial’, y Apple anunció que planea implementarla a gran escala en la próxima edición de sus sistema operativo móvil, iOS 10.

La idea es que que no sea matemáticamente posible saber de quién vienen. Al contrario de la anonimización, la privacidad diferencial busca que éstos sean técnicamente imposibles de desenmascarar. Se usan varias técnicas: añadirles ‘ruido’ (es decir, datos aleatorios que no generan información) o limitar cuántos datos envía cada usuario a los servidores, entre otras.

Aunque Microsoft y la misma Google han estado investigando estas técnicas, Apple es la primera que dice que las aplicará a gran escala. No todos los expertos en comunidad de expertos en inteligencia artificial están de acuerdo en que sea posible, pero la compañía de la manzana ya empeñó su palabra. Habrá que ver, cuando salga iOS 10, cómo resulta este experimento. Pero si es exitoso, la inteligencia artificial habrá superado su principal escollo ético.

Imágenes: Richard Greenhill (vía Wikimedia Commons), _lmaji_ (vía Flickr).