Google reveló edetalles de la supercomputadora que entrena varios de sus modelos de inteligencia artificial. Una de las afirmaciones del gigante tecnológico, es que sus sistemas son más rápidos y más eficientes energéticamente, que los de Nvidia. ¿Por qué?
Recordemos que las compañías que crean modelos de inteligencia artificial, en su mayoría, utilizan chips Nvidia; sin embargo, Google lazó desde 2020 un chip personalizado conocido como Unidad de procesamiento de Tensor (TPU). La supercomputadora que Google utiliza para crear modelos de IA cuenta con miles de chips TPU.
TPU está ahora en su cuarta generación y en un artículo científico publicado por Google ha revelado cómo ha unido más de 4.000 chips en una supercomputadora utilizando sus propios interruptores ópticos desarrollados a medida para ayudar a conectar máquinas individuales.
Según el estudio este sistema es “mucho más económico, de menor consumo y más rápido que Infiniband, los OCS y los componentes ópticos subyacentes cuestan menos del 5 % del costo del sistema y menos del 3 % de la energía”.
Además explica que cada TPU de cuarta generación, incluye SparseCores, procesadores de flujo de datos que aceleran los modelos que se basan en incrustaciones de 5 a 7 veces, pero que usan solo el 5 % del área del dado y de la energía”.
TPU cuarta generación superaría las anteriores, ya que mejora el rendimiento- vatio. “La supercomputadora TPU v4 es 4 veces más grande con 4096 chips y, por lo tanto, aproximadamente 10 veces más rápida en general, lo que, junto con la flexibilidad de OCS, ayuda a los modelos de lenguaje grandes”.
Te puede interesar: ¿Cómo ha cambiado el planeta entre 1984 y 2022? Google Earth Timelapse lanza nuevas imágenes
De otra parte, David Patterson, ingeniero de Google, explica que “las supercomputadoras de TPU también son las primeras con soporte de hardware para incrustaciones, un componente clave de los modelos de recomendación de aprendizaje profundo (DLRM) que se utilizan en publicidad, clasificación de búsqueda, YouTube y Google Play”.
La investigación publicada por Google dijo que, para sistemas de tamaño similar, sus chips son hasta 1,7 veces más rápidos y 1,9 veces más eficientes energéticamente que un sistema basado en el chip A100 de Nvidia que estaba en el mercado al mismo tiempo que el TPU de cuarta generación.
Imagen: Google
