Google ha presentado la última generación de su unidad de procesamiento tensorial, TPU 3.0.
Debido a la alta densidad de potencia del hardware, el circuito integrado para aplicaciones específicas (ASIC) se refrigerará por líquido, una novedad para el gigante tecnológico. La compañía espera comenzar implementaciones a gran escala dentro de unos meses.
"Estos chips son tan potentes que, por primera vez, hemos tenido que introducir refrigeración líquida en nuestros centros de datos", dijo el CEO de Google, Sundar Pichai.
"Y hemos puesto estos chips en forma de pods gigantes. Cada uno de estos pods es ahora ocho veces más potente que las TPUs del año pasado, más de 100 petaflops. Esto es lo que nos permite desarrollar mejores modelos, modelos más grandes, modelos más precisos y nos ayuda a abordar problemas aún mayores".
La TPU original era muy limitada en cuanto a la gama de aplicaciones para las que se podía utilizar, no tenía soporte para instrucciones de derivación y se aplicaba principalmente a tareas de inferencia de machine learning. TPU 2.0 trajo soporte para entrenamiento y ejecución de machine learning, con 64 chips en un pod de ocho racks que proporcionaba hasta 11,5 petaflops.
"Durante un tiempo hemos estado invirtiendo en la escala de nuestra arquitectura computacional", dijo Pichai. "[Las TPU] están impulsando todas las mejoras de productos que se están viendo hoy, y lo hemos puesto a disposición de nuestros clientes en la nube".
Cada TPU 3.0 tiene 128 GB de memoria de gran ancho de banda, el doble de la memoria de su predecesor. No se proporcionaron especificaciones adicionales de la arquitectura, ni tampoco los detalles más finos del proceso de enfriamiento líquido.
Las imágenes de una placa base de TPU parecen mostrar enfriamiento líquido directo a chip, con cuatro chips en cada placa y refrigerante entregado a las placas de frío de cobre encima de cada ASIC.
Con la creciente importancia de las cargas de trabajo de IA y aprendizaje automático, es probable que los racks de alta densidad se vuelvan más populares, junto con las soluciones de refrigeración líquida que se ocupan de las grandes cantidades de calor que producen.