OpenAI estaría utilizando chips TPU desarrollados por Google para impulsar ChatGPT y sus otros productos.

Según The Information, y citando a una persona involucrada en el acuerdo, este sería el primer uso significativo por parte de OpenAI de chips que no son Nvidia.

Los informes de que OpenAI había firmado un acuerdo para utilizar la capacidad informática de Google Cloud surgieron por primera vez el mes pasado, a pesar de que la empresa de IA está en competencia directa con la unidad DeepMind AI de Google y ChatGPT representa una amenaza para el negocio de búsqueda de Google.

Según The Information, OpenAI espera reducir el coste de inferencia mediante el uso de TPU alquiladas a través de Google Cloud. Sin embargo, Google no está alquilando sus TPU más potentes a OpenAI, según declaró un empleado de Google Cloud.

OpenAI utiliza chips Nvidia para cargas de trabajo de entrenamiento e inferencia.

El contrato con Google forma parte de la estrategia de OpenAI para diversificar sus recursos informáticos, ya que Microsoft era anteriormente su proveedor exclusivo de nube. OpenAI también desarrolla centros de datos a través de su proyecto Stargate y es cliente de Oracle y CoreWeave.

Las TPU de Google (o Unidades de Procesamiento Tensorial) son chips optimizados para cargas de trabajo de IA. La última generación, denominada Ironwood, se presentó en abril de este año.

Ironwood también ofrece 192 GB de memoria de alto ancho de banda (HBM) de 7,4 Tbps por chip, un aumento de 6 veces con respecto a la TPU Trillium de sexta generación de Google, además de un ancho de banda de interconexión entre chips (ICI) bidireccional de 1,2 Tbps, una mejora de 1,5 veces con respecto a Trillium.

Otros clientes conocidos de las TPU de Google incluyen Apple, Anthropic y Safe Superintelligence.