Amazon Web Services (AWS) ha lanzado instancias de Elastic Cloud Compute (EC2) con GPU Nvidia B200.

Las instancias P6-B200 están disponibles de forma general desde el 15 de mayo y están diseñadas para cargas de trabajo de IA, aprendizaje automático y computación de alto rendimiento (HPC), en particular entrenamiento e inferencia de IA distribuida a gran escala para modelos base.

Cada instancia cuenta con ocho Nvidia B200 y tiene 1440 GB de memoria GPU de alto ancho de banda, procesadores escalables Intel Xeon de quinta generación, 2 TiB de memoria del sistema y 30 TB de almacenamiento NVMe local.

Según AWS, las instancias ofrecen una mejora de hasta el 125 por ciento en los teraflops de la GPU, un aumento del 27 por ciento en el tamaño de la memoria de la GPU y un aumento del 60 por ciento en el ancho de banda de la memoria de la GPU en comparación con las instancias P5en.

Además, las instancias funcionan con el sistema AWS Nitro, lo que facilitará a los usuarios escalar la carga de trabajo de IA dentro de Amazon EC2 UltraClusters a decenas de miles de GPU.

Los P6-B200 ya están disponibles en la región AWS del oeste de EE. UU. (Oregón).

La semana pasada, el proveedor de GPU en la nube Cirrascale Cloud Services incorporó las GPU Nvidia HGX B200 a su oferta en la nube. Vultr y Google también ofrecen estos chips.