A NVIDIA e a Oracle anunciaram planos para expandir os Superclusters da Oracle Cloud Infrastructure (OCI) com sistemas NVIDIA Vera Rubin NVL72 até a escala de vários gigawatts. O objetivo é atender à crescente demanda por treinamento de IA, inferência e aplicações baseadas em agentes. Os sistemas Vera Rubin NVL72 e as CPUs NVIDIA Vera passam a estar disponíveis para uso geral na OCI.

De acordo com as companhias, a colaboração oferece infraestrutura para dois tipos de trabalho. O primeiro é o processamento intensivo em GPU, usado no treinamento e na disponibilização de modelos de ponta. O segundo são as tarefas intensivas em CPU que os agentes executam entre as chamadas ao modelo, como a execução de ferramentas, o teste de código e a recuperação de dados. Os clientes podem dimensionar os recursos de CPU e GPU de forma independente, o que, segundo as empresas, reduz a capacidade ociosa.

Os Superclusters da OCI combinam sistemas NVIDIA NVL72 em escala de rack, a rede Oracle Acceleron com Ethernet NVIDIA Spectrum-X, switches Spectrum-6 e DPUs BlueField-4, além de energia e refrigeração em escala de gigawatt. Cada rack conecta 72 GPUs por meio do NVLink, enquanto a rede multiplanar da OCI escala para centenas de milhares de GPUs.

A expansão para o Vera Rubin parte da infraestrutura que a OCI já opera com sistemas NVIDIA GB200 e GB300 NVL72. A base de software CUDA comum permite manter o suporte a modelos e cargas de trabalho ao longo das gerações de hardware. A plataforma Vera Rubin entrou em produção em larga escala neste ano, com racks já em operação em parceiros como a própria OCI.

A Oracle também planeja lançar o NVIDIA HGX Rubin NVL8, com oito GPUs Rubin conectadas via NVLink em um servidor baseado em x86. A configuração reúne duas CPUs Intel Xeon 6 de 64 núcleos, 4 TB de memória DDR5 e 6,4 Tbps de rede RDMA. Segundo as empresas, o sistema permite adotar a GPU Rubin em uma configuração menor, mantendo a compatibilidade com aplicações x86, para treinamento, ajuste fino e inferência.

A OpenAI é citada como exemplo de uso da infraestrutura. Em Abilene, no Texas, a empresa treinou e disponibilizou o modelo GPT-6 Astra em um supercluster da OCI com mais de 100 mil GPUs NVIDIA Blackwell. Sreekanth Pothanis, líder de engenharia de infraestrutura computacional da OpenAI, afirmou que o avanço dos modelos de ponta exige uma infraestrutura capaz de acompanhar esse ritmo. Para ele, o Vera Rubin na OCI oferece o desempenho e a escala necessários para acelerar o treinamento e atender a cargas de trabalho cada vez mais exigentes.

As empresas explicam que agentes de IA não se limitam a gerar respostas: eles chamam ferramentas, executam código e recuperam informações. Quando essas operações dependentes de CPU são lentas, os resultados atrasam e as GPUs ficam ociosas entre as chamadas de modelo, o que tem recolocado a CPU no centro da infraestrutura para IA agêntica.

A instância OCI Compute com CPUs Vera combina alto desempenho em thread único, que acelera chamadas de ferramentas e a execução de código, com alta largura de banda de memória, que mantém os núcleos abastecidos durante tarefas simultâneas. O OCI Kubernetes Engine permite escalar CPU e GPU de forma independente, e o Oracle Acceleron oferece isolamento baseado em hardware para cargas de trabalho que executam código gerado por IA não confiável.

Clientes com acesso antecipado, entre eles a OpenAI, já testam as CPUs Vera na OCI. Uday Ruddarraju, diretor de tecnologia de computação da OpenAI, disse que o processador oferece o desempenho necessário para executar código e ferramentas nas cargas de trabalho de sandbox de agentes da empresa, que crescem rapidamente. Segundo ele, a OpenAI está colocando a Vera em produção na OCI para sustentar essas operações em escala.

Mahesh Thiagarajan, presidente da Oracle Cloud Infrastructure, afirmou que a parceria amplia as capacidades da OCI em treinamento, inferência e IA agêntica. Para o executivo, a combinação de GPUs Vera Rubin, CPUs Vera, rede Acceleron e data centers otimizados para IA ajuda os clientes a manter as GPUs produtivas, seguras e escaláveis à medida que suas necessidades crescem.

Ian Buck, vice-presidente de computação de hiperescala e de alto desempenho da NVIDIA, avaliou que as fábricas de IA precisam ser produtivas, duráveis e fungíveis, com computação eficiente, utilidade preservada diante dos avanços de software e capacidade de atender a diferentes modelos conforme a demanda muda. Segundo Buck, levar o Vera Rubin e a CPU Vera à OCI permite que os clientes coloquem mais infraestrutura em operação agora e preservem seu valor à medida que a IA evolui.