Quem diria que o mundo da IA na nuvem se tornaria, cada vez mais, uma mistura variada de chips?

Após um dia no evento Oracle AI World, em Las Vegas, centrado principalmente nas aplicações (o que é compreensível, dado o foco da empresa, mas não é propriamente o que mais interessa à DCD ), o segundo dia do evento nos trouxe uma enxurrada de notícias sobre chips.

E embora a Nvidia continue, obviamente, a ser a líder incontestável, a Oracle aposta em outras empresas de chips e expande-se para além da arquitetura de GPU.

Talvez o mais empolgante, do nosso ponto de vista, seja o fato da Oracle estar prestes a disponibilizar acesso às TPUs (unidades de processamento tensorial) personalizadas da Google, o que a tornará o primeiro hiperescala a oferecer esses chips fora da própria Google Cloud Platform.

Por que isso é empolgante? Bem, é um pouco estranho, mas já tem sido estranho desde que o Google anunciou que deixaria de manter as TPUs como seu "ingrediente secreto" e que, em vez disso, as disponibilizaria a um "grupo seleto de clientes", e posteriormente anunciou uma joint venture com a Blackstone para criar outra plataforma de nuvem alimentada por TPUs.

Só podemos supor que a) a procura por capacidade de computação é enorme (o que já sabemos) e b) o Google tem stocks de TPUs para os quais ainda não dispõe de espaço no data center nem de energia, e isto impedirá que um ativo valioso fique ocioso.

A DCD falou com a Oracle sobre a parceria, e Karan Batta, vice-presidente sênior da Oracle Cloud Infrastructure, afirmou: "O que posso dizer é que isso não é uma experiência. Será um investimento da Oracle na nuvem à escala de gigawatts ao longo do tempo, e a melhor forma de encarar isto é pensar que, quando a Google lançar um novo TPU, nós já o teremos disponível no primeiro dia".

De fato, não se trata de uma experiência em termos de compromisso com a implementação, especialmente quando se concorda em adquirir gigawatts de chips ao longo de muitos anos.

Mas há um certo grau de experimentação que faz parte da estratégia global.

Batta explica que, no contexto atual, a Oracle opera em um "mundo com grande escassez de oferta, mas também vivemos em um mundo em que os custos estão aumentando, quer se trate de memória, SSDs ou armazenamento", e, por isso, a atitude da empresa é: "quanto mais flexibilidade e opções as pessoas tiverem, melhores decisões poderão tomar".

Tendo isso em conta, a Oracle também está negociando a forma como alguns grandes clientes adquirem capacidade de energia, comprometendo-se a adquirir 100 MW, ou mesmo 1 GW, daqui a vários anos.

"Mas daqui a três anos, não fazemos ideia de como estará a oferta. Não sabemos como o mercado vai evoluir em termos de custos. E, por isso, queremos poder tomar decisões, mas talvez não saibamos o que vamos instalar nesse data center a longo prazo", afirmou Batta. "Por isso, precisa de uma escolha extremamente ampla nessa altura. Vai instalar um rack de alta potência? Vai instalar um rack de baixa potência? As minhas necessidades vão mudar porque vou ter muito mais inferência? As minhas necessidades vão mudar porque há algum avanço no treino de modelos que preciso de executar?

"Portanto, há muitas dessas características, não só do lado da carga de trabalho, mas também do lado da oferta, dos custos e da dinâmica do mercado; e, por isso, se já dispõe dessa capacidade, quer poder tomar essas decisões o mais tarde possível".

Para além disso, há também a questão do consumo de energia. As GPUs criam um rack de elevado consumo energético, enquanto as TPUs são um rack de baixo consumo energético. Tendo isso em conta, a Oracle precisa estar preparada para essa realidade. "Existem todas estas variáveis diferentes que temos de, de certa forma, introduzir na calculadora e dizer: “Ótimo, vou fazer isto.” Mas, para conseguirmos fazer isso, precisamos de validar as TPUs e garantir que funcionam e estão disponíveis na nuvem".

As TPUs estão bem consolidadas. Como Mahesh Thiagarajan, vice-presidente executivo e diretor da Oracle Cloud Infrastructure, observa durante uma conferência de imprensa: "A Google faz parte de uma longa lista de grandes empresas tecnológicas, mas também se destaca por uma atitude diferente, porque foi o hardware que, na verdade, treinou o Gemini e, em parte, o Anthropic. Portanto, o que temos é a credibilidade deles, a tecnologia deles, todos esses data centers, toda essa rede. Ao combinar tudo isso, alcançamos um novo mercado".

Além da Google (e, claro, das parcerias de longa data da Oracle com a Intel, a AMD e a Nvidia), surgem algumas empresas emergentes mais interessantes, como a Cerebras, a Positron AI e a SambaNova.

Segundo Thiagarajan, isto deve-se, em parte, ao elevado nível de procura que a Oracle registra. Ele disse à DCD que tudo o que estão colocando online já está esgotado para 2027 e 2028, e que a procura por capacidade de computação de IA é "insaciável". Em termos simples, quanto maior for a diversidade de chips, maior será a quantidade de chips que a Oracle poderá colocar em funcionamento "por via rápida" e entregar aos clientes.

Mas, olhando para o futuro, Thiagarajan sugere que a IA tenderá a cargas de trabalho de inferência mais "especializadas", e chips como os da Cerebras, SambaNova e Positron — todos otimizados para requisitos específicos, em vez de adotarem a abordagem generalista dos chips de CPU ou GPU — poderão posicionar a Oracle para suportar essas cargas de trabalho.

Ele explica: "Se olharmos para a parceria que anunciamos para integrar a Cerebras no início do próximo ano, ou para integrar a SambaNova, ou para integrar a Positron. Cada uma delas tem um trabalho único.

"Minha perspectiva sobre o motivo pelo qual estas parcerias fazem sentido é que a IA está se tornando cada vez mais especializada. Acho que estamos na primeira rodada do que será uma grande onda. As pessoas não compreendem o TAM (mercado total endereçável) de que estamos falando. O TAM é excepcionalmente elevado, e a IA é a primeira fase; se combinarmos os dois e analisarmos qual será a próxima fase da IA, e como serão os próximos dois, quatro e seis anos, percebemos que vamos entrar em oportunidades de inferência altamente especializadas que podem, de fato, reduzir o preço".

Para além da discussão sobre os chips, uma área que passou praticamente despercebida, mas que definitivamente merece atenção, é a mudança na estratégia de armazenamento da Oracle.

A empresa anunciou parcerias com empresas como a Vast Data e a WEKA, ambas oferecem soluções de armazenamento de dados mais inteligentes, otimizadas para a era da IA.

A DCD falou com Rob Czarnecki, vice-presidente de armazenamento e serviços de dados da Oracle, sobre o assunto.

"Não precisamos de fazer todo esse trabalho sozinhos. Sabe, não estamos fabricando chips, mas estamos disponibilizando todos os chips de todos os fornecedores. Então, porque não faríamos o mesmo com o armazenamento?", argumenta ele, explicando que a IA está a trazer novos desafios ao mundo do armazenamento — os volumes de dados estão aumentando drasticamente e há diferentes abordagens em relação à duração do armazenamento, como a necessidade de "armazenamento ativo" para alimentar modelos de IA e a proporção que deve ser arquivada, entre outras coisas — e há empresas no mercado que já fizeram o trabalho árduo de encontrar soluções.

Atualmente, a Oracle trabalha com elas apenas no software, uma vez que esse é o "caminho mais rápido para colocarmos isto nas mãos dos clientes" e, se houver boa aceitação, há potencial para adotar também as soluções de hardware.

"Com toda essa atenção centrada no armazenamento, na IA e na mudança dos padrões de utilização, é realmente empolgante que o armazenamento volte a estar na ordem do dia e no cerne desta revolução da IA. Penso que isto dá uma atenção há muito esperada a algumas pessoas verdadeiramente inteligentes que têm trabalhado nos bastidores para garantir a durabilidade e a confiabilidade nas quais as empresas se têm baseado, e acredito que existe uma oportunidade para o armazenamento acelerar esse impulso da IA e oferecer as opções certas no momento certo", disse ele, acrescentando que, no futuro (nos próximos anos), espera que o armazenamento passe por algumas novas iterações e gere debate.

"Acho que há uma narrativa realmente interessante sobre como a IA pode informar e gerir melhor os sistemas de armazenamento existentes e torná-los mais inteligentes para os clientes. Será que isso cria um arquivo? Será que isso ativa o cache? Será que isso precisa mesmo ser movido? Há uma série de questões interessantes em que, na minha opinião, veremos as pessoas dedicando tempo à inovação nos próximos anos".

Isso é apenas uma amostra do Oracle AI World, mas uma coisa ficou clara para a DCD. O mundo do hardware de IA não se limita à próxima geração de GPU; a discussão está se tornando mais interessante e o problema, mais complexo. Preparem-se para o que está por vir.