A inteligência artificial (IA) continua a impulsionar a transformação em muitos setores e, à medida que essa tecnologia evolui rapidamente, o mesmo acontece com a infraestrutura necessária para sustentá-la.

Os data centers em todo o mundo estão passando por mudanças significativas para acomodar as demandas que as ferramentas de IA exigem em hardware, rede, consumo de energia e resfriamento. Algumas empresas estão até construindo data centers de IA dedicados para ajudar a impulsionar o desenvolvimento de suas próprias tecnologias de IA.

Então, o que exatamente a tecnologia de IA exige quando se trata de infraestrutura de data center, em comparação com as cargas de trabalho tradicionais do data center?

De CPUs a GPUs

Um dos maiores desafios que a IA causa em um ambiente de data center é sua forte dependência da computação baseada em GPU. As GPUs suportam modelos de IA lidando com muitos cálculos simultâneos. Isso é vital para facilitar as enormes necessidades computacionais que acompanham o treinamento e a execução de modelos de IA. As CPUs tradicionais podem ser excelentes no processamento sequencial, mas, como resultado, são muito lentas para que muitos modelos de IA funcionem em um nível ideal.

Tudo isso significa que os data centers de IA devem estar repletos de GPUs que consomem significativamente mais energia, pois funcionam em tensões muito maiores. Mais energia é igual a mais calor, o que também apresenta novos desafios para proprietários e operadores de data centers que precisam equilibrar as demandas de energia, eficiência de resfriamento e controle de custos.

Com racks habilitados para IA exigindo até seis vezes mais energia do que seus equivalentes tradicionais, os desenvolvedores de data centers estão priorizando cada vez mais locais onde a energia renovável é abundante e os climas são naturalmente mais frios. As regiões do Canadá e da Islândia são ideais devido à abundância de energia hidrelétrica e geotérmica capaz de suportar energia confiável e acessível para cargas de trabalho de IA de alta densidade.

No entanto, a localização é sempre sobre encontrar o equilíbrio certo. Esse foco em locais estratégicos introduz uma compensação: as instalações podem ser construídas mais longe dos usuários finais, portanto, qualquer impacto potencial na latência precisa ser levado em consideração. Para alguns data centers, é o caso de se encontrar em algum lugar no meio - construir em um local com algum acesso à energia hidrelétrica e um clima temperado, além de investir em tecnologias avançadas de resfriamento, como resfriamento líquido e direto ao chip, que oferecem melhor dissipação de calor e maior eficiência energética.

Inovações de rede para dar suporte às demandas de IA em evolução

A IA aumenta as demandas computacionais dos servidores, pois maiores quantidades de dados precisam chegar e sair das GPUs o mais rápido possível.

As aplicações orientadas por IA também exigem largura de banda exponencialmente maior para processar os imensos volumes de dados de que precisam com eficiência. Os servidores podem precisar de velocidades de transferência de dados de até 100 Gbps para garantir que as ferramentas e aplicativos de IA funcionem corretamente. Conseguir isso exigirá mudanças na forma como os fornecedores de computação baseada em GPU selecionam e constroem sua pilha de rede. Os componentes que esses fornecedores provavelmente usam há anos não serão mais suficientes, exigindo novos processos de seleção e P&D.

Como resultado, os operadores de data center estão investindo em interconexões de alto desempenho que aceleram a transferência de dados entre um grande número de nós de computação, como clusters de GPU e TPUs (Tensor Processing Units), todos essenciais para treinar e executar modelos complexos de IA com eficiência. Isso vale para investimentos em hardware de rede avançado que oferece maior taxa de transferência, maior confiabilidade e latência reduzida.

O futuro do data center de IA

Para ficar à frente do jogo, todo mundo está tentando pegar um raio e, no momento, esse raio é a IA.

Tecnicamente, a IA pode ser executada em qualquer data center. Mas os maiores requisitos de energia e resfriamento das necessidades de computação baseada em GPU da IA significam que nem todo data center é otimizado para executar a IA. E em um setor onde a concorrência é abundante e as demandas por novas inovações de IA são altas, colocar demandas ainda maiores nas cargas de trabalho de IA baseadas em data centers tradicionais significa que os custos podem facilmente aumentar.

Gerenciar esses custos precisa ser uma consideração crítica para qualquer operador de data center que esteja construindo para IA no momento. Embora muitas empresas estejam dispostas a pagar um prêmio para executar suas cargas de trabalho de IA, se as operadoras de data center quiserem permanecer competitivas, elas terão que encontrar maneiras de compensar esses custos e evitar repassar o prêmio inteiramente para sua base de clientes.