O advento da inteligência artificial colocou as infraestruturas digitais diante de uma nova era de desafios operacionais e técnicos. Essa ascensão da IA, impulsada por GPUs cada vez mais potentes, está multiplicando a densidade da energia consumida pelos data centers. O rápido crescimento fez com que o consumo médio dos racks passasse de 5 KW para até 40 ou 80 kW, podendo alcançar nos próximos anos 1 MW de potência.

Este novo cenário provoca mudanças não só nas tecnologias de energia e resfriamento, mas também na própria estrutura dos data centers. É nesse contexto que a construção modular emerge como uma solução estratégica para essas infraestruturas, oferecendo rapidez e flexibilidade de investimento e adaptação tecnológica contínua.

Construir data centers como se fossem blocos de Legos tornou-se uma realidade que permite dimensionar melhor a energia e a refrigeração, ter melhor resposta aos picos de demandas com sistemas como o BESS, além de combinar técnicas diferentes de resfriamento – desde o ar até o líquido direto ao chip.

Para abordar este tema, DCD entrevistou o vice-presidente de Desenvolvimento e Negócios da Modular Data Centers sobre os bastidores dessa transformação e seus desafios.

1.

Com o aumento do processamento de dados ocasionado pelo crescimento da inteligência artificial. Quais são os desafios enfrentados com respeito à escalabilidade e consumo de energia?

As novas arquiteturas de IA e GPUs terão um impacto muito significativo na densidade de energia consumida em um rack de servidores. Hoje um gabinete de um data center empresarial consome cerca de 5kW a 10kW em média, enquanto os utilizados nas nuvens públicas usam cerca de 20kW a 40kW. Via de regra são refrigerados a ar.

Já os servidores de IA atuais, equipados com as mais novas GPUs disponíveis, chegam a densidades médias de até 125kW por rack e necessitam de refrigeração líquida. Esse é o “estado da arte”.

Entretanto, já existe a previsão de novas GPUs nos próximos dois anos que levarão estas potências para a faixa de 600kW por rack e um horizonte, até o fim da década, de racks com potência de até 1MW. Ou seja, se projeta um crescimento brutal de 8 a 10 vezes a necessidade de energia em um único rack de IA nos próximos 5 anos.

Isso cria desafios em todos os principais elementos de um data center como a disponibilidade e distribuição de energia, necessidade de refrigeração e até mesmo o peso dos racks que podem chegar a cargas de mais de 3 toneladas.

2. Quais são os critérios técnicos que determinam a escolha da solução modular prefabricada e quais são as principais vantagens desse modelo em comparação com os data centers tradicionais?

A primeira é o tempo. Já demonstramos que conseguimos construir data centers, utilizando modelos de pré-fabricação e modularidade, em menos da metade do tempo quando comparado a um modelo tradicional de construção. O “time to market” é um fator extremamente crítico na corrida pelo desenvolvimento das soluções de IA hoje.

O segundo é a redução de riscos de investimentos elevados (CAPEX) em data centers. Dada a acelerada evolução da tecnologia, há grandes riscos de que um novo data center se torne obsoleto em pouquíssimo tempo. A construção modular permite investimentos mais granulares, alinhando a oferta à demanda e permitindo ajustes nos módulos à medida que novas tecnologias estejam disponíveis.

Finalmente, a manufatura resolve outro problema, a falta de recursos capacitados que existe hoje. A maioria das atividades de construção são realizados em um ambiente controlado de uma fábrica com equipes experientes sem a necessidade de deslocamento para a localidade de instalação. Isso resolve muitos dos aspectos da falta de capital humano capacitado que hoje a indústria enfrenta e permite a melhoria contínua dos processos de construção.

3. Quais estratégias você segue para dimensionar granularmente a capacidade de energia e resfriamento em infraestruturas modulares, especialmente para cargas variáveis ​​e intensivas como IA?

Primeiramente é necessário entender o tipo de hardware (servidores + GPUs) e workloads (aplicações que serão usadas). Isso nos permite identificar as demandas de energia e de refrigeração. Muitas vezes o projeto depende especificamente do tipo de provedor e do modelo dos equipamentos ofertados. Sem este tipo de informação há grande risco de retrabalho. Cargas variáveis, por exemplo, podem também requerer soluções para atender picos de demanda de energia como sistemas BESS (Battery Energy Storage Systems) ou soluções similares.

Já a decisão da modalidade de refrigeração, por exemplo, passa pelo entendimento dos servidores envolvidos e pode até mesmo considerar mais de uma modalidade (refrigeração a ar, líquida com portas refrigeradas ou direto ao chip).

4. A redução de prazos e custos nos projetos de construção de data centers é o diferencial da pré-fabricação. De que maneira a Modular Data Centers aplica essa abordagem? E, quais são os desafios e os resultados que vocês obtêm?

A MODULAR oferece a seus clientes diferentes abordagens para a pré-fabricação. Podemos oferecer pequenos data centers completamente integrados, salas especializadas (salas elétricas, sub estações de média tensão etc) para complementar construções híbridas com data halls construídos de forma tradicional, até edifícios produzidos de forma 100% modular com múltiplos pavimentos. Todos esses modelos trazem benefícios diferentes, mas dependem de decisões estratégicas de negócio que variam de empresa para empresa. Os resultados são a redução do tempo (time to market), redução de riscos (financeiro e de construção) e a granularidade de investimentos (reduzindo o CAPEX e permitindo investimentos "just in time").

5. Como os datacenters modulares lidam com a densidade de potência por rack exigida pela inteligência artificial?

As técnicas abordadas são as mesmas utilizadas em construções tradicionais. A grande diferença é a forma de construção e aplicação destas tecnologias. Basicamente podemos aplicar modelos de refrigeração a ar para racks de até 40kW, uso de portas refrigeradas a água (RDHX) até 70kW e refrigeração direto ao chip (DtC) de 125kW com picos de até 173kW hoje.

Nosso diferencial é a pré-integração de todos os componentes de forma a acelerar radicalmente o processo, a possibilidade de entrega de mais de um tipo de refrigeração permitindo a convivência de servidores de gerações diferentes, e a possibilidade de ajustar a solução para novas tecnologias no futuro de acordo com sua disponibilidade.

Isso dá uma enorme flexibilidade a nossos clientes, permitindo que possam planejar com mais tranquilidade e firmeza a evolução e crescimento de seus ambientes de AI e Machine Learning.

6. Quais são os principais desafios técnicos na integração de sistemas de refrigeração líquida em ambientes modulares?

A gestão de refrigeração líquida requer atenção com eventuais problemas como vazamentos, pressão, filtragem e redundância de sistemas. Isso se aplica qualquer sistema deste gênero, incluindo os data centers modulares. É necessária atenção e requer infraestrutura com previsão para detectar, conter, direcionar e mitigar eventuais problemas como vazamentos. Isso é extremamente importante dado que um único rack populado com servidores e GPU pode custar até milhões de dólares e não existe nenhum espaço para incidentes causados por danos com vazamentos.

7. Do ponto de vista de monitoramento e gerenciamento, que tipo de automação e sistemas de controle são implementados nos data centers modulares para garantir eficiência energética e rápida resposta a picos de demanda?

O projeto dos sistemas elétricos tem que atentar para os picos de demanda e para a eventual necessidade de uso de sistemas para garantir energia em momentos de pico. Um servidor equipado com GPUs refrigerado a ar pode ter seu consumo variando de 5kW a 40kW ou mais em menos de um segundo. Isso gera desafios para mitigar riscos de associados aos transiente de energia. Mais que a monitoração, é fundamental avaliar a necessidade ou não de dispositivos capazes de acomodar os picos de demanda. Alguns exemplos são o uso de super capacitores ou sistemas BESS. Entretanto, isso é algo avaliado caso a caso dependendo do tipo de específico de aplicação projetado.

8.Quais tendências você enxerga para o futuro próximo na construção e operação de data centers, especialmente com a evolução da IA e das necessidades computacionais?

Claramente o mercado caminha para uma evolução e transformação dos modelos construtivos. Todas as semanas há novas notícias que demonstram como o mercado caminha rapidamente para alternativas de pré-fabricação e modularidade. Empresas pioneiras como a Scala Data Centers na América Latina ou outras como a Compass ou a Aligned Data Centers, nos Estados Unidos, demonstram que, mais que uma tendência, a mudança da modalidade de construção se tornou uma necessidade. Já está claro para todos que a demanda pela frente simplesmente não poderá ser atendida pelas vias tradicionais de construção.