Em 2020, o então CEO da Iceotope, David Craig, escreveu um artigo para a DCD no qual argumentou que "o Edge tem necessidades que apenas o resfriamento líquido pode satisfazer".

"À medida que as empresas em quase todos os setores verticais iniciam a implementação de TI na miríade de locais onde o processamento e o acesso a dados são necessários perto de pessoas e coisas", escreveu Craig. "Esses novos ambientes Edge não serão uniformes por natureza, mas comum a todos será a necessidade de manter os equipamentos de TI resfriados".

Cinco anos depois, Craig se aposentou da empresa de refrigeração líquida, mas parece que suas previsões se concretizaram.

Neil Edmunds, vice-presidente de gerenciamento de produtos da Iceotope, descreve o Edge como qualquer coisa fora desse "espaço em branco super controlado que os data centers normalmente têm", o que significa que praticamente qualquer lugar pode ser considerado para implementações de Edge, com acesso à tecnologia certa.

Embora a revolução da IA tenha sido caracterizada por manchetes diárias sobre os hiperescalas aumentando sua pegada de data center para abrigar todas as suas necessidades de computação de IA, a infraestrutura de alta potência não é apenas reservada para aqueles com os bolsos mais profundos ou os maiores data centers. Por exemplo, em fevereiro de 2024, a Supermicro fez parceria com a Nvidia para lançar servidores Edge AI otimizados para aplicativos que suportam uma série de diferentes implementações de hardware da Nvidia, incluindo vários H100s - embora, de acordo com o site da Supermicro, todos esses servidores sejam refrigerados a ar.

Dito isto, o Edge continua a crescer em popularidade, especialmente à medida que as empresas mudam cada vez mais do treinamento de IA para a inferência – onde o modelo aplica seu conhecimento aprendido – já que a maior parte desse trabalho pode ocorrer em um ambiente de Edge, reduzindo o tempo necessário para enviar dados para um servidor centralizado e receber uma resposta.

Como resultado, nem todo mundo que conseguiu colocar as mãos em alguns Nvidia H100s quer mantê-los em um data center na Virgínia, EUA, ou Slough, Reino Unido.

Edmunds diz que as implementações de Edge podem ser encontradas em qualquer lugar, de um poste de luz, em que o equipamento de TI é exposto ao vento, chuva e até neve, a um bloco de escritórios ou prédio reaproveitado. Uma empresa também pode estar considerando uma implementação de Edge em um ambiente, como os países nórdicos ou a América do Sul, onde pode estar sujeito a temperaturas extremas.

Tudo isso significa que, embora, em alguns casos, o local do Edge possa ser limpo e bem iluminado, é improvável que tenha todas as comodidades que você encontraria em um data center tradicional. Com uma gama tão ampla de locais potenciais de Edge, são necessárias soluções de resfriamento versáteis, e é aí que o líquido entra em ação.

Resfriamento de ar de Edge

O resfriamento líquido não é um conceito novo, tendo sido usado de alguma forma para resfriar o hardware de computação desde a década de 1960. No entanto, embora a maioria das conversas em torno da tecnologia esteja relacionada ao seu papel em ajudar a sustentar e aumentar os racks cada vez mais densos necessários para cargas de trabalho de IA, para aqueles que desejam implementar infraestrutura de computação no Edge, também é uma praticidade.

Os defensores do resfriamento líquido dizem que é particularmente adequado para implementações de Edge porque é mais fácil de instalar do que os sistemas baseados em ar. Isso poderia tornar a conversão de um prédio abandonado, por exemplo, muito mais fácil, diz Edmunds.

"Pode não haver muito espaço para colocar um sistema externo de rejeição de calor de tamanho e escala tradicionais para uma instalação refrigerada a ar", explica ele. "Então, normalmente, certamente para o Iceotope e eu presumo que para outras tecnologias refrigeradas a líquido, a infraestrutura externa necessária para a rejeição de calor de projetos refrigerados a líquido para o ar é muito mais compacta do que a infraestrutura ar-ar”.

"Em data centers típicos, você tem enormes torres de resfriamento que evaporam cargas de água, grandes sistemas de rejeição de calor ar-ar ou um sistema de ar fresco para soprar. Todas essas coisas serão muito desafiadoras de implementar no Edge porque geralmente vêm com toneladas de filtragem, muitos requisitos de espaço e potencialmente muitos requisitos de energia para operá-las. A necessidade de um sistema de rejeição de calor compacto, quase portátil e implementável será muito importante para permitir que as pessoas utilizem espaços anteriormente ocupados que agora estão abandonados”.

No entanto, Sean Graham, diretor de pesquisa de tendências de data center da nuvem para Edge da IDC, disse que, embora certamente tenha seus benefícios para algumas implementações, o caso do resfriamento líquido no Edge talvez não seja tão simples quanto se poderia acreditar.

Graham sente que, quando se trata dos vários tipos de tecnologias de refrigeração líquida oferecidas, a imersão é mais adequada para o Edge. Mas, em última análise, a resposta para qual opção de resfriamento é melhor sempre depende da implementação.

"Realmente se resume à computação que você tem", diz Graham.

"O mundo fala sobre IA, mas mesmo com projeções agressivas, será apenas 20% de todo o mercado de data centers”.

"Então, quando você começa a falar sobre cargas de trabalho tradicionais, não será tudo IA, nem tudo será de alta densidade e o ar ainda é um método de resfriamento apropriado. Você ainda tem soluções híbridas de líquido para ar. Portanto, o ar ainda tem um lugar muito válido no mercado”.

Além disso, Graham observa que, se o seu local Edge já estiver configurado para resfriamento a ar e suas densidades forem baixas, espirrar no resfriamento líquido pode não necessariamente fazer mais sentido.

A empresa australiana de geofísica DUG, anteriormente conhecida como DownUnder GeoSolutions, optou por evitar o ar e trazer refrigeração líquida para o Edge.

Originalmente fundada para processar dados sísmicos em locais de mineração, desde 2003 a DUG fornece soluções de computação de alto desempenho (HPC) resfriadas por imersão para análise de dados científicos.

Ron Schop, vice-presidente executivo da DUG, diz que dois fatores impulsionaram a decisão da empresa de mergulhar no mundo do resfriamento por imersão.

"A primeira coisa foi que os dados estavam se tornando cada vez maiores, então nossos requisitos de computação estavam ficando maiores", diz ele. "A segunda era que estávamos trabalhando em novas tecnologias para fazer imagens sísmicas, e isso também exigia ainda mais computação”.

"Portanto, o resultado final era que, para tudo o que pretendíamos fazer no futuro, precisávamos de mais e mais computação. Então olhamos para nossa conta de energia e pensamos, isso não é sustentável”.

Embora Schop diga que a empresa analisou outras tecnologias ("líquido para chip é interessante, mas provavelmente na escala de que precisamos, não aplicável"), foi o resfriamento por imersão que poderia oferecer ao DUG o resfriamento e a eficiência de que tanto precisava.

"Para nós, inicialmente era apenas sobre os dólares, porque a computação que tínhamos era muito cara [para ser executada] e, no entanto, precisávamos de mais", diz Schop. "Então, começamos a procurar alternativas com seriedade, e o resfriamento por imersão para nós foi o vencedor claro".

O resfriamento por imersão existe em duas formas, monofásico e bifásico, e é a prática de imergir os servidores diretamente em um tubo de fluido dielétrico e usar o alto potencial de transporte de calor desses fluidos para afastar o calor do equipamento de TI, oferecendo uma eficiência de resfriamento extremamente alta.

Está longe de ser a única tecnologia de refrigeração líquida no mercado. A Iceotope, em comparação, combina imersão e resfriamento direto ao chip para sua oferta de resfriamento líquido - visando precisamente os componentes mais quentes da computação com uma pequena quantidade de fluido dielétrico, um modelo que a empresa diz permitir recapturar quase 100% do calor gerado.

Mas uma vez que a DUG decidiu jogar seu peso por trás da imersão, ela encontrou outro problema - as soluções no mercado na época não cumpriam sua promessa, principalmente quando implantadas em escala.

Schop lembra: "Ficou bem claro que queríamos uma solução monofásica, onde o fluido ficasse no tanque, porque assim que o fluido sai do tanque, isso é um outro conjunto de problemas”.

"Começamos em uma garagem, somos um tipo de empresa do tipo 'posso fazer' e pensamos, bem, não podemos ver a solução de imersão de que precisamos, então vamos construí-la nós mesmos. Então começamos a construir nossos próprios tanques de resfriamento".

Consequentemente, a DUG tornou-se conhecida como uma das primeiras a adotar projetos de data center refrigerados por imersão. Schop diz que ocasionalmente ainda tem discussões com "proponentes obstinados refrigerados a ar", mas sua resposta é simplesmente mostrar a eles os dados que a DUG coletou para apoiar sua oferta, dizendo aos pessimistas que a empresa gasta metade do valor em eletricidade, sua computação não quebra e quase não vê interrupções.

Ele acrescenta que, quando você tem tanto equipamento, a "escolha lógica" é usar o resfriamento por imersão e diz: "A computação Edge que oferecemos seria muito difícil de montar em uma solução refrigerada a ar. E, além disso, ao ter [a computação] em um tanque, podemos colocá-la em alguns dos lugares mais extremos do mundo".

Quão baixo você pode ir?

Em outubro de 2024, a DUG implementou um protótipo de contêiner de data center de resfriamento por imersão, apelidado de Nomad, no data center Adacen em Silver Spring, Maryland.

"Temos um Nomad 10, um 20 e um 40 - são 10 pés, 20 pés e 40 pés", explica Schop. O modelo 10 contém um único tanque de imersão e, embora os Nomads maiores ainda estejam na fase de projeto, o 20 provavelmente terá seis tanques, enquanto o 40 terá 12.

Schop diz que, embora a solução da DUG possa não parecer tão atraente quanto outros tanques de resfriamento por imersão no mercado, "eles são construídos para funcionar" e, como resultado, são "bastante robustos", o que pode ser música para os ouvidos daqueles que desejam implementar no Edge.

A Nomad agora passou do protótipo para o produto, e Schop diz que o Nomad 10 tem cerca de 50-60kW de capacidade de rejeição de calor.

"Ainda estamos trabalhando no contêiner de 40 pés, mas provavelmente terá cerca de 750 kW de rejeição de calor, e esperamos chegar a 1 MW", diz ele.

A DUG tem usado um fluido PAO6, mas agora está movendo seus tanques para PAO8, pois o PAO8 é um fluido de maior viscosidade para melhor proteção contra desgaste sob carga. (PAO é um fluido dielétrico chamado polialfaolefina).

Schop diz que o fluido usado pela DUG em seus tanques tem sido "um grande investimento" porque não apenas você pode usá-lo por muito tempo, mas também reduz os custos de energia e os componentes de computação que estão imersos no fluido não se movem, o que significa que eles funcionam com ainda mais eficiência.

"Obtemos o máximo valor de nossas GPUs caras porque elas ficam imersas em óleo, portanto, não se degradam", diz ele. "Nós só atualizamos porque temos melhores CPUs e GPUs disponíveis no mercado".

Schop diz que os clientes costumam perguntar ao DUG quanta computação você pode colocar no Nomad, ao que ele diz que a resposta depende do que você quer e do que pode pagar.

"O interessante é que, muitas vezes, no passado, sua quantidade de computação era direcionada pelo espaço que você tinha", explica ele. "Em nosso tanque, temos 26 unidades de rack e isso seria o que determinaria que tipo de computação você poderia colocar lá. Agora, não se trata das unidades de rack que você tem, mas de quanto calor você pode rejeitar. Porque se você puder usar 26 unidades de rack e enchê-las com GPUs, o que estamos perto de fazer, então você está obtendo muita computação pelo seu investimento."

Trazendo espaços em branco para o Edge

Atualmente, as ofertas de refrigeração líquida da Iceotope se enquadram em três categorias principais: KUL Data Center, KUL AI e KUL Edge. Este último vem em três designs diferentes que a empresa diz ter sido otimizado para "computação Edge de alta densidade e baixa latência".

A Iceotope diz que sua solução KUL Edge pode fornecer uma redução de energia de 40% e não requer água, enquanto a KUL RAN – projetada para atender às necessidades de serviços vRAN de alta densidade e baixa latência, Open RAN e 5G oferecidos pelas empresas de telecomunicações – pode oferecer 20% de economia de energia, ou 40% quando comparado aos sistemas tradicionais refrigerados a ar.

Edmunds diz que, quando se trata de implementações de Edge, normalmente os clientes abordam a Iceotope quando não querem investir demais em um espaço em branco construído em um local de Edge – "imagine quanto vai custar converter um espaço potencialmente locatário ou alugado em algo que pode ter um sistema tradicional refrigerado a ar implantado nele, " ele diz.

Ele diz que a Iceotope tem trabalhado com um cliente que procura implementar "uma quantidade significativa de racks de IA" em espaços de escritório obsoletos em todo o Reino Unido e, consequentemente, tem enfrentado esses tipos de problemas, particularmente como rejeitar o calor de 200-300kW de computação.

"Em vez disso, eles preferem gastar o dinheiro na computação e no custo adicional relativamente baixo do Iceotope e do rack com sua infraestrutura refrigerada a líquido", diz Edmunds.

Quando se trata de custo, Graham, da IDC, diz que, embora o resfriamento líquido no Edge tenha "valor atraente", pode não ser a melhor escolha financeira para todas as empresas.

"Com a liquidez no Edge, definitivamente há cenários em que ela poderia ter um custo total de propriedade (TCO) mais baixo", diz Graham. "A implementação de líquido será mais cara logo de cara, mas pode apresentar um TCO mais baixo, não apenas pelas despesas de aquecimento e resfriamento ou pela eletricidade necessária para resfriar a computação, mas também pode ser um suporte benéfico para a infraestrutura de TI porque há muitos relatórios por aí que dizem que uma vez que você tem o dispositivo imerso em um fluido, não tem tantos problemas".

Mas isso não significa que não haja barreiras potenciais para a implementação de líquido no Edge. Graham diz que, embora o líquido possa ter um TCO mais baixo ao longo de sua vida útil, também pode ser caro implementar antecipadamente, o que significa que as empresas precisam considerar se têm orçamento para isso agora ou se o dinheiro poderia ser melhor investido em outro lugar no negócio.

"Você também precisa considerar as cargas de trabalho e se isso está acontecendo em um ambiente existente, além do seu orçamento", diz ele.

O que Graham concorda é que, quando se trata de soluções como a da Iceotope, cujos racks refrigerados a líquido são entregues aos clientes como um chassi selado para proteger os componentes de computação contra possíveis problemas de contaminação, a "proposta de valor é real".

Por exemplo, a Iceotope diz que no "caso raro de um incidente relacionado ao serviço, apenas um servidor é afetado, preservando a integridade da infraestrutura restante".

"Ouvi reclamações sobre folhas, teias de aranha e outras coisas sendo sugadas por ventiladores e coisas assim, bloqueando os dutos de ar nos servidores e fazendo com que eles superaqueçam ou caiam", diz Edmunds. "Então você tem que enviar o técnico de serviço para consertá-lo, e isso custa muito dinheiro".

"Há tantos elementos reunidos nesta solução selada Iceotope", acrescenta ele, sugerindo que isso significa essencialmente que os racks da Iceotope se tornam o espaço em branco do data center, mas mais próximos da própria TI, ajudando a resolver outra questão que ele diz que os clientes costumam ter sobre implementações de Edge – como faço para colocar essa quantidade de computação em um espaço incomum?

A resposta, diz Edmunds, sempre volta ao desempenho e à eficiência, com o resfriamento líquido atuando como o grande facilitador quando se trata de permitir que essas enormes implementações de computação focadas em IA sejam executadas sem problemas.

E ele diz que a maneira como a tecnologia de refrigeração líquida da empresa foi desenvolvida para ambientes Edge também pode ser uma bênção para os data centers tradicionais. "No data center convencional, também estamos fechando e resfriando equipamentos de alta potência em um pacote muito apertado, em um formato muito pequeno", diz ele.

"É como um diagrama de Venn de benefícios tecnológicos. Alguns se aplicam aqui, mas é o mesmo lá também. E realmente vamos continuar ultrapassando os limites do desempenho e da eficiência do resfriamento".