En 2020, el entonces director ejecutivo de Iceotope, David Craig, escribió un artículo para DCD en el que afirmaba que “el Edge tiene necesidades que solo la refrigeración líquida puede satisfacer”.

“A medida que las empresas de casi todos los sectores verticales comienzan a implementar TI en la gran cantidad de ubicaciones donde se requiere el procesamiento y acceso a datos cerca de personas y objetos”, escribió Craig. “Estos nuevos entornos Edge no serán uniformes, pero la necesidad de mantener refrigerados los equipos de TI será un elemento común a todos”.

Cinco años después, Craig se ha retirado de la empresa de refrigeración líquida, pero parece que sus predicciones se han hecho realidad.

Neil Edmunds, vicepresidente de gestión de productos de Iceotope, describe el Edge como cualquier cosa fuera de ese "espacio en blanco supercontrolado que los centros de datos suelen tener", lo que significa que prácticamente cualquier lugar podría considerarse para implementaciones de Edge, siempre que se tenga acceso a la tecnología adecuada.

Si bien la revolución de la IA se ha caracterizado por titulares diarios sobre cómo los hyperscalers amplían la superficie de sus centros de datos para albergar todas sus necesidades de computación de IA, una infraestructura de alta potencia no es exclusiva de quienes tienen los recursos más abultados ni de los centros de datos más grandes. Por ejemplo, en febrero de 2024, Supermicro se asoció con Nvidia para lanzar servidores Edge AI optimizados para aplicaciones, compatibles con diversas implementaciones de hardware de Nvidia, incluyendo múltiples H100; aunque, según el sitio web de Supermicro, todos estos servidores están refrigerados por aire.

Dicho esto, Edge sigue creciendo en popularidad, especialmente a medida que las empresas pasan cada vez más del entrenamiento de IA a la inferencia, donde el modelo aplica el conocimiento aprendido, ya que la mayor parte de este trabajo puede realizarse en un entorno Edge, lo que reduce el tiempo necesario para enviar datos a un servidor centralizado y recibir una respuesta.

Como resultado, no todos los que han logrado conseguir unas Nvidia H100 quieren mantenerlas en un centro de datos en Virginia (EE. UU.) o Slough (Reino Unido).

Edmunds afirma que las implementaciones Edge se pueden encontrar en cualquier lugar, desde un poste o una farola, donde el equipo informático está expuesto al viento, la lluvia o incluso la nieve, hasta un bloque de oficinas o un edificio remodelado. Una empresa también podría considerar una implementación de Edge en un entorno, como los países nórdicos o Sudamérica, donde podría estar expuesto a temperaturas extremas.

Todo esto significa que, si bien en algunos casos la ubicación Edge puede estar limpia y bien iluminada, es poco probable que cuente con todas las comodidades que ofrece un centro de datos tradicional. Con una gama tan amplia de posibles ubicaciones Edge, se necesitan soluciones de refrigeración versátiles, y aquí es donde el líquido entra en juego.

Superando al enfriamiento por aire

La refrigeración líquida no es un concepto nuevo, ya que se ha utilizado de alguna manera para enfriar el hardware informático desde la década de 1960. Sin embargo, si bien la mayoría de las conversaciones en torno a la tecnología se relacionan con su papel para ayudar a sostener y hacer crecer los racks cada vez más densos necesarios para las cargas de trabajo de IA, para quienes buscan implementar infraestructura informática en el Edge, también es una cuestión práctica.

Los defensores de la refrigeración líquida afirman que es especialmente adecuada para las implementaciones Edge porque es más fácil de instalar que los sistemas de aire. Esto podría facilitar considerablemente la conversión de un edificio abandonado, por ejemplo, afirma Edmunds.

“Puede que no haya mucho espacio para instalar un sistema de disipación de calor externo de tamaño y escala tradicionales en una instalación refrigerada por aire”, explica. “Por lo tanto, normalmente, sobre todo para Iceotope, y supongo que para otras tecnologías de refrigeración líquida, la infraestructura exterior necesaria para la disipación de calor de los diseños refrigerados por líquido al aire es mucho más compacta que la infraestructura aire-aire.

En los centros de datos típicos, se utilizan enormes torres de refrigeración que evaporan grandes cantidades de agua, grandes sistemas de disipación de calor aire-aire o un sistema de aire fresco para su ventilación. Implementar todos estos sistemas en el Edge será muy difícil, ya que suelen requerir una gran cantidad de filtración, grandes requisitos de espacio y, potencialmente, una gran cantidad de energía para su funcionamiento. La necesidad de un sistema de disipación de calor compacto, prácticamente portátil y desplegable será fundamental para que las personas puedan utilizar espacios previamente ocupados que ahora están abandonados.

Sin embargo, Sean Graham, director de investigación de tendencias de centros de datos de nube a Edge en IDC, dijo que, si bien ciertamente tiene sus beneficios para algunas implementaciones, el caso de la refrigeración líquida en el Edge tal vez no sea tan claro como uno podría creer.

Graham considera que, entre las diversas tecnologías de refrigeración líquida disponibles, la inmersión es la más adecuada para el Edge. Sin embargo, la respuesta a qué opción de refrigeración es la mejor siempre depende de la implementación.

“Realmente todo depende del poder computacional que tengas”, dice Graham.

“El mundo habla de IA, pero incluso con proyecciones agresivas, solo representará el 20 por ciento de todo el mercado de centros de datos.

Así que, al hablar de cargas de trabajo tradicionales, no todo será IA ni alta densidad, y el aire sigue siendo un método de refrigeración adecuado. Incluso existen soluciones híbridas de líquido-aire. Por lo tanto, el aire aún tiene un lugar muy importante en el mercado.

Además, Graham señala que si su ubicación Edge ya está configurada para refrigeración por aire y sus densidades son bajas, invertir en refrigeración líquida podría no ser necesariamente lo más sensato.

La empresa australiana de geofísica DUG, anteriormente conocida como DownUnder GeoSolutions, ha decidido evitar el aire y llevar refrigeración líquida al Edge.

Fundada originalmente para procesar datos sísmicos en ubicaciones mineras, desde 2003 DUG ha estado proporcionando soluciones de computación de alto rendimiento (HPC) refrigeradas por inmersión para el análisis de datos científicos.

Ron Schop, vicepresidente ejecutivo de DUG, dice que dos factores impulsaron la decisión de la empresa de sumergirse en el mundo de la refrigeración por inmersión.

“Lo primero fue que los datos se volvían más densos y grandes, por lo que nuestras necesidades de computación eran cada vez mayores”, dice. “Lo segundo fue que estábamos trabajando en nuevas tecnologías para generar imágenes sísmicas, lo que también requería aún más computación.

En resumen, para todo lo que pretendíamos hacer en el futuro, necesitábamos cada vez más computación. Luego revisamos nuestra factura de electricidad y pensamos: esto no es sostenible.

Si bien Schop dice que la compañía consideró otras tecnologías (“el líquido a chip es interesante, pero probablemente en la escala que necesitamos, no es aplicable”), fue el enfriamiento por inmersión lo que podría ofrecer a DUG el enfriamiento y la eficiencia que tanto necesitaba.

“Para nosotros, al principio solo era cuestión de dinero, porque el cómputo que teníamos era demasiado costoso [de mantener] y, aun así, necesitábamos más”, dice Schop. “Así que empezamos a buscar alternativas seriamente, y la refrigeración por inmersión fue la clara ganadora para nosotros”.

El enfriamiento por inmersión existe en dos formas, monofásica y bifásica, y es la práctica de sumergir los servidores directamente en un recipiente con fluido dieléctrico y utilizar el alto potencial de transporte de calor de estos fluidos para alejar el calor del equipo de TI, ofreciendo una eficiencia de enfriamiento extremadamente alta.

No es ni de lejos la única tecnología de refrigeración líquida del mercado. Iceotope, en cambio, combina refrigeración por inmersión y refrigeración directa al chip para su oferta de refrigeración líquida, enfocando con precisión los componentes más calientes del sistema informático con una pequeña cantidad de fluido dieléctrico, un modelo que, según la compañía, le permite recuperar casi el 100% del calor generado.

Pero una vez que DUG decidió apostar por la inmersión, se encontró con otro problema: las soluciones que había en el mercado en ese momento no cumplían con sus promesas, en particular cuando se implementaban a gran escala.

Schop recuerda: “Quedó bastante claro que queríamos una solución monofásica, donde el fluido simplemente permanezca en el tanque, porque tan pronto como el fluido sale del tanque, surgen otros problemas.

Empezamos en un garaje, somos una empresa con mucha iniciativa, y pensamos: «Bueno, no encontramos la solución de inmersión que necesitamos, así que construyámosla nosotros mismos». Así que empezamos a fabricar nuestros propios tanques de refrigeración.

En consecuencia, DUG se hizo conocido como uno de los primeros en adoptar diseños de centros de datos refrigerados por inmersión. Schop afirma que, ocasionalmente, todavía discute con los "defensores acérrimos de la refrigeración por aire", pero su respuesta es simplemente mostrarles los datos que DUG ha recopilado para respaldar su oferta, explicando a los detractores que la empresa gasta la mitad en electricidad, su computación no falla y apenas sufre interrupciones.

Y añade que, cuando se cuenta con tanto equipo, la opción lógica es usar refrigeración por inmersión, y afirma que «La computación Edge que ofrecemos sería muy difícil de integrar en una solución refrigerada por aire. Y, además, al tener la computación en un tanque, podemos instalarla en algunos de los entornos más extremos del mundo».

¿Hasta dónde puedes llegar?

En octubre de 2024, DUG implementó un prototipo de contenedor de centro de datos con enfriamiento por inmersión, denominado Nomad, en el centro de datos Adacen en Silver Spring, Maryland.

“Tenemos un Nomad de 10, un 20 y un 40: uno de 10 pies, uno de 20 pies y uno de 40 pies”, explica Schop. El modelo 10 contiene un solo tanque de inmersión, y aunque los Nomad más grandes aún están en fase de diseño, es probable que el 20 tenga seis tanques, mientras que el 40 tendrá 12.

Schop dice que si bien la solución de DUG puede no parecer tan atractiva como otros tanques de enfriamiento por inmersión en el mercado, "están diseñados para funcionar" y, como resultado, son "bastante robustos", lo que podría ser música para los oídos de quienes buscan implementar en el Edge.

Nomad ahora ha pasado del prototipo al producto, y Schop dice que el Nomad 10 tiene aproximadamente entre 50 y 60 kW de capacidad de rechazo de calor.

“Todavía estamos trabajando en el contenedor de 40 pies, pero probablemente tendrá alrededor de 750 kW de rechazo de calor, y esperamos aumentarlo a 1 MW”, afirma.

DUG ha estado utilizando un fluido PAO6, pero ahora está cambiando sus tanques a PAO8, ya que este fluido de mayor viscosidad ofrece una mejor protección contra el desgaste bajo carga. (PAO es un fluido dieléctrico llamado polialfaolefina).

Schop dice que el fluido utilizado por DUG en sus tanques ha sido "una gran inversión" porque no solo se puede utilizar durante mucho tiempo, sino que también reduce los costos de energía y los componentes computacionales que están sumergidos en el fluido no se mueven, lo que significa que funcionan de manera aún más eficiente.

“Obtenemos el máximo provecho de nuestras costosas GPU porque están sumergidas en aceite, por lo que no se degradan”, afirma. “Solo las actualizamos porque encontramos mejores CPU y GPU en el mercado”.

Schop dice que los clientes a menudo preguntan a DUG cuánta capacidad de procesamiento se puede poner en Nomad, a lo que dice que la respuesta depende de lo que uno quiera y de lo que pueda pagar.

“Lo interesante es que, antes, la cantidad de cómputo dependía del espacio disponible”, explica. “En nuestro tanque, tenemos 26 unidades de rack, y eso determinaba el tipo de cómputo que se podía instalar. Ahora, no se trata de las unidades de rack, sino de la cantidad de calor que se puede disipar. Porque si se pueden usar 26 unidades de rack y se les añaden GPU, algo que estamos a punto de hacer, se obtiene mucha potencia de cómputo por cada dólar invertido”.

Llevando el espacio en blanco al Edge

Actualmente, la oferta de refrigeración líquida de Iceotope se divide en tres categorías principales: KUL Data Center, KUL AI y KUL Edge. Este último viene en tres diseños diferentes que, según la compañía, han sido optimizados para la computación Edge de alta densidad y baja latencia.

Iceotope afirma que su solución KUL Edge puede proporcionar una reducción de energía del 40 por ciento y no requiere agua, mientras que KUL RAN, diseñada para satisfacer las necesidades de vRAN de alta densidad y baja latencia, Open RAN y servicios 5G ofrecidos por las empresas de telecomunicaciones, puede ofrecer un ahorro de energía del 20 por ciento, o del 40 por ciento en comparación con los sistemas tradicionales refrigerados por aire.

Edmunds dice que cuando se trata de implementaciones de Edge, generalmente los clientes recurren a Iceotope cuando no quieren invertir demasiado en la construcción de un espacio en blanco en una ubicación de Edge: "imagínense cuánto costará convertir un espacio potencialmente alquilado o arrendado en algo que pueda tener implementado un sistema tradicional refrigerado por aire", dice.

Dice que Iceotope ha estado trabajando con un cliente que busca implementar "una cantidad significativa de racks de IA" en espacios de oficinas obsoletos en todo el Reino Unido y, en consecuencia, ha estado lidiando con este tipo de problemas, particularmente cómo rechazar el calor de 200-300kW de cómputo.

“En cambio, prefieren gastar el dinero en la computación y en el costo adicional relativamente bajo de Iceotope y el rack con su infraestructura refrigerada por líquido”, afirma Edmunds.

En lo que respecta a los costos, Graham de IDC dice que si bien la refrigeración líquida en el Edge tiene un "valor atractivo", podría no ser la mejor opción financiera para todas las empresas.

“Con el líquido en el Edge, sin duda existen escenarios en los que podría tener un menor costo total de propiedad (TCO)”, afirma Graham. “Implementar líquido será más costoso desde el primer momento, pero puede representar un TCO menor, no solo por el gasto en calefacción y refrigeración o por la electricidad necesaria para refrigerar el cómputo, sino también por su apoyo beneficioso para la infraestructura de TI, ya que muchos informes indican que una vez que el dispositivo se sumerge en un fluido, no presenta tantos problemas”.

Sin embargo, eso no significa que no existan posibles barreras para implementar Liquid en el Edge. Graham afirma que, si bien Liquid podría tener un TCO menor durante su ciclo de vida, su implementación inicial también puede ser costosa, lo que significa que las empresas deben considerar si cuentan con el presupuesto para ello actualmente o si podrían invertir mejor el dinero en otras áreas del negocio.

“También hay que tener en cuenta las cargas de trabajo y si esto se va a implementar en un entorno existente, además del presupuesto”, afirma.

En lo que Graham sí está de acuerdo es en que cuando se trata de soluciones como la de Iceotope, cuyos racks refrigerados por líquido se entregan a los clientes como un chasis sellado para proteger los componentes informáticos contra posibles problemas de contaminación, la "propuesta de valor es real".

Por ejemplo, Iceotope afirma que en el “raro caso de un incidente relacionado con el servicio, solo un servidor se ve afectado, preservando la integridad de la infraestructura restante”.

“He escuchado quejas sobre hojas, telarañas y otras cosas que se introducen en los ventiladores y cosas por el estilo, bloqueando los conductos de aire de los servidores y provocando que se sobrecalienten o fallen”, dice Edmunds. “Luego hay que enviar al técnico de servicio a repararlo, y eso cuesta mucho dinero”.

"Hay tantos elementos integrados en esta solución sellada de Iceotope", agrega, sugiriendo que esencialmente significa que los racks de Iceotope se convierten en el espacio en blanco del centro de datos, pero más cerca de la TI en sí, lo que ayuda a abordar otra pregunta que dice que los clientes suelen tener sobre las implementaciones de Edge: ¿cómo pongo esa cantidad de cómputo en un espacio inusual?

La respuesta, dice Edmunds, siempre vuelve al rendimiento y la eficiencia, donde la refrigeración líquida actúa como el gran facilitador cuando se trata de permitir que estas enormes implementaciones informáticas centradas en IA se ejecuten sin problemas.

Y afirma que la forma en que la tecnología de refrigeración líquida de la compañía se ha desarrollado para entornos Edge también puede ser una ventaja para los centros de datos tradicionales. "En el centro de datos convencional, también estamos alojando y refrigerando equipos de altísima potencia en un paquete muy compacto, con un factor de forma muy pequeño", afirma.

Es como un diagrama de Venn de beneficios tecnológicos. Algunos se aplican aquí, pero también allí. Y realmente vamos a seguir superando los límites del rendimiento y la eficiencia de la refrigeración.