Por Daniel Keller, director ejecutivo de InFlux Technologies


El aumento exponencial de la demanda de aplicaciones basadas en IA en los últimos años ha hecho necesario un nuevo enfoque para el diseño, la configuración y la gestión de los centros de datos. El Wall Street Journal estima que alrededor del 20 por ciento de la capacidad mundial de los centros de datos se utiliza actualmente para fines de IA. Sin embargo, dado que más del 77 por ciento de las empresas ya utilizan o exploran la tecnología de IA, los centros de datos tradicionales pueden volverse obsoletos rápidamente.

El enfrentamiento de la IA

Debido a sus complejos algoritmos y modelos, las aplicaciones de IA suelen requerir más energía y recursos informáticos que otras. Por ejemplo, se dice que una simple consulta en ChatGPT requiere casi diez veces más electricidad que la necesaria para procesar una búsqueda rápida en Google. Los centros de datos tradicionales están diseñados con una densidad media de 5 a 10 kW por rack, pero esta aumenta a más de 60 kW por rack para manejar aplicaciones de IA.

Una mayor carga de trabajo y demanda de energía se traduce en mayores costos generales. Además, los centros de datos deben idear formas alternativas y avanzadas de abordar los problemas de refrigeración, las vulnerabilidades, los desafíos de seguridad y los problemas de mantenimiento que pueden surgir debido a la escasez de personal.

Además, está la cuestión de la sostenibilidad medioambiental. Los investigadores calculan que el GPT-3 generó más de 552 toneladas de CO2 antes de que se pusiera a disposición del público en 2020. Esta cifra equivale al CO2 que producirían ciento veintitrés vehículos de gasolina a lo largo de un año.

Lamentablemente, a menos que se aborden estos desafíos de manera estratégica y dinámica, podríamos estar ante una situación de equilibrio en materia de infraestructura similar a la del déficit de suministro de GPU. La falta de centros de datos totalmente equipados para manejar las abrumadoras demandas de tecnología de IA puede, en última instancia, frenar el crecimiento, promover la monopolización de la infraestructura de IA y tener graves consecuencias para el medio ambiente.

Construyendo para el presente y el futuro

Para abordar estos problemas de frente, muchas empresas ya están implementando nuevas medidas, como el uso de centros de datos ubicados en el mismo lugar para reducir los costos operativos, promover la escalabilidad y garantizar la disponibilidad de personal de mantenimiento especializado en el lugar. Los centros de datos también están empleando técnicas de refrigeración más avanzadas, como refrigeración líquida, refrigeración directa al chip y refrigeración por inmersión, en lugar de los sistemas de refrigeración por aire convencionales.

En el caso de los nuevos centros, el diseño cobra una importancia primordial. Por ejemplo, en 2022, Meta detuvo la construcción de su centro de datos de 800 millones de dólares en Texas para considerar rediseñar sus instalaciones.

Sin embargo, además de funcionar como centro neurálgico de infraestructura y computación para aplicaciones y productos respaldados por IA, los centros de datos también pueden aprovechar la misma inteligencia artificial para optimizar el rendimiento, administrar los costos y garantizar la eficiencia operativa de varias maneras. Veamos algunas de ellas.

Gestión de la carga de trabajo

Las herramientas de IA y automatización pueden predecir y asignar con precisión las cargas de trabajo de manera más eficiente en los centros de datos, lo que garantiza que las implementaciones coincidan con los requisitos de recursos. Esto reduce el desperdicio al minimizar la subutilización del hardware informático y reducir el consumo de energía. Más del 32 por ciento del gasto en la nube se desperdicia principalmente debido al exceso de aprovisionamiento. Sin embargo, los sistemas de IA pueden redistribuir los recursos a los proyectos que más los necesitan, optimizando el rendimiento y maximizando el hardware inactivo.

Las tareas repetitivas y rutinarias se pueden automatizar de forma sencilla, ahorrando tiempo, energía y mano de obra calificada. La IA también puede procesar datos y métricas de rendimiento, lo que permite tomar medidas estratégicas y proactivas para abordar posibles problemas de gestión de la carga de trabajo antes de que ocurran.

Sistemas de refrigeración controlados por IA

Además de introducir mejores instalaciones de refrigeración, la IA puede desempeñar un papel importante en la detección y el ajuste dinámicos de la temperatura. En lugar de enfriar estáticamente el hardware en el centro de datos, la IA puede analizar y actuar en función de los datos de temperatura para suministrar solo la cantidad necesaria de refrigeración a cada hardware. Esto puede regular las condiciones de humedad para un rendimiento óptimo, mejorar la eficiencia energética y prolongar la vida útil de los equipos.

Eficacia del uso dinámico de la energía

La monitorización en tiempo real y el análisis predictivo de los sistemas de IA pueden proporcionar información clave sobre los patrones de uso de la energía, así como sobre las ineficiencias, lo que permite a los administradores tomar decisiones basadas en datos e implementar las estrategias de gestión de la energía necesarias. Si bien el hecho objetivo es que los requisitos de energía de los centros de datos que ejecutan cargas de trabajo de IA siempre serán invariablemente más altos que los de los centros de datos tradicionales, los esfuerzos sinérgicos de la gestión impulsada por IA y el diseño del centro de datos pueden tener un impacto significativo.

Los centros de datos también pueden minimizar su huella de carbono y reducir el impacto ambiental priorizando sistemas de gestión energética eficiente y adoptando técnicas de gestión energética como escalamiento dinámico de voltaje y frecuencia (DVFS).

Redondeo

El precio de un futuro digital altamente sofisticado se encuentra en el núcleo de la infraestructura. Los centros de datos deben adoptar cambios físicos, operativos y de software para mantenerse al día con el mundo moderno en constante evolución y sus demandas de inteligencia artificial.

Afortunadamente, los desafíos de la IA también se pueden abordar con soluciones de IA. A medida que la industria tecnológica se adapte gradualmente y la tecnología mejore, la gestión y optimización de la carga de trabajo impulsada por la IA se convertirá en algo habitual, lo que dará lugar a centros de datos robustos y equipados para impulsar el futuro. La innovación de otras alternativas, como la infraestructura informática descentralizada, también creará una competencia sana y mejorará la eficiencia.