Digital Realty ha anunciado que Blackfuel desplegará su plataforma de inferencia de inteligencia artificial en BCN1, su centro de datos en Barcelona. La solución combina infraestructura de cómputo acelerado, refrigeración líquida y conectividad definida por software para facilitar el acceso a servicios de IA desde entornos empresariales.

El acuerdo responde a una necesidad creciente del mercado: ejecutar modelos de IA cerca de los datos y las aplicaciones que los utilizan, reduciendo la dependencia de conexiones a través de internet pública.

Cómputo acelerado y refrigeración líquida en BCN1

La infraestructura se basa en una solución AI Factory de Dell Technologies, equipada con GPUs de AMD y refrigeración líquida. Las compañías no han detallado la capacidad instalada en megavatios, el número de aceleradores ni la inversión asociada al despliegue.

La refrigeración líquida permite gestionar las cargas térmicas de los sistemas de alta densidad, un factor relevante para desplegar infraestructura de IA. Su eficiencia real, sin embargo, dependerá de la arquitectura de refrigeración, las condiciones de operación y el consumo energético total de la instalación.

ServiceFabric busca reducir la latencia de inferencia

La integración con ServiceFabric, la plataforma de interconexión definida por software de Digital Realty, permitirá a Blackfuel conectarse con empresas, proveedores cloud, redes y otros ecosistemas digitales de la plataforma.

Blackfuel estima que reducir en 50 milisegundos el tiempo hasta el primer token (TTFT) podría acortar entre 1 y 2,5 segundos la ejecución de flujos de trabajo con entre 20 y 50 llamadas secuenciales. Se trata de una estimación para ese tipo de cargas, no de una mejora garantizada para todas las aplicaciones.

Implicaciones para la infraestructura de IA

La iniciativa refleja un cambio en la arquitectura de los servicios de inteligencia artificial: además de disponer de GPUs, las empresas necesitan conectividad de baja latencia, proximidad a los datos y capacidad para escalar entre distintas ubicaciones.

Digital Realty plantea que ServiceFabric puede extender el acceso a la plataforma de Blackfuel más allá de Barcelona. No obstante, el alcance comercial del despliegue y su futura expansión geográfica no se han concretado, y tampoco se han publicado métricas de rendimiento energético o capacidad de inferencia.