El fabricante de chips AMD ha presentado su última gama de tarjetas PCIe (Peripheral Component Interconnect Express) para ayudar a los operadores de infraestructuras de IA a mejorar el rendimiento informático.

Las Instinct MI350P son tarjetas de doble ranura listas para instalar en servidores estándar refrigerados por aire, lo que permite a los usuarios integrarlas en su infraestructura existente.

Disponibles en sistemas refrigerados por aire con hasta ocho tarjetas aceleradoras, el gigante de los chips afirma que sus tarjetas pueden soportar algunas de las cargas de mayor rendimiento para una tarjeta PCIe empresarial, con hasta 4.600 teraflops de pico en microescalado de coma flotante de cuatro bits (MXFP4).

AMD presenta el dispositivo como una nueva incorporación a su ya amplia gama de productos centrados en la IA, y afirma que las mejoras de rendimiento de la MI350P la convierten en «la solución ideal para modelos de IA de pequeño, mediano y gran tamaño, tanto para procesos de inferencia como para flujos de trabajo de generación aumentada por recuperación (RAG)».

«Las tarjetas PCIe MI350P admiten la gama de niveles de precisión en la que más confían los modelos de IA empresarial», escribió Suresh Andani, vicepresidente corporativo de computación e IA empresarial de AMD, en una entrada de blog. «Adoptar la IA no significa reconstruir la infraestructura desde cero. Con las tarjetas MI350P, las empresas pueden ejecutar más modelos y dar servicio a más usuarios dentro de sus centros de datos existentes».

Las tarjetas PCIe son interfaces de alta velocidad que conectan componentes informáticos, como unidades de procesamiento gráfico (GPU) o aceleradores, directamente a la placa base o a la unidad central de procesamiento (CPU) de un servidor. Actúan como una vía rápida integrada en el propio servidor, lo que permite que las tarjetas adicionales se instalen en máquinas existentes sin necesidad de una infraestructura personalizada. En el caso de cargas de trabajo complejas de IA con agentes, esa conexión directa a la CPU es una auténtica bendición.

La gigantesca adquisición de Xilinx por parte de AMD le permitió hacerse con el control de una consolidada gama de aceleradores PCIe, que desde entonces ha tratado de impulsar hacia los mercados de la computación de alto rendimiento (HPC) y, posteriormente, de la IA empresarial.

La pila de software de la empresa entra entonces en juego para proporcionar a los usuarios los medios para migrar cargas de trabajo con cambios mínimos en el código, al tiempo que amplía la compatibilidad con herramientas de ciclo de vida como el Kubernetes GPU Operator.

«Cuando se combina con las tarjetas Instinct MI350P y las soluciones proporcionadas por socios, la pila permite a las organizaciones ponerse en marcha rápidamente en sus instalaciones sin cargos continuos por token», añadió Andani.

Las tarjetas PCIe de AMD amplían su gama existente de periféricos de infraestructura, que se vio impulsada por la adquisición, en 2022, del proveedor de unidades de procesamiento de datos (DPU) Pensando por 1.900 millones de dólares. Desde entonces, AMD ha ofrecido diseños de dispositivos que abordan los crecientes cuellos de botella en entornos a hiperescala, donde las cargas de trabajo son cada vez más intensas tanto en complejidad como en escala.

Entre los clientes que se han sumado a la última incorporación de AMD se encuentran Lenovo, Cisco, Dell Technologies y Hewlett Packard Enterprise (HPE).

«Nuestro trabajo con AMD en la Instinct MI350P refleja la creciente necesidad de integrar estrechamente la computación de IA con las redes inteligentes y la seguridad», señaló en un comunicado Jeremy Foster, director general de computación y vicepresidente sénior de Cisco. «La MI350P crea nuevas oportunidades para ofrecer infraestructuras de IA escalables y resilientes que conectan datos, modelos y usuarios en toda la empresa».

«El tamaño y el perfil de memoria del MI350P lo convierten en una opción atractiva para cargas de trabajo de inferencia distribuida, donde es esencial acercar la inteligencia a los usuarios», añadió Shawn Michels, vicepresidente de productos de computación en la nube de Akamai. «Nos alienta la continua innovación de AMD en el diseño de aceleradores y el papel que desempeñará el silicio de inferencia diseñado específicamente para habilitar la IA agentiva en el perímetro».