Red Hat completó el proceso de compra para adquirir Neural Magic, empresa norteamericana pionera en software y algoritmos de Inteligencia Artificial Generativa (GenAI).
Si bien la promesa de GenAI domina gran parte del panorama tecnológico actual, los grandes modelos de lenguaje (LLM) que sustentan estos sistemas continúan creciendo. Como resultado, crear servicios LLM confiables y rentables requiere una importante capacidad informática, recursos energéticos y habilidades operativas especializadas. Actualmente, estos obstáculos obstaculizan los beneficios de una IA personalizada, lista para implementar y más segura para la mayoría de las organizaciones.
Con la adquisición de Neural Magic, Red Hat pretende abordar estos desafíos haciendo que GenAI sea más accesible para más organizaciones a través de la innovación abierta vLLM. Desarrollado por UC Berkeley, vLLM es un proyecto de código abierto mantenido por la comunidad para servir modelos abiertos (cómo los modelos de IA de generación infieren y resuelven problemas), con soporte para todas las familias de modelos principales, búsqueda avanzada de aceleración de inferencias y diversos backends de hardware, incluidas las GPU de AMD, AWS Neuron, Google TPU, Intel Gaudi, NVIDIA GPU y CPU x86. El liderazgo de Neural Magic en el proyecto vLLM combinado con la sólida cartera de tecnologías de IA de nube híbrida de Red Hat ofrecerá a las organizaciones un camino abierto para crear estrategias de IA que satisfagan sus necesidades únicas, dondequiera que se encuentren sus datos.
Para Matt Hicks, presidente y CEO de la compañía, la compra de Neural Magic, junto con el desarrollo de la iniciativa vLLM, son el primer paso para situar a la compañía como referente en inteligencia artificial. "Estamos entusiasmados de complementar nuestra cartera de IA híbrida centrada en la nube con la innovadora innovación de IA de Neural Magic, fomentando nuestro deseo no sólo de ser el 'Red Hat del código abierto' sino también el 'Red Hat de la IA'", afirmó.
Red Hat + Neural Magic: Habilitando un futuro de IA de generación híbrida lista para la nube
Neural Magic se separó del MIT en 2018 con el objetivo de crear software de inferencia de alto rendimiento para el aprendizaje profundo. Con la experiencia en tecnología e ingeniería de rendimiento de Neural Magic, Red Hat busca acelerar su visión para el futuro de la IA, impulsada por el portafolio de tecnología de IA de Red Hat. Creada para superar los desafíos de la IA empresarial a gran escala, la compañía utiliza la innovación de código abierto para avanzar. democratizar el acceso al poder transformador de la IA a través de:
- Modelos con licencia de código abierto a una escala de mil millones a 405 mil millones de parámetros que pueden operar en cualquier lugar de la nube híbrida: en centros de datos empresariales, en múltiples nubes y en el borde.
- Capacidades de ajuste que permiten a las organizaciones personalizar más fácilmente los LLM con sus datos privados y casos de uso con un marco de seguridad más sólido.
- Experiencia en ingeniería de rendimiento de inferencia que resulta en mayores eficiencias operativas y de infraestructura.
- Un ecosistema de código abierto y de socios y marcos de soporte que brindan a los clientes más opciones, desde LLM y herramientas hasta hardware de servidor certificado y arquitecturas de chips.
El liderazgo tecnológico de Neural Magic en vLLM mejorará la capacidad de Red Hat AI para admitir implementaciones de LLM en cualquier entorno y en cualquier lugar de la nube híbrida con una pila de inferencia lista, abierta y altamente optimizada.
La transacción aún debe pasar la aprobación regulatoria norteamericana y otras condiciones habituales para cerrar contratos.
