Red Hat lanza llm-d: un proyecto de código abierto para escalar la inferencia de IA generativa
Este código aprovecha la potencia de orquestación de Kubernetes, junto con tecnologías avanzadas como vLLM
Este código aprovecha la potencia de orquestación de Kubernetes, junto con tecnologías avanzadas como vLLM