Qualcomm ha presentado una suite de dispositivos AI On-Prem y una suite de inferencia AI en el Consumer Electronics Show (CES) en Las Vegas.

La empresa de chips ha dicho que las nuevas ofertas permitirán a las organizaciones ejecutar aplicaciones de IA personalizadas y listas para usar en sus instalaciones, lo que reducirá los costos operativos y el TCO en comparación con los costos asociados con el alquiler de infraestructura de IA de terceros.

Impulsada por los aceleradores de IA en la nube de Qualcomm, la solución AI On-Prem Appliance es una oferta de hardware diseñada para cargas de trabajo de visión artificial e inferencia de IA generativa, mientras que AI Inference Suite proporciona software y servicios, incluidas aplicaciones, agentes, herramientas y bibliotecas para implementar IA en soluciones locales y ofertas en la nube. AI Inference Suite admite la integración con modelos de IA generativa, marcos y la implementación mediante Kubernetes o contenedores desnudos.

Aetina, Honeywell e IBM han colaborado con Qualcomm para implementar modelos de IA y casos de uso de automatización del flujo de trabajo en las nuevas ofertas.

El nuevo producto "cambia la economía del costo total de propiedad de la implementación de IA al permitir el procesamiento de cargas de trabajo de IA generativas desde solo la nube a una implementación local en las instalaciones", afirmó Nakul Duggal, gerente general del grupo para IoT industrial, automotriz y computación en la nube de Qualcomm Technologies.

“Las empresas ahora pueden acelerar la implementación de aplicaciones de IA generativa aprovechando sus propios modelos, con privacidad, personalización y adaptación, manteniendo el control total y con la confianza de que sus datos no saldrán de sus instalaciones”.