A Qualcomm apresentou um conjunto de dispositivos AI On-Prem e um conjunto de inferência de IA na Consumer Electronics Show (CES) em Las Vegas.

A empresa de chips disse que as novas ofertas permitirão que as organizações executem aplicativos de IA personalizados e prontos para uso no local, reduzindo os custos operacionais e o TCO em comparação com os custos associados ao aluguel de infraestrutura de IA de terceiros.

Qualcomm_AI.width-358
– Qualcomm

Alimentada pelos aceleradores de IA em nuvem da Qualcomm, a solução AI On-Prem Appliance é uma oferta de hardware projetada para inferência de IA generativa e cargas de trabalho de visão computacional, enquanto o AI Inference Suite fornece software e serviços, incluindo aplicativos, agentes, ferramentas e bibliotecas para implantar IA em soluções locais e ofertas de nuvem. O AI Inference Suite oferece suporte à integração com modelos, estruturas e implantação de IA generativa usando Kubernetes ou contêineres simples.

A Aetina, Honeywell e IBM colaboraram com a Qualcomm para implementar modelos de IA e casos de uso de automação de fluxo de trabalho nas novas ofertas.

O novo produto "muda a economia total do custo de propriedade da implementação de IA, permitindo o processamento de cargas de trabalho generativas de IA apenas da nuvem para uma implantação local", disse Nakul Duggal, gerente geral do grupo de IoT industrial, automotivo e de computação em nuvem da Qualcomm Technologies.

"As empresas agora podem acelerar a implantação de aplicativos generativos de IA, aproveitando seus próprios modelos, com privacidade, personalização e adaptação, mantendo o controle total e com a confiança de que seus dados não sairão de suas instalações".