A Qualcomm Technologies, Inc. anunciou novas soluções voltadas para inferência de inteligência artificial em data centers, incluindo placas aceleradoras baseadas nos chips Qualcomm® AI200 e AI250, além de racks otimizados. As soluções foram desenvolvidas com foco em desempenho escalável e maior capacidade de memória, visando aplicações de IA generativa com eficiência energética e custo-benefício aprimorado.

O chip Qualcomm AI200 oferece uma plataforma de inferência de IA em nível de rack, projetada para reduzir o custo total de propriedade (TCO) e melhorar o desempenho em modelos de linguagem grande e multimodal (LLM, LMM), entre outras cargas de trabalho de IA. Cada placa suporta até 768 GB de memória LPDDR, proporcionando maior capacidade e flexibilidade para operações em larga escala.

Segundo Durga Malladi, vice-presidente sênior e gerente geral de Planejamento de Tecnologia, Soluções de Edge e Data Center da Qualcomm Technologies, Inc., os chips Qualcomm AI200 e AI250 representam um avanço nas capacidades de inferência de inteligência artificial em escala de rack. As novas soluções de infraestrutura foram desenvolvidas para viabilizar a implementação de IA generativa com maior eficiência de custos, mantendo níveis de flexibilidade e segurança compatíveis com os requisitos dos data centers atuais.

A solução Qualcomm AI250 será disponibilizada com uma arquitetura de memória que utiliza computação próxima à memória, com foco em melhorar a eficiência e o desempenho em cargas de trabalho de inferência de inteligência artificial. Essa abordagem oferece uma largura de banda de memória efetiva significativamente superior e menor consumo de energia, contribuindo para uma utilização mais eficiente dos recursos de hardware e alinhando-se às demandas de desempenho e custo dos usuários.

As duas soluções em rack incluem resfriamento líquido direto para otimização térmica, suporte a PCIe para expansão vertical, conectividade Ethernet para expansão horizontal, recursos de computação confidencial voltados à segurança em cargas de trabalho de IA e consumo energético de até 160 kW por rack.

Durga Malladi afirma que a ampla oferta de software da Qualcomm Technologies, Inc. e o suporte a ecossistemas abertos facilitam a integração, o gerenciamento e a escalabilidade de modelos de inteligência artificial já treinados nas soluções de inferência da empresa. Os chips Qualcomm AI200 e AI250 foram desenvolvidos para oferecer compatibilidade com as principais estruturas de IA e permitir a implantação simplificada de modelos, com foco em agilidade e facilidade de adoção.

A pilha de software de inteligência artificial da Qualcomm Technologies foi desenvolvida para ambientes de grande escala, cobrindo desde a camada de aplicativos até o software de sistema, com foco em otimização para inferência de IA. Essa estrutura é compatível com as principais bibliotecas de aprendizado de máquina, mecanismos de inferência, soluções de IA generativa e técnicas de otimização para modelos de linguagem grande e multimodal (LLM/LMM), incluindo suporte a serviços desagregados.

Os desenvolvedores contam com integração simplificada de modelos e implantação automatizada de modelos da Hugging Face, por meio da Efficient Transformers Library e do Qualcomm AI Inference Suite. A plataforma inclui aplicativos e agentes de IA prontos para uso, além de ferramentas, bibliotecas, APIs e serviços voltados à operacionalização de soluções de IA.

Os chips Qualcomm AI200 e AI250 têm lançamento comercial previsto para 2026 e 2027, respectivamente. A empresa mantém um cronograma anual de atualizações para data centers, com foco em desempenho avançado de inferência de IA, eficiência energética e redução do custo total de propriedade (TCO). Mais informações estão disponíveis no site oficial da Qualcomm Technologies.