A plataforma de dados de IA Vast Data apresentou uma arquitetura de IA para Data Centers, desenvolvida em colaboração com a Nvidia.
O fornecedor afirma que o novo sistema oferecerá melhor desempenho e maior qualidade de serviço, bem como segurança de confiança zero aprimorada. Construída sobre a tecnologia de unidade de processamento de dados (DPU) BlueField-3 da Nvidia, a arquitetura “permite que todo o sistema operacional da Vast seja desagregado nativamente em máquinas de computação de IA, transformando supercomputadores em mecanismos de dados de IA”, disse a empresa.
O sistema da Vast permite que os usuários treinem modelos de IA armazenando e sintetizando grandes quantidades de dados. No ano passado, lançou sua plataforma de dados que oferece serviços de armazenamento, bancos de dados e mecanismos de computação para apoiar pesquisas habilitadas por IA.
Jeff Denworth, cofundador da Vast Data, disse: “Essa nova arquitetura é a vitrine perfeita para expressar o paralelismo da Vast Data Platform. Com as DPUs BlueField-3 da Nvidia, agora podemos realizar todo o potencial de nossa visão para Data Centers desagregados para os quais temos trabalhado desde que a empresa foi fundada”.
A empresa disse que o novo design de arquitetura incorpora serviços de armazenamento e processamento de banco de dados diretamente em servidores de IA e oferece o que descreve como “verdadeiros serviços de dados lineares projetados para escalar para centenas de milhares de GPUs”. Ele também remove várias camadas de hardware e rede x86 da infraestrutura de plataforma de dados da Vast, algo que acredita que pode reduzir drasticamente o custo, a pegada e o consumo de energia associados aos serviços de dados de IA.
De fato, ele afirma que a arquitetura pode reduzir o consumo de energia e a pegada do Data Center para implantar a infraestrutura da Vast em 70%.
O novo sistema está sendo testado pelo fornecedor de nuvem de GPU CoreWeave. As empresas têm uma parceria existente, tendo lançado uma nuvem de IA dedicada no ano passado.
Peter Salanki, vice-presidente de engenharia da CoreWeave, disse que a arquitetura foi “um divisor de águas” para sua empresa, permitindo que ela “desagregasse completamente” seus Data Centers.
“Estamos integrando perfeitamente o software avançado da Vast diretamente em nossos clusters de GPU”, disse Salanki. “Aproveitando as DPUs BlueField da Nvidia, estivemos na vanguarda da criação de abstrações sofisticadas de Data Center definidas por software.
“Agora, ao incorporar nativamente serviços de armazenamento e banco de dados no BlueField, não estamos apenas otimizando nossa infraestrutura, mas também melhorando a experiência do usuário para nossos clientes, eliminando gargalos no pipeline de computação de dados de IA”.
A Vast lançará sua nova arquitetura antes da conferência GTC da Nvidia, que será realizada em San Jose na próxima semana. Também revelou que está trabalhando com outro fornecedor, a SuperMicro, em uma nova colaboração para entregar uma solução de IA completa de ponta a ponta destinada a simplificar a criação e a expansão de implantações de IA em larga escala.
As duas empresas “oferecerão aos fornecedores de serviços, hiperescalas e grandes empresas centradas em dados uma solução de IA altamente eficiente e resiliente, alimentada por sistemas certificados pela Nvidia”, de acordo com um comunicado conjunto.
“Ao colaborar com a SuperMicro, estamos entregando uma plataforma unificada de dados de hiperescala que tornará mais fácil para fornecedores de serviços e empresas serem competitivos na corrida da IA”, disse Renen Hallak, CEO e cofundador da Vast.
