Recentemente, terminei de filmar o Supermicro Open Storage Summit 2024 (transmitido de 13 a 29 de agosto) e tive algum tempo para refletir sobre as mudanças que estão acontecendo no setor de armazenamento.

Com a participação de 18 empresas, o Supermicro contou com a participação de todos os principais fornecedores de processadores e GPUs (Nvidia, AMD e Intel), as principais empresas de mídia de armazenamento (Kioxia, Western Digital, Micron, Solidigm, Seagate) e algumas das principais empresas de armazenamento definido por software (WEKA, VAST Data, DDN, Nutanix, Quantum, OSNexus, Cloudian, Graid e Memverge). Aqui estão os principais temas que observei.

Primeiro, todos os palestrantes em cada sessão discutiram a IA, seja como uma carga de trabalho e um aplicativo críticos e como ela estava mudando a infraestrutura que suporta essas cargas de trabalho. Isso ocorreu apesar do meu conceito inicial do evento de ter cada sessão focada nas principais cargas de trabalho de armazenamento tradicionais, incluindo HCI e empresa, HPC, mídia e entretenimento e outros. Originalmente, pensei que abordaríamos as cargas de trabalho de IA em uma sessão de armazenamento de IA separada. Está claro agora que a IA permeou todas as cargas de trabalho e é um recurso em muitos aplicativos, independentemente do setor discutido.

Seja IA generativa usada para criação de conteúdo em mídia e entretenimento e IA tradicional usada para classificação, marcação e transcrição automáticas de conteúdo em um gerenciador de ativos de mídia, a IA está nos estágios iniciais de transformação de todas as cargas de trabalho corporativas.

A Lei de Amdahl descreve como os ganhos de desempenho estão relacionados à fração de tempo usada pela parte aprimorada do sistema de computador e ilustra como os gargalos migrarão para outra área quando um subsistema for otimizado. Isso estava em plena exibição, pois cada parte da pilha de soluções do sistema, processador, rede, SSD, HDD e software se esforçava para não ser o gargalo de desempenho em um ambiente altamente conectado e complexo. Isso falou sobre a necessidade de uma abordagem em nível de sistema para validação, teste e otimização de desempenho, na qual a Supermicro, como fornecedora de soluções de sistema, demonstrou seu trabalho em todas essas soluções.

Sessão de armazenamento de IA

Na sessão de armazenamento de IA, Jon Toor, da Cloudian, descreveu como o armazenamento de objetos não é usado apenas no data lake tradicional como repositório de dados de IA, mas agora está começando a ser usado diretamente para treinamento de IA quando implementado em uma infraestrutura totalmente flash.

Shimon Ben-David, da WEKA, discutiu como uma mistura de tamanhos de arquivo pequenos e grandes e padrões de leitura e gravação são frequentemente misturados de forma imprevisível quando várias cargas de trabalho de treinamento de IA são executadas simultaneamente. Essa combinação é tratada por meio de um sistema de arquivos paralelo de alto desempenho. Steve Hanna, da Micron, falou sobre como essas cargas de trabalho exigem diferentes classes de tecnologias SSD e NAND, incluindo TLC otimizado para gravação e QLC otimizado para leitura para SSDs de grande capacidade.

Rob Davis, da Nvidia, descreveu como o desempenho da rede é essencial para o desempenho geral do sistema e como as velocidades de rede para Ethernet e InfiniBand estão se movendo para 800 Gbps. Ele descreveu o novo protocolo de armazenamento iniciado por GPU da Nvidia, que ignora totalmente a CPU nas transferências de dados de armazenamento pela rede, substituindo o protocolo de armazenamento direto da GPU.

A unidade de processador de dados (DPU) Bluefield-3 da Nvidia em ambas as extremidades da conexão de armazenamento permite o descarregamento da CPU e maior segurança da pilha de armazenamento por meio do isolamento do espaço do usuário.

William Li, da Supermicro, compartilhou uma arquitetura de referência comprovada e implementada usando as tecnologias de todos os três parceiros em uma implementação de armazenamento de duas camadas que foi otimizada para cargas de trabalho flash de alto desempenho, bem como data lakes de alta capacidade.

Painel de armazenamento de mídia e entretenimento

No painel de armazenamento de mídia e entretenimento, Paul Blinzer, da AMD, deu o pontapé inicial com a forma como “os tempos estão mudando” em grande parte devido ao impacto da IA na criação de conteúdo e nos fluxos de trabalho. A AMD está enfrentando esse desafio por meio de uma combinação de melhorias tradicionais de desempenho da CPU e aceleradores de IA de GPU de alto desempenho.

Sherry Lin discutiu como as plataformas de armazenamento e computação da Supermicro estão atendendo a essa necessidade por meio do maior portfólio disponível de produtos de servidor e armazenamento disponíveis de qualquer fabricante. Praveen Midha, da Western Digital, falou sobre o ciclo de vida dos dados de IA e como diferentes classes de SSDs são necessárias em diferentes fases, desde a ingestão de conteúdo até a inferência e criação de conteúdo para otimizar as diferentes características de leitura/gravação e capacidade da fase.

Por fim, Skip Levens, da Quantum, vinculou isso a uma discussão sobre como os produtos de armazenamento e fluxo de trabalho definidos por software da Quantum, incluindo seu sistema de arquivos de alto desempenho, Myriad, e o armazenamento de objetos ActiveScale otimizado para capacidade, são conectados por meio do produto Media Asset Manager CatDV para permitir que os produtores de conteúdo que estão continuamente produzindo conteúdo, como equipes esportivas, automatizem o aspecto de gerenciamento de dados de seu fluxo de trabalho.

Sessão de infraestrutura hiperconvergente

Na sessão de infraestrutura hiperconvergente (HCI), Oscar Walhberg, da Nutanix, descreveu como as novas plataformas de hardware da Supermicro, os novos recursos de processador da Intel e os SSDs de alto desempenho e grande capacidade da Western Digital transformaram a HCI de cinco anos atrás e permitiram que a Nutanix executasse qualquer aplicativo que possa ser virtualizado, incluindo bancos de dados e inferência de IA, por meio de uma oferta "GPT-in-a-Box" anunciada recentemente.

Christine McMonigal, da Intel, descreveu como o cenário de HCI estava mudando por meio de fusões e aquisições e como a sustentabilidade ambiental era um fator essencial para uma infraestrutura de Data Center mais eficiente em termos de energia fornecida pelas soluções de HCI.

Descrevi como a Supermicro fornece uma ampla gama de plataformas de armazenamento e servidor que permitem que a Nutanix e outras cargas de trabalho sejam implementadas com os requisitos e SLAs exatos necessários enquanto testam e otimizam todas as tecnologias.

Fornecedor de serviços em nuvem e sessão de IA

Na sessão de fornecedor de serviços em nuvem (CSP) e IA, Ben Lee, da Supermicro, iniciou a discussão falando sobre como os servidores de GPU de oito vias conectados em grandes clusters de nível de rack são a base do treinamento de IA em larga escala e como o resfriamento líquido usando a tecnologia direta ao chip agora é essencial para lidar com a alta saída térmica das GPUs mais recentes e remover o calor de forma eficiente do Data Center para permitir a menor PUE possível do Data Center.

Neeloy Bhattacharyya, da VAST Data, falou sobre como a nova geração de CSPs focados em IA precisa se diferenciar com serviços de dados que permitirão margens altas, uma métrica crítica do CSP. Sachin Hindupor destacou as contribuições da AMD para soluções CSP, incluindo métricas de desempenho de watt/núcleo mais baixas, bem como maior contagem de núcleos e mais pistas PCIe Gen 5 para permitir ambientes CSP multilocatários em grande escala.

Bill Panos descreveu como os SSDs QLC de 30,72 TB da Solidigm atenderam à necessidade de armazenamento flash econômico de alta capacidade, enquanto os produtos TLC atenderam à necessidade de cargas de trabalho mais transacionais.

Sessões de tecnologias de armazenamento

Também tivemos duas sessões focadas em tecnologias de armazenamento. A sessão de arquitetura de armazenamento scale-up versus scale-out destacou as duas abordagens arquitetônicas diferentes para armazenamento e descreveu quais cenários eram mais adequados para cada uma.

Paul McLeod, da Supermicro, descreveu as duas abordagens diferentes e como a Supermicro tinha o maior portfólio de produtos de servidor de armazenamento para ambas as abordagens, incluindo um novo servidor de armazenamento totalmente flash do tipo SBB (Storage Bridge Bay) de porta dupla de alta disponibilidade, otimizado para armazenamento escalável. Steve Umbehocker falou sobre como a OSNexus tinha uma solução de armazenamento definido por software scale-up e scale-out, o QuantaStor, e como a plataforma de gerenciamento Grid unificou os dois tipos de instâncias do QuantaStor.

Em seguida, Iyer Venkatesan revisou a abordagem da Intel para otimizar as cargas de trabalho de armazenamento nos processadores Intel Xeon usando aceleradores de descarregamento de CPU especializados, incluindo tecnologia de assistência rápida (QAT), acelerador de streaming de dados (DSA) e dispositivo de gerenciamento de volume (VMD), que acelerou uma variedade de cargas de trabalho, desde compactação e criptografia de dados até operações de leitura e gravação NVMe e proteção de dados RAID baseada em software.

Em contraste, Tom Paquette, da Graid Technology, descreveu o RAID baseado em GPU da Graid, que é otimizado para SSDs NVMe e é executado fora do caminho de dados do SSD. Jason Zimmerman analisou os SSDs NVMe da Seagate e as unidades de disco Mozaic 3 lançadas recentemente, que estão permitindo armazenamento em disco de maior capacidade por meio do primeiro aumento na densidade de área em muitos anos. Por fim, Anders Graham descreveu como os produtos flash QLC da Koixia permitem SSDs de 60 TB e como os SSDs TLC são usados para dados de taxa de transação mais alta.

Sessão de computação de alto desempenho

A sessão de computação de alto desempenho (HPC) enfatizou que, embora a HPC exista há décadas, as novas cargas de trabalho de IA também a estão transformando. Como criadores históricos de sistemas de supercomputação, os especialistas em HPC trazem décadas de experiência na operação de sistemas em cluster de grande escala que precisam superar falhas de software e hardware durante a execução de longos trabalhos em lote.

As cargas de trabalho de simulação tradicionais de tudo, desde o design de chips até o aeroespacial e a genômica, agora estão incorporando IA e precisam coexistir com cargas de trabalho de IA generativa. Essas novas cargas de trabalho são atendidas com novas tecnologias, incluindo novas GPUs, interconexões e integrações em nível de rack. CJ Newburn, da Nvidia, iniciou a discussão com uma prévia dessas novas tecnologias, incluindo a recém-anunciada GPU de superchip Nvidia Blackwell, novas interconexões de GPU NVLink de alta velocidade e novos protocolos de armazenamento, como GPU Initiated Storage.

Randy Kreiser, da Supermicro, seguiu com uma foto do primeiro rack NVLink da Supermicro com as GPUs Nvidia Blackwell ainda não lançadas enviadas para a Nvidia para teste e desenvolvimento. Balaji Venkateshwaran descreveu como os produtos de armazenamento da DDN atenderam aos requisitos de armazenamento HPC de grande escala e multilocação. Bill Panos, da Solidigm, concluiu como diferentes tipos de SSDs e NAND foram usados para atender a cada fase do ciclo de vida da IA.

Sessão de link expresso de computação

A sessão final se concentrou no link expresso de computação, ou CXL, que fornece uma interface coerente com cache para conectar dispositivos a CPUs. Anil Godbole, da Intel, começou descrevendo a visão da Intel para o CXL quando inventou a tecnologia e como os processadores Intel Xeon atuais e futuros suportarão essa tecnologia. Andrey Kudryavtsev, da Micron, mostrou vários exemplos de uso do CXL para expansão de memória, incluindo treinamento de IA, que encurtou a época de treinamento pela metade, permitindo que os parâmetros do modelo de IA estivessem inteiramente na memória além da capacidade da memória de conexão direta.

Por fim, Steve Scargall da MemVerge descreveu como o kernel Linux suporta CXL e como o software Memory Machine da MemVerge permite casos de uso como pool de memória e camadas.

Você pode ouvir mais desses palestrantes diretamente no Supermicro Open Storage Summit. Inscreva-se no Supermicro Open Storage Summit 2024 para ouvir gratuitamente.

Mais sobre a Supermicro