Nos últimos meses a Amazon, Google, Meta e Microsoft anunciaram planos para garantir que seus esforços de IA tenham acesso confiável a fontes de energia. Esse imperativo de energia de IA chegou ao Salão Oval, onde os governos Biden e Trump priorizaram e assumiram compromissos para alimentar a infraestrutura de IA que requer acesso a grandes quantidades de energia.

A boa notícia é que já existe um "hack" de energia de IA. E a solução não está na nuvem. É no local, em nossos próprios data centers.

Dados são tudo

É simples, na verdade. A maneira mais eficiente de executar qualquer modelo computacional, de executar qualquer carga de trabalho, é trazê-lo para onde os dados estão. A maioria das empresas já faz isso. Eles estão executando suas cargas de trabalho no local, em seus próprios data centers. É aqui que residem seus dados proprietários mais sensíveis. A melhor e mais eficiente maneira de minerar e utilizar esses dados é executar essas cargas de trabalho onde elas estão.

Os primeiros modelos de IA foram hospedados na nuvem. Para que as empresas jogassem, elas precisavam mover seus dados para a nuvem para se aproximar desses modelos. Mas as empresas devem fazer o contrário: elas devem trazer seus modelos de IA para o local para utilizar seus dados da maneira mais segura, eficiente em termos de energia e econômica.

Mesmo que as organizações prefiram aproveitar a elasticidade da computação em nuvem para treinamento e ajuste fino de modelos, a execução desses modelos no local adjacente aos seus dados é mais eficiente, o que pode resultar em economia significativa de custos e energia.

Virtualização e eficiência energética

Em vez de mover dados e fazer com que esses dados sejam distribuídos ou movidos desnecessariamente para diferentes recursos de computação e levá-los para um dos serviços de nuvem de hiperescala, é muito mais eficiente executar essa carga de trabalho de IA em que os dados já são criados, processados e consumidos. Isso é conhecido como IA privada e oferece várias vantagens para a TI corporativa, incluindo eficiência energética.

A IA privada permite que as empresas aproveitem ao máximo a pilha de virtualização que ancora sua infraestrutura de data center atual. A virtualização tem ajudado as empresas a alcançar eficiências energéticas por décadas. A virtualização reduz o espaço ocupado pelo hardware consolidando as cargas de trabalho em menos servidores e, por extensão, consome menos energia. Essa tem sido uma das principais vantagens da virtualização e o motivo pelo qual a maioria das cargas de trabalho corporativas hoje é executada em pilhas de virtualização. As organizações relataram uma redução média de 49% nos custos de infraestrutura, devido em parte à redução de hardware e software necessários para executar serviços de TI.

A virtualização traz essas mesmas vantagens de eficiência energética para cargas de trabalho de IA, onde se pode argumentar que são ainda mais valiosas. As cargas de trabalho de IA dependem de aceleradores de computação, como GPUs. Eles podem ser otimizados e, como CPUs e recursos de memória, a virtualização permite que as GPUs sejam otimizadas e consolidadas em menos servidores físicos e em um espaço geral de hardware menor.

O resultado consome menos energia e oferece os mesmos recursos de computação de IA. O agrupamento e o compartilhamento inteligentes de GPUs e infraestrutura de IA associada (por exemplo, recursos de rede, armazenamento e memória) reduzem a infraestrutura total de hardware necessária para executar uma variedade de serviços de IA/ML, o que pode, por sua vez, melhorar a eficiência energética. O melhor de tudo é que esses benefícios podem ser alcançados sem sacrificar o desempenho.

Controle organizacional centralizado

As empresas que adotam uma abordagem de IA privada têm a vantagem adicional de ter uma equipe de TI centralizada gerenciando e distribuindo seus recursos de IA para o restante da organização. Isso beneficia a empresa, fornecendo controle organizacional sobre todos os seus recursos de IA. Esse controle centralizado garante que as unidades de negócios individuais sejam impedidas de criar clusters e servidores de IA diferentes em suas próprias organizações. Além disso, as organizações podem reduzir o risco garantindo que apenas os modelos que foram digitalizados e aprovados pela TI central sejam colocados em produção.

Os benefícios da IA privada

Ter a capacidade de consolidar a IA e gerenciar recursos de IA da mesma forma que uma empresa sempre fez facilita a implementação do modelo de IA na velocidade que melhor se adapta à organização. As GPUs são uma tecnologia central necessária para cargas de trabalho de IA, e a maioria dos data centers ainda não está equipada para executar um número muito grande. A IA privada garante que a empresa a utilize da maneira mais eficiente possível.

A virtualização também permite que as empresas aloquem seus recursos de IA de forma mais inteligente, segura e eficiente em termos de energia do que os ambientes puramente de hardware, permitindo o pool inteligente e o compartilhamento da capacidade da infraestrutura. As grandes empresas hoje têm literalmente milhares de máquinas virtuais que estão sendo executadas em ou abaixo de 30% de sua utilização. Quando você vai além da IA generativa, muitos serviços de IA/ML podem ser executados com eficiência na capacidade de CPU disponível, o que pode reduzir ainda mais os custos e o consumo de energia

Para empresas que consideram sua implementação de IA, uma abordagem de IA privada virtualizada e definida por software oferece vantagens que podem oferecer eficiência energética, espaço reduzido de hardware e controle operacional centralizado.