O relatório “2025 State of GenAI Report” encomendado pela Palo Alto Networks realizou uma análise sobre com as empresas estão adotando a inteligência artificial generativa, os benefícios e os desafios de segurança ocasionados pelo seu uso.

O relatório, baseado na análise de tráfego de mais de 7.000 organizações globais até 2024, mostra um crescimento explosivo no uso de ferramentas de IA generativa, com um aumento de 890% no volume de tráfego registrado. Esse crescimento se deve à evolução dos modelos, à automação e à melhoria da produtividade, com impacto econômico estimado em até 40%, segundo dados da McKinsey. Um exemplo notável foi o lançamento do DeepSeek-R1, que viu um crescimento de tráfego de 1.800% em apenas dois meses após sua estreia em janeiro de 2025.

A crescente adoção da IA ​​generativa também trouxe consigo um aumento nos riscos de segurança. No primeiro trimestre de 2025, os incidentes de perda de dados relacionados à IA aumentaram 2,5 vezes, representando 14% de todos os incidentes relatados. Além disso, o relatório descobriu que, em média, cada empresa usa 66 aplicativos de IA generativa, muitos deles sem supervisão adequada.

Um dos aspectos mais preocupantes é o fenômeno da IA ​​oculta, o uso não autorizado de ferramentas de IA por funcionários sem supervisão de TI. Esse problema dificulta a conformidade regulatória e expõe as empresas a riscos de confidencialidade. De acordo com o relatório, cada organização usa uma média de 6,6 aplicativos de alto risco sem uma estrutura de controle clara.

O estudo também alerta que mais de 70% das aplicações de IA generativa podem ser manipuladas por meio de ataques de jailbreak, permitindo que sejam geradas respostas contendo conteúdo ofensivo ou instruções sobre atividades ilegais.

Entre os setores com maior uso de IA generativa estão os de tecnologia e industrial, que representam 39% de todas as atividades de codificação, com riscos adicionais relacionados a vazamento de propriedade intelectual e execução de código malicioso.

Diante desse cenário, a Palo Alto Networks recomenda adotar um modelo abrangente de governança de IA. As chaves para uma estratégia eficaz incluem o controle o acesso às ferramentas de IA com políticas claras baseadas em usuários, dispositivos e níveis de risco; proteção dos dados confidenciais por meio de inspeção de conteúdo em tempo real e segurança centralizada e implementação de arquiteturas Zero Trust para detectar e bloquear ameaças avançadas derivadas do uso de IA generativa.