O Gartner Inc., empresa de insights de negócios e tecnologia, prevê que, até 2028, falhas de configuração em sistemas ciberfísicos baseados em Inteligência Artificial poderão causar a paralisação de infraestrutura crítica em um país do G20.

A consultoria define sistemas ciberfísicos como aqueles que integram sensoriamento, computação, controle e análise para interação com o ambiente físico, abrangendo tecnologias como OT, ICS, IIoT, robótica, drones e aplicações da Indústria 4.0.

Segundo Wam Voster, vice-presidente analista do Gartner, interrupções significativas podem ocorrer não apenas por ataques ou desastres naturais, mas também por erros humanos ou falhas em atualizações automatizadas. Ele destaca a necessidade de mecanismos seguros de desligamento de emergência, acessíveis apenas a operadores autorizados, para evitar paralisações acidentais decorrentes de configurações incorretas de IA.

Falhas de configuração em sistemas de Inteligência Artificial podem levar ao desligamento automático de serviços essenciais, à interpretação incorreta de dados de sensores ou à execução de ações inseguras. Esses erros podem causar danos físicos ou interrupções em larga escala, afetando diretamente a segurança pública e a estabilidade econômica ao comprometer operações críticas, como redes elétricas e plantas industriais.

No setor de energia, por exemplo, redes modernas utilizam IA para equilibrar geração e consumo em tempo real. Um modelo preditivo configurado de forma inadequada pode interpretar variações normais como instabilidade e acionar, de forma indevida, mecanismos de isolamento ou cortes de carga em regiões inteiras.

Para Voster, a complexidade crescente dos modelos de IA torna difícil prever como pequenas alterações podem afetar o comportamento desses modelos. Ele afirma que, quanto mais opacos esses sistemas se tornam, maior é o risco associado a configurações incorretas, reforçando a necessidade de mecanismos que permitam intervenção humana quando necessário.

Para reduzir os riscos associados a falhas de configuração em sistemas de Inteligência Artificial aplicados a infraestruturas críticas, o Gartner recomenda que os Chief Information Security Officers adotem medidas específicas de prevenção e controle.

A consultoria orienta a implementação de modos de sobreposição seguros, incluindo mecanismos de desligamento de emergência acessíveis apenas a operadores autorizados, garantindo que o controle humano seja mantido mesmo em ambientes altamente automatizados.

Outra recomendação é o uso de gêmeos digitais em escala real, permitindo testar atualizações e alterações de configuração de forma realista antes da aplicá-las nos sistemas que sustentam operações críticas.

O Gartner também destaca a importância do monitoramento em tempo real, com mecanismos de reversão para mudanças realizadas por sistemas de IA em ambientes ciberfísicos, além da criação de equipes nacionais dedicadas à resposta a incidentes envolvendo Inteligência Artificial.