El informe “2025 State of GenAI Report”, presentado por Palo Alto Networks, revela un crecimiento sin precedentes en el uso de aplicaciones de IA generativa, con un incremento del 890% en el volumen de tráfico registrado. El rápido crecimiento se debe a la madurez de los modelos, el progreso en automatización y las mejoras comprobadas en productividad, con un impacto económico adicional estimado de hasta el 40%, según McKinsey. Un caso notable fue el lanzamiento de DeepSeek-R1 en enero de 2025, que multiplicó su tráfico por 18 en solo dos meses.

El uso no controlado multiplica los riesgos de seguridad

El auge en el uso de IA generativa viene acompañado de un aumento significativo en los riesgos. Solo en el primer trimestre de 2025, los incidentes de pérdida de datos (DLP) relacionados con esta tecnología se multiplicaron por 2,5 y ya suponen el 14% del total registrado. Además, las organizaciones detectan una media de 66 aplicaciones de IA generativa, lo que evidencia una expansión rápida y, en muchos casos, sin control.

Uno de los fenómenos más preocupantes es el de la Shadow AI, es decir, el uso no autorizado de herramientas de IA por parte de empleados sin supervisión del área de TI. Esta práctica erosiona la visibilidad, complica el cumplimiento normativo y pone en peligro la confidencialidad de la información empresarial. Según el informe, las organizaciones conviven con una media de 6,6 aplicaciones de IA generativa de alto riesgo sin un marco de control claro.

Más del 70% de las apps de IA generativa pueden ser manipuladas con ataques tipo jailbreak

El 83,8% de las interacciones con IA generativa provienen de asistentes de escritura, agentes conversacionales, buscadores corporativos y entornos de desarrollo. Grammarly lidera entre los asistentes de escritura, concentrando el 39% del tráfico, mientras que Microsoft domina el ámbito empresarial con casi el 49% de las organizaciones utilizando Copilot o Copilot Studio. En España, las herramientas más usadas por volumen son Microsoft 365 Copilot (24,1%), Microsoft PowerApps (23,9%) y ChatGPT de OpenAI (23,4%).

El informe también señala la persistencia de vulnerabilidades: más del 70% de las aplicaciones evaluadas resultaron susceptibles a ataques tipo jailbreak, capaces de generar respuestas con contenido autolesivo, discriminatorio, ofensivo o que instruyen sobre actividades ilegales. Esta realidad refuerza la urgencia de implementar marcos éticos y técnicos más robustos en el desarrollo y uso de modelos generativos.

Los sectores tecnológico e industrial lideran el uso de IA generativa en tareas de desarrollo, concentrando el 39% de la actividad de codificación. Sin embargo, estas plataformas implican riesgos añadidos, como la ejecución de código malicioso, filtraciones de propiedad intelectual y posibles implicaciones legales o éticas.

Cómo protegerse con un enfoque integral de gobernanza en IA

Frente a este panorama, Palo Alto Networks recomienda a las organizaciones adoptar una estrategia integral de gobernanza de la IA, centrada en la visibilidad, el control del uso y una seguridad avanzada en todos los niveles del entorno digital. El informe identifica tres líneas de actuación prioritarias:

• Control del uso de la IA generativa y definición de límites: mediante políticas de acceso condicional que consideren factores como usuarios, ubicación, dispositivos, niveles de riesgo y objetivos legítimos.
• Protección de datos sensibles frente a accesos no autorizados o fugas: a través de inspección de contenido en tiempo real y políticas de seguridad centralizadas que cubran todos los flujos de datos.
• Defensa ante ciberamenazas avanzadas basadas en IA: implementando arquitecturas Zero Trust capaces de detectar y bloquear malware sofisticado y amenazas ocultas en respuestas generadas por IA.