Por Martyn Ditchburn, director de tecnología de Zscaler

El crecimiento de la IA generativa dentro de las organizaciones y su uso más generalizado es un testimonio de su poder transformador. Pero si bien hemos visto cuán revolucionaria puede ser la IA Generativa (ofreciendo una toma de decisiones basada en datos, agilizando los procesos de negocios y ofreciendo a las organizaciones una ventaja competitiva), no todas las organizaciones son conscientes de los posibles impactos negativos o están preparadas para garantizar una integración responsable.

Nuestra investigación más reciente que explora el uso de herramientas Gen AI dentro de las organizaciones reveló que el 89 por ciento considera que las herramientas Gen AI son un riesgo potencial para la seguridad, mientras que solo el 38 por ciento aborda su uso con precaución.

A medida que el interés global continúa creciendo, este artículo brindará una descripción general de las tendencias en evolución, describirá los dilemas éticos en torno a los datos y brindará las mejores prácticas para su uso para escalar de manera responsable las estrategias de IA.

La popularidad está creciendo

Si bien las oleadas anteriores de tecnología de automatización han desempeñado un papel integral en las actividades físicas de la mayoría de las empresas, como un negocio de comercio electrónico centrado en grandes volúmenes de paquetes, con máquinas clasificadoras automatizadas, sistemas transportadores y recolectores robóticos, la IA Generativa ahora impacta a la mayoría de las organizaciones con sus actividades relacionadas con la toma de decisiones y la colaboración.

Como resultado, nuestra investigación encontró un aumento importante en el uso. El 95 por ciento de las organizaciones nos dijeron que están utilizando herramientas Gen AI de alguna forma dentro de sus negocios, y otro 92 por ciento espera que el interés en usar herramientas Gen AI solo continúe aumentando para fin de año.

Entre las industrias que están impulsando su adopción, se destacó la industria manufacturera, que ofrece una visión convincente de los rápidos avances que se están logrando durante la era de la industria 4.0. Otras verticales que se destacaron por su uso incluyen finanzas, tecnología y servicios.

Específicamente en las herramientas en sí, ChatGPT, Drift y LivePerson se destacaron como las aplicaciones impulsadas por Gen AI más populares, mientras que OpenAI.com encabezó la lista de dominios relacionados con AI/ML. Curiosamente, más de la mitad de las transacciones de OpenAI.com se pueden atribuir al tráfico relacionado con ChatGPT.

Las implicaciones éticas que impactan a las organizaciones

En la prisa por innovar y seguir siendo competitivas, muchas organizaciones no piensan con suficiente amplitud sobre las posibles implicaciones de la IA.

Los modelos Gen AI utilizan conjuntos de datos para sacar y proporcionar conclusiones; cuanto más grandes sean estos conjuntos, con mayor precisión podrán operar. Sin embargo, no es tan simple como eso, ya que existen muchos problemas relacionados con la privacidad, los prejuicios y la desigualdad.

La regulación es clave para evitar que los modelos GenAI arrojen conclusiones inferiores o sesgadas, pero a veces es difícil de gestionar a escala global cuando diferentes países siguen leyes diferentes. El área de la propiedad intelectual (PI) es un buen ejemplo en el que los mercados occidentales tienden a atenerse a las leyes de propiedad intelectual mientras que los mercados orientales no lo hacen, lo que significa que los mercados orientales pueden innovar mucho más rápido que sus homólogos occidentales. No son sólo otras empresas las que podrían aprovechar esta desigualdad en el uso de datos: los ciberdelincuentes no se apegarán al uso ético de la IA ni a respetar las leyes de privacidad cuando se trata de sus ataques, dejando a quienes lo hacen luchando efectivamente con un brazo atado detrás de sus espaldas.

Cómo las empresas pueden empezar a hacerse cargo de su enfoque Gen AI

Comprender que dichas aplicaciones de IA conllevan un riesgo inherente y deben evaluarse continuamente para mantener segura la propiedad intelectual, los datos personales y la información de los clientes es el primer paso para obtener el control y trazar enfoques de IA a largo plazo.

Sin embargo, para poder tomar medidas, es crucial que las organizaciones establezcan un conjunto de mejores prácticas para garantizar el uso responsable y seguro de estas herramientas.

Por muy tentador que parezca, mantener una segregación estricta entre datos públicos y privados, al mismo tiempo que se prioriza el uso de datos privados tanto como sea posible, puede ser útil para prevenir consecuencias de seguridad que pueden resultar en un acceso no autorizado, un robo de identidad o incluso un uso indebido de información sensible.

Dar prioridad a las regulaciones existentes y mantener una actitud proactiva para garantizar que se cumplan todas las leyes y estándares éticos relevantes es un paso fundamental en el desarrollo, la integración y el uso responsable de Gen AI. Esto significará considerar con qué frecuencia volver a aplicar su motor de procesamiento de IA e incluirlo en los planes y presupuestos.

Es importante destacar que, desde los empleados hasta los ejecutivos de la junta directiva, la transparencia es vital, especialmente en términos de comprender la relevancia y el propósito de estas herramientas. En última instancia, esto puede ayudar en el proceso de identificación y gestión de riesgos potenciales asociados con los sistemas de IA en el futuro, permitiendo a las partes interesadas abordar de manera proactiva las inquietudes y vulnerabilidades, reduciendo la probabilidad de consecuencias negativas.

La importancia del ahora

Dado que la adopción de Gen AI continúa ganando popularidad a medida que avanzamos hacia 2024, es hora de que las organizaciones comprendan las implicaciones actuales para poder proteger mejor sus negocios.

Será esencial abordar las preocupaciones éticas, proteger la privacidad, mantener la seguridad, cumplir con las regulaciones y fomentar la confianza entre los usuarios y las partes interesadas para evitar consecuencias que se extiendan más allá de las cuestiones legales y regulatorias y el éxito empresarial general.

Al priorizar la seguridad, las organizaciones contribuyen al desarrollo y despliegue responsable de tecnologías de IA.