Por Paul Gampe, director de tecnología de Console Connect

La Inteligencia Artificial Generativa (IA) tiene el potencial de liberar billones de dólares en valor para las empresas y transformar radicalmente la forma en que trabajamos. Esta tecnología innovadora ya se ha insertado en casi todos los sectores de la economía global, así como en muchos aspectos de nuestras vidas, y las personas ya utilizan la IA para consultar sus facturas bancarias e incluso solicitar recetas médicas. Las predicciones actuales sugieren que la IA generativa podría automatizar hasta el 70 por ciento del tiempo de los empleados en la actualidad.

Pero independientemente de la aplicación o la industria, el impacto de la IA generativa se puede sentir más profundamente en el ecosistema de la computación en la nube.

A medida que las empresas se apresuran a aprovechar esta tecnología en sus operaciones en la nube, es esencial comprender primero los requisitos de conectividad de la red (y los riesgos) antes de implementar modelos generativos de IA de forma segura y responsable.

Accediendo a conjuntos de datos

Por su propia definición, los modelos de lenguajes grandes (LLM) son extremadamente grandes, por lo que entrenar dichos LLM requerirá grandes cantidades de datos y computación ultrarrápida, y cuanto mayor sea el conjunto de datos, mayor será la demanda de potencia informática.

Es importante señalar que uno de los principales requisitos de conectividad para entrenar modelos de IA generativa en entornos de nube pública es el acceso asequible a la escala de conjuntos de datos y la enorme potencia de procesamiento necesaria para entrenar estos LLM es solo una parte del rompecabezas. Además de esto, otros componentes a considerar son la gestión de los requisitos de soberanía, seguridad y privacidad de los datos que transitan en su nube pública.

En 2022, el 39 por ciento de las empresas sufrieron una filtración de datos en su entorno de nube. Teniendo esto en cuenta, tiene sentido explorar los productos de conectividad privada del mercado que han sido diseñados específicamente para cargas de trabajo de alto rendimiento y de IA.

Tendencias regulatorias emergentes en el panorama

El laberinto de marcos regulatorios a nivel mundial es muy complejo y está sujeto a cambios, por lo que las empresas deben prestar mucha atención a las políticas públicas clave y a las tendencias regulatorias que están surgiendo rápidamente en el panorama de la IA.

Ahora las empresas deben implementar técnicas como el mapeo de datos y la prevención de pérdida de datos para asegurarse de saber dónde están todos los datos personales en todo momento y protegerlos en consecuencia. Se puede hacer referencia a este enfoque como un enfoque de privacidad por diseño y no solo ha sido adoptado por los mandatos en desarrollo del Reglamento General de Protección de Datos (GDPR) en Europa, sino también por las leyes de privacidad de datos en los Estados Unidos.

Imaginemos un banco multinacional de Nueva York que alberga 50 mainframes en sus instalaciones donde guarda su capacidad informática primaria. El objetivo es utilizar análisis de IA en los datos, pero no pueden utilizar la Internet pública para conectarse a estos entornos de nube porque muchas de sus cargas de trabajo tienen restricciones regulatorias. Como alternativa, la conectividad privada les brinda la posibilidad de acceder a la capacidad de IA generativa que existe dentro de los marcos regulatorios locales de la empresa.

Mantener la soberanía de los datos

A medida que la legislación sobre IA siga ampliándose, la adopción generalizada de la tecnología de IA generativa probablemente creará desafíos duraderos en torno a la soberanía de los datos. La única forma en que su empresa tendrá la seguridad de mantener su frontera soberana puede ser utilizar una forma de conectividad privada mientras los datos están en tránsito. Y a medida que el mundo se vuelve más interconectado digitalmente, esto ha llevado a las naciones a definir y regular dónde se pueden almacenar los datos y dónde se pueden alojar los LLM que los procesan.

Lo mismo se aplica a los modelos de entrenamiento de IA en la nube pública; las empresas necesitarán algún tipo de conectividad desde su nube privada a su nube pública donde realizan sus modelos de entrenamiento de IA y luego usarán esa conectividad privada para recuperar sus modelos de inferencia.

Una cosa a tener en cuenta es que, aunque algunas leyes nacionales exigen que ciertos datos permanezcan dentro de las fronteras del país, esto no necesariamente los hace más seguros. Por ejemplo, si su empresa utiliza la Internet pública para transferir datos de clientes hacia y desde Londres a través de un servicio de nube pública, incluso si viaja dentro de Londres, alguien aún puede interceptar esos datos y enviarlos a otras partes del mundo.

La importancia de la latencia y la congestión de la red

Con el volumen de llamadas de voz y vídeo que experimentamos a diario, todos nos hemos vuelto sensibles a la latencia. Lo que algunos no se dan cuenta es que la latencia es un factor crítico en términos de interacciones con las personas. Del mismo modo, los enormes conjuntos de datos utilizados para entrenar modelos de IA pueden provocar graves problemas de latencia en la nube pública.

Por ejemplo, si estás chateando con un bot de IA que te brinda servicio al cliente y la latencia comienza a exceder los 10 segundos, la tasa de abandono se acelera. Por lo tanto, utilizar la Internet pública para conectar su infraestructura de atención al cliente con sus modelos de inferencia es potencialmente peligroso para una experiencia en línea fluida, y un cambio en el tiempo de respuesta podría afectar su capacidad para proporcionar resultados significativos.

Mientras tanto, la congestión de la red podría afectar su capacidad para crear modelos a tiempo. La forma de superar esto es tener grandes canalizadores para garantizar que no encuentre congestión al mover sus conjuntos de datos primarios al lugar donde está entrenando su modelo de lenguaje. Como resultado, podrá evitar una congestión significativa, especialmente al transferir datos nuevos a LLM, lo que sin duda provocará un retraso.

Las consecuencias negativas de una gobernanza inadecuada de la IA

La gobernanza es algo de lo que se está hablando en este momento porque, sin una gobernanza adecuada de la IA, podría haber graves consecuencias para las empresas que podrían provocar daños comerciales y de reputación.

La falta de supervisión al implementar modelos de IA generativa en la nube podría fácilmente provocar errores e infracciones, sin mencionar la posible exposición de los datos de los clientes y otra información patentada. En pocas palabras, la confiabilidad de la IA generativa depende de cómo la utilicen las empresas. En otras palabras, ¿quién tiene acceso a los datos y dónde está disponible la trazabilidad de la aprobación de esos datos?

Las innumerables oportunidades de la IA generativa

La IA generativa es un campo transformador, pero los líderes de TI deben evitar equivocarse en la conectividad de su red antes de implementar sus aplicaciones.

Es esencial definir las necesidades de su negocio en relación con su arquitectura de nube existente, porque la accesibilidad a los datos lo es todo cuando se trata de IA generativa. En lugar de afrontar los riesgos de la nube pública, la flexibilidad de alto rendimiento de una plataforma de red como servicio (NaaS) puede proporcionar a las empresas con visión de futuro la ventaja de ser las primeras en actuar.

Por ejemplo, una solución NaaS incorpora la tecnología de red emergente que respalda los requisitos de gobernanza de la IA generativa tanto para su negocio en general como para la protección de sus clientes.

La agilidad de NaaS puede simplificar la adopción de sistemas de IA interconectando sus nubes con una infraestructura de red global que ofrezca conmutación y enrutamiento bajo demanda totalmente automatizados.