Dado que la inteligencia artificial (IA) es cada vez más común en las operaciones comerciales, la implementación ética de la IA es la máxima prioridad. La próxima legislación sobre gobernanza de la IA de la Comisión Europea garantizará que la interacción diaria de estas tecnologías siga siendo ética y legal.
La ley de IA, una primicia mundial, proporciona una hoja de ruta para cambios de gran alcance en la forma en que utilizamos la IA con el objetivo de regular éticamente a los desarrolladores de aplicaciones de IA.
Al implementar una legislación estricta similar al RGPD y Sarbanes Oxley, la gobernanza de la IA implementará sanciones por incumplimiento, y la Ley de IA de la UE ha propuesto multas de 30 millones de euros, o el seis por ciento de la facturación corporativa anual global, lo que sugiere que la pena más alta debería ser dado.
Las empresas deben evaluar sus flujos de trabajo e identificar las áreas donde se implementa la IA, así como los riesgos potenciales que conlleva.
El momento de actuar es ahora
La gobernanza afectará a todo, desde la automatización de la fabricación digital hasta las aplicaciones que imitan a los trabajadores humanos administrativos. Las oficinas gubernamentales, las industrias jurídica y sanitaria que utilizan IA para extraer datos, rellenar formularios o mover archivos deberán cumplir.
Si utiliza operaciones robóticas, gestión de flujo de trabajo BPI, ICR que convierte la escritura a mano en texto legible por computadora o IA o ML de nivel profundo, debe cumplir. La automatización está cubierta, por lo que las empresas deben examinar cómo utilizan la IA y asegurarse de que los equipos cumplan con las necesidades regulatorias a medida que mejoran continuamente las tareas o procesos automatizados. La buena noticia es que, al crear un rastro digital auditable, la IA es ideal para la regulación de la IA, ya que puede generar eficiencias en todos los flujos de trabajo y tener información completa y auditable: una superpotencia en sí misma.
Creando gobernanza de IA dentro de su negocio
Al contar con un marco de IA sólido, las organizaciones pueden ser responsables y supervisar el desarrollo y la implementación, fomentando prácticas éticas y mejorando la confianza entre los usuarios. En última instancia, todos tienen responsabilidad, empezando por las directrices internas de IA:
- De arriba hacia abajo: los líderes empresariales son responsables del gobierno de la IA, así que asigne un director de datos o un comité de auditoría para mejorar la calidad, la seguridad y la gestión de los datos.
- De abajo hacia arriba: los equipos individuales pueden asumir la responsabilidad de la seguridad de los datos, el modelado y sus tareas para garantizar la estandarización y la escalabilidad.
- Modelado: un modelo de gobierno eficaz debe monitorear y actualizar el desempeño y los objetivos generales de la organización.
- Transparencia: el seguimiento del rendimiento de su IA es igualmente importante, ya que garantiza la transparencia para las partes interesadas y los clientes, y es esencial para la gestión de riesgos.
Trabajar dentro de los marcos de gobernanza de la IA
Cualquiera que utilice IA debe mantener la transparencia y el cumplimiento (un desafío a medida que se están elaborando estándares) y aquellos que ignoran la gobernanza enfrentan filtraciones, fraude y privacidad ignorada.
Los gobiernos, las empresas y el mundo académico continúan estableciendo directrices y marcos, con varios ejemplos del mundo real que abordan las implicaciones éticas, legales y sociales de la inteligencia artificial.
El RGPD de la UE, si bien no se centra en la IA, incluye disposiciones de protección de datos y privacidad relacionadas con los sistemas de IA. Además, la Asociación para la IA y la Declaración de Montreal para una IA responsable se centran en la investigación, las mejores prácticas y el diálogo abierto sobre el desarrollo.
La “Estrategia Pancanadiense de IA” de Canadá enfatiza el desarrollo y uso de la IA en beneficio de la sociedad, incluidas iniciativas relacionadas con la ética, la transparencia y la rendición de cuentas de la IA. Los Principios de IA de Google describen su compromiso con la IA para el bien social, evitando daños y garantizando la justicia y la responsabilidad. Microsoft, IBM y Amazon tienen pautas similares.
Una guía de 14 pasos para comenzar su viaje de gobernanza de la IA
Garantizar la gobernanza de la IA implica establecer procesos, seguridad y prácticas de previsión. Quienes utilicen IA deben incluir controles de riesgo y sesgo de la IA. Además, existen varios enfoques estratégicos para la gobernanza de la IA.
- Pautas de desarrollo: Establecer mejores prácticas regulatorias y de IA basadas en fuentes de datos, capacitación, ingeniería y evaluación de modelos, riesgos potenciales y beneficios.
- Gestión de datos: asegúrese de que los datos de capacitación y los modelos de IA sean precisos y cumplan con los requisitos normativos y de privacidad.
- Mitigación de sesgos: incorporar formas de abordar los sesgos en los modelos de IA para garantizar resultados justos.
- Transparencia: Exigir que los modelos de IA proporcionen explicaciones para la toma de decisiones.
- Validación y pruebas de modelos: realice validaciones y pruebas periódicas de modelos de IA.
- Monitoreo: supervise el rendimiento de la IA con un ser humano informado para satisfacer las necesidades.
- Control de versiones: realice un seguimiento de los modelos de IA, los datos de entrenamiento, las configuraciones y las métricas.
- Gestión de riesgos: implementar prácticas de seguridad para proteger la IA de ataques de ciberseguridad, violaciones de datos y otros riesgos de seguridad.
- Documentación: mantenga la documentación de todo el ciclo de vida del modelo de IA, incluidas las fuentes de datos, las pruebas y la capacitación, los hiperparámetros y las métricas de evaluación.
- Capacitación y concientización: capacitar a los empleados sobre la ética, las prácticas y los posibles impactos sociales de las tecnologías de IA y la importancia de la gobernanza en toda la organización.
- Junta de gobierno: Establecer un equipo de gobierno responsable de la IA.
- Auditoría periódica: audite el rendimiento del modelo de IA y el cumplimiento de los algoritmos éticos.
- Comentarios de los usuarios: proporcione mecanismos para que los usuarios de IA reciban comentarios sobre el comportamiento.
- Mejora continua: incorporar las lecciones aprendidas de la implementación de la IA en el proceso de gobernanza para mejorar continuamente el desarrollo y la implementación.
El futuro de la gobernanza
Desarrollar una gobernanza de la IA que se alinee con los valores organizacionales, respaldada por la voluntad de adaptarse a los cambios y desarrollos tecnológicos, es un compromiso continuo.
A medida que la inteligencia artificial y la automatización se implementan cada vez más en las operaciones comerciales, es esencial contar con regulaciones de seguridad y regímenes de gobernanza para garantizar que los datos se mantengan seguros, precisos y conformes. Seguir estos pasos le ayudará a garantizar que desarrolle e implemente la IA de una manera responsable y ética.