Expertos en IA y políticos de todo el mundo se han reunido en el Reino Unido para una cumbre sobre los riesgos de la IA, que se inauguró con representantes de EE.UU., China, la UE y el Reino Unido prometiendo colaborar en apoyo de una "Declaración de Bletchley" sobre la seguridad de la IA.
La reunión en las históricas instalaciones de descifrado de códigos de Bletchley Park incluye a políticos de muchas naciones y será abordada por científicos y tecnólogos, antes de cerrar mañana con una discusión transmitida en vivo entre el primer ministro del Reino Unido, Rishi Sunak, y Elon Musk en el lugar, donde Alan Turing Dirigió una reunión de científicos del Reino Unido para descifrar los códigos alemanes durante la Segunda Guerra Mundial.
La Secretaria de Tecnología, Michelle Donelan, ha abierto con un llamamiento a la colaboración entre las naciones para mitigar los riesgos de la IA, lo que nos "obliga" a trabajar juntos para hacer que la IA sea segura y asegurar la prosperidad de la tecnología. Prometió que el debate ayudaría a crear "barandillas" que permitan el desarrollo seguro de la tecnología.
"La IA no es un fenómeno natural que nos sucede a nosotros, es un producto del ingenio humano, que tenemos el poder de moldear", afirmó Donellan. "Este no es momento de enterrar la cabeza en la arena".
Estados Unidos ya ha apostado por la seguridad de la IA, con una Orden Ejecutiva sobre seguridad de la IA del presidente Biden a principios de esta semana. En la sesión inicial del panel en Bletchley, la Secretaria de Estado de Comercio de EE.UU., Gina Raimondo, anunció la creación de un instituto de seguridad de IA en el organismo de estándares NIST en EE.UU., prometiendo que trabajaría en estrecha colaboración con otros países, incluido el Reino Unido.
El informático chino Wu Zhaohui dijo en el evento que los avances tecnológicos traerían beneficios, pero advirtió que la falta de transparencia y otras cuestiones plantearían "desafíos éticos". Dijo que el gobierno chino quería "plataformas abiertas" y había publicado principios para la gobernanza de la IA en el tercer Foro de la Franja y la Ruta.
La vicepresidenta de Valores y Transparencia de la Comisión Europea, Věra Jourová, dijo en la cumbre que la UE ya ha publicado una política sobre IA en 2020, que se actualizará con un nuevo capítulo sobre IA generativa, que podría estar disponible el 6 de diciembre.
"Necesitamos regulaciones inteligentes combinadas con compromisos voluntarios", dijo, llamando a las naciones a firmar el código voluntario de las naciones del G7 que la UE respaldó ayer.
El presidente del grupo Frontier AI del Reino Unido, Ian Hogarth, dijo que estaba "preocupado" de que nuestra capacidad para crear sistemas avanzados superara nuestra capacidad para gestionar los riesgos. Nuestra actual falta de comprensión ante el desafío, dijo, es "bastante sorprendente".
Se espera que la cumbre analice los riesgos para la seguridad pública, los peligros de la desinformación y el potencial de la IA para desestabilizar la sociedad. Algunos críticos han dicho que debería examinar más de cerca los riesgos inmediatos, como la creciente discriminación y los peligros para los empleos.
Jourová dijo que se trataba de "un debate falso", diciendo que "tenemos que abordar los riesgos que enfrentamos hoy" y advirtiendo que todas las reglas y orientaciones que establezcamos ahora "nos ayudarán a enfrentar riesgos más inciertos en el futuro".
El Gobierno del Reino Unido dijo que la IA ya emplea a más de 50.000 personas en el Reino Unido y aporta 3.700 millones de libras esterlinas a la economía del país cada año.
Está prevista una segunda cumbre en Corea del Sur dentro de seis meses, seguida de una en Francia dentro de un año.