A medida que incrementan las preocupaciones sobre la seguridad de ChatGPT, la administración de Biden analiza la elaboración de controles de políticas de Inteligencia Artificial. Según informes, Samsung limitó el uso de ChatGPT después de que los empleados le proporcionaron datos confidenciales.
1. ChatGPT pone a reflexionar sobre regulaciones para IA
Sin un final a la vista para la fascinación del mundo por los chatbots generativos de IA como ChatGPT, la administración de Biden ya está considerando crear “barreras de seguridad” para proteger a los ciudadanos estadounidenses de los abusos de la inteligencia artificial.
La Administración Nacional de Telecomunicaciones e Información (NTIA), que asesora a la Casa Blanca, busca comentarios públicos sobre la “responsabilidad de la IA”. Los comentarios ayudarán a la administración a desarrollar políticas a través de auditorías, evaluaciones, certificaciones y otros mecanismos de IA para promover la confianza en estos sistemas y garantizar que funcionen según lo previsto y sin dañar a las personas.
“Las empresas tienen la responsabilidad de asegurarse de que sus productos de IA sean seguros antes de ponerlos a disposición”, se lee en el anuncio de la NTIA. Esa declaración toca preguntas clave planteadas repetidamente sobre el lanzamiento de ChatGPT de OpenAI y otros chatbots generativos de IA: ¿Se lanzaron al público prematuramente? ¿El mundo no está preparado para lidiar con las consecuencias del abuso y mal uso de las poderosas capacidades de estos productos?
La NTIA está interesada en plantear preguntas como: ¿Qué pruebas de confianza y seguridad deben realizar los desarrolladores de sistemas de IA? ¿Cómo pueden los reguladores fomentar la rendición de cuentas entre los desarrolladores de sistemas de IA?
2. Y otro recordatorio de que ChatGPT no guarda secretos…
Ha sido una advertencia regular: no ingreses información confidencial en ChatGPT porque todos los datos que ingresan los usuarios se incorporan a su vasto almacén de datos. Una vez allí, el chatbot de IA podría usarlo para responder las preguntas de otros usuarios.
Bueno, ahora tenemos un ejemplo del mundo real de este error: según informes, los empleados de Samsung proporcionaron al chatbot de IA información privada y confidencial sobre la empresa, incluido un código fuente patentado y minutas de reuniones. Esto según la edición surcoreana de la revista The Economist que informó que, en respuesta, la compañía ahora está limitando el uso de ChatGPT.
3. ¿Cuál es la preocupación número 1? ¿Cómo priorizas la corrección de errores?
Esas fueron dos de las preguntas que la compañía Tenable hizo a los participantes en el seminario web ‘Tenable Research Shares Your 2022 Recap and Defender Recommendations for 2023’ en el que los expertos de Tenable discutieron sobre un informe que publicaron recientemente. Estas fueron sus respuestas:
Fuente: Tenable
Fuente: Tenable
4. Un problema de contraseñas: personas que usan cuentas de ex empleadores
¿Podría su empresa, sin darse cuenta, estar dando a los ex empleados acceso a sus servicios de suscripción de pago, software comercial, bandejas de entrada de correo electrónico y otros recursos digitales? Aparentemente, sucede más a menudo de lo que uno pensaría y la mala gestión de contraseñas es la culpable.
Esto es según una encuesta de Password Manager que encontró que el 47% de los empleados de Estados Unidos han accedido a al menos una de las cuentas digitales de sus antiguos empleadores. Estos ex empleados usan contraseñas que tenían cuando trabajaban allí.
¿Qué hacen? Muchos se aprovechan de las herramientas pagadas y algunos incluso manipulan maliciosamente sus sistemas y datos. Se realizó a una encuesta a personas que han logrado entrar a sus antiguos correos y esto fue lo que contestaron:
¿Cómo pudo acceder a las contraseñas de sus antiguos empleadores?
Fuente: Tenable
Fuente: Tenable
Y se pone peor: entre aquellos que han usado las contraseñas de sus antiguos empleadores, solo el 15% dijo que los descubrieron haciéndolo, y un tercio dijo que las contraseñas funcionaron durante más de dos años, aunque un pequeño porcentaje las usó por más de 10 años.
¿Durante cuánto tiempo usó o ha estado usando las contraseñas de sus antiguos empleadores?
La motivación para la mayoría de estos ex empleados es ahorrar dinero en herramientas y servicios que de otro modo tendrían que pagar (58%), mientras que otros, alrededor del 10% quieren interrumpir las operaciones de un ex empleador.
Las empresas deben mejorar en la gestión de sus contraseñas. Entre las recomendaciones de Password Manager están:
- Designar a un miembro del personal de alto nivel para que esté a cargo de las políticas y procesos de administración de contraseñas.
- Desde la incorporación del empleado explicar qué se considera manejo autorizado y no autorizado de propiedad intelectual e información de propiedad.
- Crear incentivos para la gestión adecuada de contraseñas y cuentas de las empresas.
- Actualizar continuamente su inventario de activos protegidos con contraseña y calificar su criticidad.
- Crear procedimientos operativos estándar y cronogramas para actualizar contraseñas.
Reciba las últimas noticias sobre la industria Data Center directamente en su bandeja de entrada