¡Feliz cumpleaños, ChatGPT! Celebramos un año con los 10 hitos más importantes de la gobernanza de la IA
Balance del año de ChatGPT (chatbot generative pre-trained transformer, transformador generativo preentrenado de chatbot) y perspectivas de la respuesta mundial a la IA y los "guardarraíles" de gobernanza necesarios.
El 30 de noviembre de 2023, el mundo celebrará el primer aniversario del debut público de ChatGPT. Y en reconocimiento a los 12 meses y a "la mayoría de edad" de la innovación y la adopción de la tecnología de IA, vamos a repasar los 10 principales hitos del mercado y la normativa que rodean su lanzamiento (sin ningún orden en particular).
Un llamamiento mundial a la gobernanza de la IA: años de preparación
Mucho antes del debut de ChatGPT, ya se estaban dando pasos para aprobar legislación sobre la gobernanza de la IA. En abril de 2021, la Comisión Europea propuso el primer marco regulador de la UE para la IA(nº 1). Desde entonces lo han revisado y han dado pasos importantes para aprobar lo que podría ser la primera legislación del mundo sobre gobernanza de la IA, cuyo objetivo es establecer una norma mundial para la gobernanza social, ética y económica de la tecnología basada en la IA.
Pero ya llegaremos a eso. En primer lugar, echemos un vistazo rápido a la actividad reguladora mundial anterior a la publicación de ChatGPT.
#2 - Ene 2019 - Marco modelo de IA de Singapur y kit de herramientas de pruebas de gobernanza de IA
La primera edición del Marco Modelo de Gobernanza de la IA de Singapur se publicó por primera vez el 23 de enero de 2019, en la Reunión Anual 2019 del Foro Económico Mundial en Davos, Suiza.
Desde entonces, Singapur ha seguido siendo uno de los principales participantes en la actividad de gobernanza de la IA: El 25 de mayo de 2022, el país lanzó el primer marco y kit de herramientas de pruebas de gobernanza de la IA del mundo ["AI Verify"] (nº 3), destinado a las empresas que deseen demostrar el uso responsable de la IA de forma objetiva y verificable.
#4 - Mayo 2019 - Principios y clasificación de los sistemas de IA de la OCDE
El primer conjunto de normas de la OCDE para clasificar los sistemas de IA, cuyo objetivo es ayudar a los responsables políticos a caracterizar los sistemas de IA en función de estos principios preestablecidos, se lanzó en mayo de 2019. El marco define un conjunto claro de objetivos y busca establecer una comprensión común de los sistemas de IA, informar inventarios de datos, apoyar marcos específicos del sector y ayudar con la gestión de riesgos y las evaluaciones de riesgos.
#5 - Junio de 2022 - Proyecto de ley canadiense sobre IA
En junio de 2022, el gobierno canadiense presentó la Ley de Inteligencia Artificial y Datos (AIDA) como parte de la Ley de Implementación de la Carta Digital, 2022 (Proyecto de Ley C-27). Canadá sigue colaborando estrechamente con socios internacionales como la Unión Europea y Estados Unidos en el desarrollo y la adopción de nuevas normas de gobernanza de la IA.
2022: El año en que ChatGPT entra en el cambiante panorama de la IA
Nov 2022 - Lanzamiento de ChatGPT
El 30 de noviembre de 2022, OpenAI lanzó ChatGPT, un chatbot basado en modelos lingüísticos de gran tamaño, que no tardó en despegar. En cinco días, la plataforma atrajo a más de un millón de usuarios. (Twitter tardó 2 años en alcanzar esta marca).
Dic 2022 - ChatGPT alcanza los 100 millones de usuarios
ChatGPT se convirtió en la plataforma de aplicaciones de Internet para consumidores de más rápido crecimiento de la historia al alcanzar una cifra estimada de 100 millones de usuarios a los pocos meses de su lanzamiento.
Grandes empresas como Microsoft aprovecharon la oportunidad para incorporar la IA a sus aplicaciones (aunque no todas llegaron a acuerdos multimillonarios y plurianuales con OpenAI como hizo Microsoft). Más recientemente, Google invirtió 300 millones de dólares por una participación del 10% en la startup de IA generativa Anthropic, con sede en San Francisco, una empresa fundada en 2021 por investigadores de OpenAI con un chatbot inteligente llamado Claude, según el Financial Times.
#6 - Ene 2023 - El NIST publica el Marco de Gestión de Riesgos de la IA
El Instituto Nacional de Normas y Tecnología (NIST) publicó el Marco de Gestión de Riesgos de la IA del NIST (AI RMF 1.0) el jueves 26 de enero de 2023. Diseñado para uso voluntario, el marco ayuda a mejorar la transparencia y la confianza en torno al diseño, desarrollo, uso y evaluación de productos, servicios y sistemas de IA.
#7 - Feb 2023 - ISO 23894
La Organización Internacional de Normalización (ISO) se publicó el 6 de febrero de 2023 para ofrecer orientación sobre la gestión de riesgos de la inteligencia artificial (IA) a cualquier organización que desarrolle, implante o utilice sistemas de IA para gestionar riesgos.
#8 - 22 de marzo de 2023 - Una carta de preocupación de AI
Más de 33.000 líderes tecnológicos se unieron para firmar una carta abierta en la que advertían de los riesgos a escala social de la genAI. Aunque la carta tuvo muy poco impacto tangible, se cree que inspiró parte de la reciente actividad reguladora que estamos viendo a nivel mundial (como la Ley de IA de la UE).
#9 - Oct 2023 - Orden ejecutiva sobre inteligencia artificial segura y fiable
El 30 de octubre de 2023, el Presidente Joe Biden firmó una orden ejecutiva sobre IA, la primera de su clase, por la que se establecen nuevas normas de seguridad, precauciones de protección y directrices futuras para el uso de la Inteligencia Artificial.
Considerado "el conjunto de medidas más enérgicas que ningún gobierno del mundo haya adoptado jamás en materia de seguridad y confianza en la IA" en un discurso oficial de la Casa Blanca, el decreto sobre IA ya ha conseguido que 15 grandes empresas tecnológicas estadounidenses se comprometan a aplicar requisitos voluntarios de seguridad de la IA. "Es el siguiente paso en una estrategia agresiva para hacer todo lo posible en todos los frentes para aprovechar los beneficios de la IA y mitigar los riesgos", dijo el Jefe Adjunto de Gabinete de la Casa Blanca, Bruce Reed.
#10 - Nov 2023 - Cumbre sobre IA en el Reino Unido
Gran Bretaña acogió en noviembre la Cumbre sobre Seguridad de la Inteligencia Artificial, que reunió a gobiernos internacionales, empresas líderes en IA, grupos de la sociedad civil y expertos en investigación. El Primer Ministro británico, Rishi Sunak, y su gobierno presentaron "La Declaración de Bletchley". Firmada ya por representantes de los 28 países asistentes a la Cumbre (incluido EE.UU.), la declaración reconoce los peligros y las responsabilidades de la gestión de los sistemas de IA. Está previsto que la próxima Cumbre sobre Seguridad de la IA se celebre dentro de seis meses en Corea del Sur, con una continuación en Francia seis meses después.
(Bonus) Nov 2023 - ChatGPT cumple 1 año
Esto nos lleva a hoy, noviembre de 2023. ChatGPT cumple ahora un año, y la actividad reguladora en torno a la gobernanza de la IA sigue en aumento.
Solo vemos formas cada vez más innovadoras de que las personas amplíen los límites con la IA y, con ello, la posibilidad de que sus empresas se expongan a nuevos riesgos. Predecimos que en 2024 las empresas tendrán que hacer frente a más comentarios normativos, lo que supondrá para las empresas globales el habitual quebradero de cabeza de tener que cumplir múltiples agendas normativas. Dicho esto, vemos que las empresas reconocen la necesidad de anticiparse a los riesgos de la IA y de establecer las barreras adecuadas. Por ejemplo, vemos que las empresas están controlando de forma proactiva el uso de la IA en sus negocios, creando inventarios de sus aplicaciones de IA y empezando a crear sus marcos de gobernanza de la IA.
El éxito de la gobernanza de la IA
¿Qué significa contar con una política de gobernanza de la IA que sea eficaz, medible y defendible?
Busca tecnología que ofrezca:
- Un inventario único y centralizado de la tecnología de IA y ML en su empresa
- Clasificación personalizable y coherente del riesgo de la IA en función de la propensión al riesgo de las empresas.
- Visibilidad total de la validación y las pruebas de IA
- Capacidad para definir el nivel de gobernanza adecuado
- Control total de versiones y cambios con transparencia en torno a la revisión inter pares, sobre todo cuando no se tiene el control de TI.
- Capacidades técnicas de escaneado para garantizar la exhaustividad del inventario de IA.
- Documentar y gestionar cualquier riesgo resultante o infracción de la normativa.
¿Desea obtener más información sobre las soluciones GRC automatizadas para la gobernanza de la IA? Póngase en contacto con nuestro equipo hoy mismo o explore nuestros recursos a continuación.
Explore la completa cartera de plataformas GRC de Mitratech
Las mejores soluciones escalables de su categoría para ayudarle a mejorar la gestión de riesgos, la capacidad de respuesta, la resistencia y la reputación.
