Conozca sus requisitos legales

El NIST AI Risk Management Framework (AI RMF) está diseñado como un marco voluntario aplicable a cualquier organización involucrada en el diseño, desarrollo, implementación o uso de sistemas de inteligencia artificial. No es un requisito de cumplimiento obligatorio de la misma manera que lo son algunas regulaciones (por ejemplo, la Ley de IA de la UE). Sin embargo, ofrece pautas muy útiles: considérelo como una guía para ayudar a su organización a garantizar que los beneficios de la IA se realicen de manera responsable.

Esta publicación abre una serie de publicaciones que discuten el NIST AI RMF, elemento por elemento.

Govern 1.1

Govern 1.1 trata sobre los requisitos legales y regulatorios. Deben entenderse, gestionarse y documentarse, pero ¿qué implica exactamente?

1. Identificar y comprender las leyes y regulaciones locales e internacionales relacionadas con el desarrollo, la implementación y el uso de la IA

Defina y documente todos los requisitos mínimos en leyes y regulaciones: GDPR (UE), leyes de no discriminación (¡sus sistemas de IA pueden estar tomando decisiones sobre individuos!), leyes de propiedad intelectual, ciberseguridad y regulaciones específicas de la industria y la aplicación (por ejemplo, HIPAA y FDA impondrán ciertos requisitos a los sistemas de IA utilizados en la atención médica, relacionados con la protección de la información de salud del paciente y la garantía de la seguridad y eficacia de los dispositivos médicos impulsados por IA, respectivamente).

2. Monitorear todos los cambios y actualizaciones: desea estar al tanto del panorama regulatorio en evolución

• Suscríbase a blogs o boletines que publican actualizaciones periódicas

• Configure alertas de palabras clave de Google (u otras) para recibir notificaciones sobre nuevas publicaciones

• Únase a asociaciones de la industria para conectarse con pares de la industria

• Asista a conferencias y seminarios web

• ¡Use las redes sociales! Siga a los principales influyentes: expertos en regulación, líderes de la industria y agencias gubernamentales

3. Alinear los esfuerzos de gestión de riesgos con los estándares legales aplicables.

¿Ya tiene un marco de gestión de riesgos implementado? Mapee los riesgos a los requisitos legales, identifique las brechas: ¿todas sus prácticas de gestión de riesgos abordan adecuadamente los requisitos legales?

4. Crear y mantener políticas para la formación y el reciclaje del personal sobre los aspectos legales y regulatorios que afectan el diseño, desarrollo, implementación y uso de la IA

Dicha formación puede incluir: leyes de privacidad de datos, equidad de la IA, derechos de propiedad intelectual, ciberseguridad y seguridad de datos, regulaciones específicas de la industria, así como formación basada en roles para científicos de datos, ingenieros y gerentes de proyectos.

Hágalo relevante e interesante: utilice estudios de casos del mundo real y escenarios hipotéticos, organice talleres y simulaciones interactivas, ejercicios de juego de roles, invite a expertos externos y anime al personal a participar en conferencias, seminarios web y cursos en línea relevantes.

5. Asegúrese de que el sistema de IA haya sido revisado para verificar su cumplimiento con las leyes, regulaciones, estándares y pautas aplicables

• Realice auditorías internas

• Contrate auditores o consultores externos para proporcionar una evaluación independiente del cumplimiento de su sistema de IA

• Utilice listas de verificación

• Mantenga documentación detallada sobre los hallazgos de la auditoría y las acciones correctivas

• Realice evaluaciones de equidad del sistema de IA (paridad demográfica, igualdad de oportunidades, impacto dispar, pruebas contrafactuales; permanezca atento para obtener más información sobre estas y otras métricas)

¿El siguiente paso?

Como hemos explorado, Govern 1.1 del NIST AI RMF proporciona una directiva clara: conozca sus obligaciones legales. El siguiente paso crucial es traducir esta comprensión en acciones concretas. Le animamos a evaluar los procesos actuales de su organización y explorar nuestras otras publicaciones sobre el estándar y cómo cumplirlo para garantizar la confiabilidad de los sistemas de IA que desarrolla, implementa o utiliza.