Alcance, roles y responsabilidades del programa

Un programa de seguridad de IA es el conjunto estable de personas, reglas, actividades y presupuesto con el que una organización controla el riesgo de todos sus sistemas con IA, no un proyecto que asegura un modelo y se cierra. Lo primero que fija su carta es el alcance, y ahí se comete el error más caro: definirlo por quién construyó el sistema en vez de por lo que el sistema le hace a las personas y al negocio.

Un servicio contratado en la nube por un área de negocio, sin pasar por Tecnología, sigue siendo un sistema de la organización: sus datos, sus decisiones y su responsabilidad son de la empresa. El marco de gestión de riesgos de IA del NIST pide en su función de gobierno (GOVERN 1.6) mecanismos para inventariar los sistemas de IA, y ese inventario solo sirve si incluye lo comprado y lo que nadie declaró.

Contrasta la carta con el inventario. La carta define el alcance por quién construyó o configuró cada sistema; el inventario dice, para cada uno, quién lo construyó o lo compró y a quién afecta. Uno de los sistemas queda fuera del alcance escrito, y no es uno cualquiera: toma decisiones sobre personas que no son clientes ni empleados.

La matriz de responsabilidades más usada tiene cuatro letras: R hace el trabajo, A rinde cuentas y aprueba, C se consulta antes y I se informa después. Su regla de oro es que cada actividad tiene exactamente una A. Con dos aprobadores, en el momento de presión cada uno espera al otro o se contradicen, y nadie responde por el resultado.

La subcategoría GOVERN 2.1 del marco del NIST pide que los roles, las responsabilidades y las líneas de comunicación sobre los riesgos de IA estén documentados y sean claros para todos. Y ISO/IEC 42001, en su cláusula 5.3, pide que la alta dirección asigne y comunique esas responsabilidades. Una matriz con dos A en la actividad más urgente no cumple ninguna de las dos.

El programa existe para cuestionar a quienes construyen y despliegan modelos. Si su líder reporta a la misma persona que aprueba esos despliegues, cada vez que tenga que frenar uno tendrá que frenar a su jefe. Es el mismo principio que separa auditoría de operación: quien controla no depende de quien es controlado. Además, GOVERN 2.3 pide que la alta dirección asuma las decisiones sobre los riesgos de IA, lo que exige una línea directa hasta ella.

Cruza la fila «reporta_a» de la carta con la actividad de la matriz que aprueba el paso a producción.