Inventario de sistemas de IA y responsables

El marco de gestión de riesgos de IA del NIST incluye, dentro de la función GOVERN, una subcategoría (GOVERN 1.6) que pide mecanismos para inventariar los sistemas de IA, con recursos acordes con las prioridades de riesgo de la organización. No dice qué columnas debe tener, pero la práctica ha convergido: un nombre estable, el propósito, el tipo de sistema, el proveedor del modelo, los datos que toca, un responsable con nombre o cargo, un nivel de riesgo y la fecha de la última revisión.

Cada columna responde a una decisión. El proveedor dice si el modelo puede cambiar sin que la organización lo apruebe. Los datos dicen si hay privacidad en juego. El responsable dice a quién se le pregunta y quién firma. Un inventario sin responsable es una lista, no un control.

Abre el inventario de Cántaro. Cada fila lleva un nivel de riesgo y una fecha de revisión, y dos valores delatan a un sistema que nadie gobierna: «sin asignar» en el responsable y «nunca» en la última revisión. Un sistema así puede tocar correos de cotización o código fuente sin que nadie haya decidido qué datos puede ver.

El inventario recoge lo que alguien registró, no lo que la organización usa. La diferencia aparece cuando seguridad mira desde fuera: registros del proxy web, repositorios, facturas de nube. Es lo que se llama a veces IA en la sombra: personas bienintencionadas que usan una herramienta de IA para trabajar más rápido sin que el sistema entre en ningún proceso de revisión.

La respuesta de gobierno no es prohibir a ciegas ni mirar a otro lado: es clasificar lo hallado, asignarle un responsable, decidir si se autoriza con condiciones y registrarlo.

Mide el tamaño del hallazgo: suma los equipos afectados en las dos filas de lo detectado fuera del inventario.

La matriz de responsabilidades responde cuatro preguntas por sistema: quién es dueño, quién construye, quién prueba y quién acepta el riesgo residual. El marco del NIST pide que roles, responsabilidades y líneas de comunicación estén documentados y sean claros para todos (GOVERN 2.1), y una buena práctica de la que se deriva un criterio sencillo: quien construye un sistema no es quien lo prueba, porque el equipo que lo diseñó tiende a probar lo que ya sabe que funciona.

Cántaro adoptó ese criterio en su política. Revisa la matriz y busca el sistema que lo incumple.

Seguridad entrega al comité dos hallazgos: una extensión de navegador para redactar textos con IA en 23 equipos y un cuaderno con un modelo abierto descargado en 2. Hay tres respuestas posibles. La primera es bloquear todo de inmediato. La segunda es incorporarlo al inventario, evaluar los datos que toca, asignarle responsable y decidir si se autoriza con condiciones o se retira. La tercera es esperar a que alguien proponga formalizarlo.

Fíjate en la primera: bloquear sin evaluar puede ser correcto para algo que toque datos de asegurados, pero deja sin entender por qué los equipos lo adoptaron, y la herramienta reaparece con otro nombre.