Estructura del perfil y su relación con el AI RMF

El AI RMF 1.0 de NIST (enero de 2023) organiza la gestión del riesgo de IA en cuatro funciones —GOVERN, MAP, MEASURE y MANAGE— con sus categorías y subcategorías. El propio marco prevé perfiles: maneras de aplicar esas funciones y subcategorías a un contexto concreto, según los requisitos, la tolerancia al riesgo y los recursos de quien lo usa. Hay perfiles para un caso de uso, perfiles temporales (cómo estamos hoy y adónde queremos llegar) y perfiles transversales, que sirven a cualquier sector.

NIST AI 600-1, publicado en julio de 2024, es un perfil transversal para la IA generativa. No crea funciones nuevas ni sustituye al marco: describe los riesgos que la IA generativa trae o agrava y propone acciones colgadas de subcategorías que ya existían. Como el AI RMF, es de uso voluntario.

El perfil se escribió con un foco acotado: el trabajo público que lo alimentó se centró en cuatro consideraciones (gobierno, procedencia del contenido, pruebas previas al despliegue y divulgación de incidentes). Por eso el propio documento avisa de que no trae acciones para cada subcategoría del AI RMF, y de que no toda acción sirve a todo actor: lo que tiene sentido para quien entrena un modelo puede no tenerlo para quien lo contrata por API.

Esa advertencia cambia cómo se planifica la autoevaluación. Recorrer el perfil de principio a fin deja zonas del marco sin mirar. Lee el borrador del equipo de Cidrón con la tabla de secciones al lado.

Cada acción sugerida lleva un identificador que dice de dónde cuelga. Las dos primeras letras son la función (GV, MP, MS o MG); después vienen la categoría y la subcategoría del AI RMF, y al final un número de orden dentro de esa subcategoría. Así, GV-1.1-001 es la primera acción sugerida para la subcategoría GOVERN 1.1. Junto a la acción, el perfil anota los riesgos de los doce a los que apunta y las tareas de los actores implicados.

Saber leerlo permite pasar del perfil al marco y viceversa sin perderse. El equipo de Cidrón necesita, antes de lanzar una nueva versión de Cedrillo, la acción que pide tener preparado cómo parar el sistema si su riesgo se vuelve inaceptable.

El perfil insiste en que un mismo riesgo cambia según desde dónde se mire. La etapa del ciclo de vida (diseño, desarrollo, despliegue, operación, retiro). El alcance: el modelo o el sistema, la aplicación concreta, o el ecosistema, cuando el daño va más allá de una sola organización. La fuente: el modelo, sus entradas, sus salidas o la conducta de las personas. Y la escala de tiempo: daños inmediatos o que se acumulan durante años.

Un ejemplo del nivel de ecosistema que el perfil menciona es la monocultura algorítmica: muchas organizaciones dependen del mismo modelo y fallan a la vez, de la misma manera.

Antes de presentar la autoevaluación, el equipo quiere saber cuánto del borrador tiene que rehacer. Revisa las siete afirmaciones con dos tablas al lado: la de secciones, que dice qué es y qué no es el perfil, y la de los doce riesgos, que dice qué cubre cada uno. Fíjate en el verbo de cada riesgo: no todos nacen solo al entrenar un modelo.