Del riesgo del sistema al control

Para un sistema con un modelo de lenguaje, el registro de riesgos reúne cuatro cosas en cada fila. La familia de la amenaza, con nombres de una lista pública como el OWASP Top 10 para aplicaciones con LLM (edición 2025: inyección de instrucciones, divulgación de información sensible, cadena de suministro, agencia excesiva, desinformación...). El riesgo de generativa que le corresponde en el perfil del NIST (NIST AI 600-1, de julio de 2024, que define doce riesgos propios o agravados por la IA generativa, entre ellos confabulación, privacidad de datos, seguridad de la información y configuración persona-IA). La subcategoría del marco que sostiene la actividad. Y un control técnico concreto con su evidencia y su responsable.

Una fila sin control concreto es una intención. Un control sin evidencia es una promesa. Y una evidencia sin responsable no se renueva.

El registro de Mochuelo tiene seis riesgos. La columna de estado dice cuánto camino hay recorrido y la de evidencia dice qué documento lo prueba. Una combinación debe sonar alarma: un riesgo declarado «implementado» cuya evidencia es «ninguna».

Hay varias filas sin evidencia, pero solo una de ellas se declara terminada. Las otras admiten que están en plan o pendientes.

Citar una subcategoría es fácil; que diga lo que el control hace, no. El catálogo de la sala resume en palabras propias lo que dice cada subcategoría citada. Compara cada fila con él: si el riesgo trata de que el asistente afirme algo falso, la subcategoría debería hablar de validez y confiabilidad, no de otra cosa.

En una fila del registro la subcategoría citada trata de equidad y sesgo, mientras que el riesgo y el control hablan de respuestas inventadas. Es un error de mapeo: el control puede estar bien y la cita, mal puesta.

Una fila puede estar bien mapeada y aun así no avanzar, porque nadie la tiene. R-06 dice que nadie puede saber si un incidente con Mochuelo llegó a asegurados, el control propuesto es registrar entrada, recuperación y llamadas a herramientas, y la fila no tiene evidencia, ni responsable, y está pendiente. Sin ese registro, la subcategoría de gestión de incidentes (MANAGE 4.3, procesos de seguimiento, respuesta y recuperación) no se puede cumplir, porque no habría con qué reconstruir lo ocurrido.

Un riesgo de este tipo avanza cuando alguien responde por él. Lo primero es dar nombre y fecha, no escribir otro informe.

La columna del riesgo del perfil de IA generativa es una decisión de Cántaro, no una correspondencia oficial: el equipo enlazó cada riesgo propio con uno de los doce de NIST AI 600-1 para poder reportar con un vocabulario compartido. Es útil, pero se lee como lo que es: una elección del equipo que puede discutirse.

Busca la fila de la herramienta que puede cambiar la prioridad de un reclamo sin aprobación y lee qué riesgo del perfil le asignó el equipo.