Configuraciones de políticas: leer reglas

En NeMo Guardrails, la carpeta de configuración lleva un config.yml con los modelos y los rieles activos, archivos en Colang (el lenguaje del marco para describir flujos) y los prompts de las tareas que usan un modelo. Dentro de config.yml, la sección rails tiene una lista de flujos por tipo de riel: los de input corren sobre cada mensaje del usuario antes de que llegue al modelo principal, y los de output sobre cada respuesta antes de entregarla.

Lo que no está en esa lista no corre, aunque su prompt exista en otro archivo y aunque alguien lo haya dejado escrito y comentado. Leer una configuración es leer las listas, no los archivos que hay en la carpeta.

Abre config.yml. Los rieles de entrada tienen un flujo activo. Mira ahora la parte de salida: el archivo de prompts define una tarea de revisión para las respuestas, pero eso no basta para que corra.

El riel de autorrevisión de entrada le pasa al modelo revisor un prompt con la política escrita. Ese prompt es la única política que el revisor conoce: si una regla aprobada por el comité no está ahí, para el riel no existe. Por eso se compara, regla por regla, la política aprobada con el texto del prompt.

Según la documentación del marco, el revisor de entrada tiene que contestar «sí» cuando el mensaje se debe bloquear, y el riel lee ese «sí» como bloquear. El código no mira el texto de la pregunta: solo mira la respuesta. Si alguien reescribe la pregunta para que «sí» signifique otra cosa, el riel sigue haciendo lo mismo con un «sí», y la lógica queda al revés.

Compara el prompt actual con lo que espera el riel, mira cómo cambian las decisiones del registro a partir de cierta fecha y busca el cambio del historial que lo explica.

Con la pregunta invertida, el riel bloquea a quien cumple la política y deja pasar a quien no la cumple: en el registro, una consulta de pedido queda bloqueada y una petición de saltarse las reglas pasa. Ningún error salta, porque la configuración es válida; solo es incorrecta. Este tipo de fallo no se ve leyendo un archivo aislado: se ve juntando el prompt, lo que espera el marco y el registro.

La corrección tiene dos partes: devolver a la pregunta el sentido que espera el riel y conseguir que un cambio así no vuelva a pasar sin que nadie lo note.