Mapa de herramientas de guardrails

Las tres herramientas de este módulo resuelven problemas distintos. NeMo Guardrails (de NVIDIA) es un marco: se coloca alrededor del modelo y orquesta «rieles» que se escriben en archivos de configuración. Tiene rieles de entrada, de diálogo, de recuperación (sobre los fragmentos que trae el RAG), de ejecución (sobre lo que entra y sale de las herramientas) y de salida. Algunos rieles deciden con reglas y otros le preguntan a un modelo.

Llama Guard (de Meta) es un modelo de lenguaje afinado para una sola tarea: clasificar un mensaje o una respuesta como seguro o inseguro frente a una lista de categorías de daño, y decir cuáles viola. No orquesta nada; hay que servirlo y llamarlo. LLM Guard es una biblioteca de escáneres independientes, de entrada y de salida: cada uno revisa una cosa concreta (longitud, datos personales, toxicidad, intentos de cambiar las reglas…) y devuelve si el texto es válido y una puntuación de riesgo.

Saber qué es cada una evita el error más común al compararlas: poner en la misma columna un marco que coordina, un modelo que opina y una biblioteca de comprobaciones sueltas.

Una hoja de evaluación seria parte de los requisitos y no de las herramientas: primero se escribe qué se necesita, y después se mira qué pieza lo cubre. Así aparecen los huecos que ninguna herramienta de guardrails va a llenar, porque no son problemas de texto.

Abre la hoja de Achiote y cruza la tabla de requisitos con la de componentes. Hay un requisito que es un control de verdad, no una meta de medición, y que ningún componente atiende.

«Código abierto» se usa a la ligera. Un proyecto con licencia Apache 2.0 o MIT permite usarlo, modificarlo y redistribuirlo con pocas condiciones. Un modelo publicado con una licencia comunitaria del fabricante deja descargar los pesos, pero con condiciones de uso propias que el área jurídica tiene que leer antes de que el modelo llegue a producción. Las dos cosas pueden estar en el mismo repositorio público y no significan lo mismo.

Por eso la hoja de Achiote tiene una columna de revisión legal: un componente cuya licencia no se ha revisado no se despliega, por buenos que sean sus números.

El requisito de la tarea 2 limita cuántas veces se ejecuta una acción con efecto. Ningún guardrail de texto lo cumple bien: un clasificador puede no ver la orden, y aunque la viera no sabe cuántas devoluciones lleva hoy ese comprador. Ese dato lo tiene el servidor que ejecuta la herramienta.

Es la misma idea que en el módulo 15: los límites sobre acciones no dependen de entender el mensaje, y por eso se ponen donde se ejecuta la acción.