Herramientas de defensa

Una norma de guardrails dice qué debe revisarse a la entrada y a la salida; la configuración dice qué se revisa de verdad, y puede cambiar de un entorno a otro. Que un riel esté activo en pruebas no prueba nada sobre producción, y un riel de más no compensa uno que falta.

Mover el umbral de un clasificador cambia a la vez lo que detecta y lo que molesta: más abajo atrapa más contenido dañino y frena más mensajes normales. El umbral no se elige por intuición sino con un criterio fijado de antemano y una validación sobre datos que no se usaron para ajustarlo.

Dos cifras de evaluación solo se pueden restar si salieron de las mismas condiciones: el mismo banco de preguntas, la misma plantilla de instrucciones, la misma temperatura y el mismo juez. Si cambia algo además del modelo, la diferencia ya no se le puede atribuir al modelo.

La salida de un escáner de modelos se lee fila por fila: «sin hallazgos» dice algo solo de un archivo que se revisó, y un archivo omitido es un archivo sin revisar. Lo que pesa es qué formatos pueden ejecutar código al cargarse y cuáles de ellos llegan de verdad a producción.

Una verificación de firma que dice «válida» solo afirma que alguien con una identidad concreta firmó ese artefacto. Para saber si el modelo salió del proceso aprobado hay que comparar quién firmó y quién emitió su certificado con lo que la política espera, y mirar qué versiones están corriendo.