Herramientas de evaluación — garak, PyRIT y promptfoo

Las tres sirven para repetir muchos intentos contra un sistema y puntuar lo que responde, pero cada una nació para una cosa. garak funciona con sondas que generan los intentos y detectores que puntúan las respuestas, y se usa mucho para barridos amplios contra un modelo o un punto de acceso. PyRIT es un marco para organizar y repetir evaluaciones de riesgo en IA generativa, incluidas las conversaciones de varias rondas. promptfoo evalúa a partir de casos y se integra con la integración continua, de modo que las pruebas corren cada vez que cambia algo.

Elegir no es cuestión de moda: se elige según lo que hay que medir. Un barrido amplio, una conversación que se desarrolla en varias vueltas y una regresión que debe saltar en cada cambio piden cosas distintas, y a veces se combinan.

En el laboratorio tienes la ficha de herramientas con su licencia, comprobada contra el repositorio oficial de cada proyecto, y con una advertencia: la versión vigente no se comprobó. Es una costumbre sana. Una licencia abierta permite usar el software en un encargo remunerado, pero no dice nada de qué versión usar, si ha cambiado de condiciones desde la última vez que se miró ni si el modelo o servicio que se evalúa tiene sus propias reglas de uso.

Por eso, antes de cada evaluación se vuelve a mirar la licencia y la versión en la documentación oficial, se fija esa versión y se anota en el informe: así el resultado se puede repetir con lo mismo.

Tienes los parámetros de dos corridas. Una apunta a un objetivo y la otra a otro, y solo uno de los dos cabe en el alcance. Es un fallo corriente: alguien copia la configuración de un entorno a otro y deja el objetivo viejo. Si la corrida llega a lanzarse, el daño ya está hecho; por eso se revisa el objetivo antes de pulsar el botón y no después.

Compara el objetivo de cada corrida con el resumen del alcance.

Si un hallazgo importa, alguien tiene que poder repetir la corrida que lo produjo. Eso exige dejar escritos los parámetros que gobiernan el azar: cuántas veces se repite cada intento, a qué ritmo y con qué semilla. La semilla es el número que hace que dos corridas con la misma configuración tomen las mismas decisiones aleatorias; sin ella, la repetición se parece a la original pero no es igual, y discutir un resultado se vuelve difícil.

Mira los parámetros de la corrida que sí apunta al entorno autorizado.