Contaminación de bancos de prueba

Un banco está contaminado para un modelo cuando sus preguntas, o sus preguntas con las respuestas, aparecieron en los datos de entrenamiento de ese modelo. No hace falta mala fe: los bancos públicos viven en repositorios abiertos y los rastreadores que reúnen texto de la web los recogen como cualquier otra página. El efecto es que el modelo reconoce las preguntas, y la cifra sube sin que suba la habilidad que el banco pretendía medir.

La contaminación no se ve en la cifra. Se ve en tres tipos de evidencia: una caída fuerte cuando las mismas habilidades se miden con preguntas nuevas redactadas de otra forma; un informe de solapamiento que busca secuencias largas de palabras idénticas entre el banco y los datos de entrenamiento; y las fechas, porque un banco publicado después del corte de datos del modelo no pudo estar en ellos.

Llaca escribió una versión retenida de cada banco que usa para comparar candidatos: mismas habilidades y dificultad, preguntas nuevas, nunca publicadas. Comparar las dos cifras de cada banco es la prueba más directa que tiene un equipo que no controla los datos del proveedor.

Abre la consola y compara la versión pública con la retenida de cada banco.

Una caída de uno o dos puntos entra en lo que puede variar entre dos conjuntos de preguntas distintos. Una de muchos puntos, en un banco cuyo solapamiento con los datos del proveedor es alto, es otra cosa. Por eso el informe da la cifra de la caída y la pone al lado del solapamiento y del acceso al banco.

Si un banco se publicó después de la fecha de corte de los datos de entrenamiento de un modelo, ese modelo no pudo verlo, salvo que el proveedor mienta sobre la fecha. Eso lo convierte en la comparación más limpia disponible, aunque su informe de solapamiento esté sin hacer. Los marcadores canarios ayudan con los demás: una cadena única dentro del banco que pide no entrenar con él y que permite buscarlo en un corpus.

El equipo que evalúa no controla los datos del proveedor, pero sí controla con qué mide. Las defensas razonables son de diseño de la evaluación, no de confianza en una ficha.