Datos de entrenamiento y procedencia

La procedencia responde tres preguntas sobre cada fuente: de dónde viene, con qué derecho se usa y si sigue siendo lo que se aprobó. La tercera suele resolverse con una huella digital (un hash) calculada al aprobar la fuente y recalculada antes de cada entrenamiento: si no coinciden, el contenido cambió.

La lista de riesgos de OWASP para LLM nombra dos problemas relacionados: el envenenamiento de datos (alguien altera lo que el modelo aprende) y los errores de cadena de suministro (se usan datos o modelos de terceros sin comprobar su origen). Esta sala los lee en evidencia, sin fabricar ninguno.

Abre SELECT * FROM fuentes_datos. La columna hash_coincide dice si la huella actual es la aprobada. Un no no prueba un ataque: puede ser una corrección legítima de etiquetas que nadie volvió a aprobar. Pero es exactamente el tipo de cambio que debe pasar por una revisión antes de entrar a un entrenamiento.

Que una empresa tenga un dato no significa que pueda usarlo para entrenar un modelo. El permiso se otorga para una finalidad: un formulario de servicio no autoriza, por sí solo, que sus respuestas se conviertan en material de entrenamiento. En este informe la columna permiso_entrenar dice si el permiso de la fuente lo incluye.

Hay otra fuente con licencia desconocida; fíjate en que no es la misma situación: ahí el problema es el derecho de autor y el origen, no los datos personales.

Cuando una fuente cambia y no se revisa, el daño no se queda en la fuente: cada lote de entrenamiento posterior que la usa la lleva dentro, y cada modelo que sale de ese lote hereda la duda. Medir el alcance es contar los lotes posteriores a la modificación.

La fuente de etiquetas se modificó por última vez el 22 de septiembre de 2026. Abre la tabla de lotes y cuenta los que la usaron después de esa fecha.

Tres lotes posteriores a un cambio sin revisar produjeron dos versiones de modelo. No hay evidencia de que los datos estén mal, solo de que no se verificó que estuvieran bien.