Riesgos de privacidad de un modelo

Cuando se habla de privacidad en un sistema con un modelo dentro, lo primero que se piensa es en una fuga: un dato que sale donde no debía. Es un riesgo real, pero no el único. La privacidad pregunta también por lo que el sistema recoge, para qué lo usa, cuánto tiempo lo conserva y si la persona a quien pertenece el dato puede conocerlo o pedir que se borre.

Un dato de salud, además, no es un dato cualquiera: el Reglamento General de Protección de Datos de la Unión Europea (artículo 9) lo cuenta entre las categorías especiales, que piden condiciones más estrictas para tratarse. Aunque Coirón Salud sea ficticia, sirve de recordatorio: cuanto más delicado el dato, menos margen para guardarlo de más.

Abre la ficha de Cuyén y el inventario de riesgos de privacidad. Cada fila nombra un riesgo, el canal por el que ocurriría, el dato en juego y el control que hay hoy. Un riesgo sin control no es necesariamente el más grave, pero es el primero que el defensor debe poner sobre la mesa, porque nadie lo está mirando.

Lee la última columna con cuidado: algunos controles protegen un canal pero no el que aparece en esa fila.

Los canales de un sistema con un modelo son pocos y siempre los mismos: los pesos del modelo (lo que absorbió al entrenarse o afinarse), la recuperación de documentos (lo que se le presta en cada consulta), el registro (lo que se guarda al usarlo) y la interfaz de consulta (quién puede preguntar y cuánto). Contar cuántos riesgos cuelgan de cada canal dice dónde conviene concentrar el trabajo.

En el inventario de Cuyén hay un canal del que cuelgan dos riesgos distintos: uno de acceso y otro de conservación.

Una vez nombrado el canal, la defensa se elige sola. Lo que sale de los pesos se previene antes de entrenar, tratando y reduciendo el material. Lo que sale de la recuperación se previene filtrando por la identidad de quien pregunta antes de que el texto llegue al modelo. Lo que está en el registro se previene guardando menos y con plazo. Lo que entra por la interfaz se vigila con límites y alertas.

Para el riesgo de reproducción literal de texto del afinado, en el inventario de Cuyén, el canal son los pesos. Ninguna instrucción al modelo cambia lo que ya está dentro de ellos.