Decisiones automatizadas y derecho a explicación

El reglamento general de protección de datos de la Unión Europea, en su artículo 22, reconoce el derecho a no quedar sometido a una decisión basada únicamente en un tratamiento automatizado cuando produce efectos jurídicos o afecta de forma parecida y significativa. Hay excepciones (que sea necesaria para un contrato, que la autorice una ley o que haya consentimiento explícito), y en los casos de contrato y de consentimiento el responsable debe dar garantías mínimas: que intervenga una persona, que el afectado pueda dar su punto de vista y que pueda impugnar la decisión.

En Colombia, la ley de protección de datos personales (Ley 1581 de 2012) reconoce al titular, entre otros, el derecho a conocer, actualizar y rectificar sus datos y a presentar quejas ante la autoridad; y una aseguradora responde además ante su supervisor. Las reglas de cada país cambian, pero la pregunta práctica es la misma: si hay una persona en la decisión, ¿decide de verdad?

Una revisión que confirma lo que propuso el modelo sin mirar el caso no es intervención: es un sello. Para contar, quien revisa tiene que ver el expediente, tener autoridad para cambiar el resultado y dejar escrito por qué decide lo que decide.

Explicar una decisión no es publicar el modelo ni decir «políticas de la compañía». Es decirle a la persona qué datos suyos pesaron más en el resultado, de forma que pueda entenderlo y, si un dato está mal o se malinterpretó, corregirlo. Por eso los registros de decisión bien hechos guardan, además del puntaje y el umbral, el aporte de cada factor.

Un reclamo puede llegar meses después de la decisión, y para entonces el modelo ya cambió. Si el registro no permite saber qué modelo decidió, con qué datos y con qué umbral, no se puede reconstruir el porqué ni comprobar si el error se repite en otras personas. La política de la casa fija los campos mínimos del registro; la revisión consiste en contrastarlos uno a uno con un registro real.

Un solo caso puede ser un descuido. Para saber si la revisión humana funciona hay que mirarla en conjunto: cuántas revisiones confirmaron la recomendación sin abrir el expediente. Si son la mayoría, la empresa tiene en la práctica un sistema que decide solo, aunque sus papeles digan otra cosa.

La respuesta a la clienta tiene que cumplir la política de la casa: los factores que más pesaron, la posibilidad de aportar información y una revisión nueva con otra persona. Y quien audita mira un paso más allá: si la variable que más pesó cuenta como consultas médicas los controles de un embarazo, el problema no es solo de este caso, y hay que avisar al dueño del modelo.