Obligaciones de transparencia ante las personas

El artículo sobre transparencia tiene cuatro apartados con sujetos distintos. El primero se dirige al proveedor: quien fabrica el sistema debe diseñarlo para que la persona sepa que interactúa con una IA, salvo que sea evidente para una persona razonablemente informada. El segundo, también al proveedor, trata de marcar el contenido sintético de forma legible por máquina. El tercero y el cuarto se dirigen al responsable del despliegue, quien usa el sistema en su actividad.

La diferencia importa en un informe: si el aviso lo debe poner el diseño del sistema, el hallazgo se dirige a quien lo construye; si lo debe poner quien lo usa, se dirige a quien lo opera. Tamarugo, en el caso del asistente de chat, usa un sistema de un proveedor pero también decide cómo se presenta ante sus clientes.

Un recorrido de superficies consiste en abrir cada canal como lo haría un cliente y anotar lo que ve. Es una técnica de auditoría simple y eficaz: no se pregunta al equipo qué cree que muestra su sistema, se mira. Dos superficies de Tamarugo muestran al mismo asistente, y una de ellas lo hace con un nombre propio y la foto de una persona.

Consulta el recorrido y encuentra el canal donde la persona no recibe ninguna señal de que habla con un sistema de IA y además se le presenta con apariencia humana.

El último apartado se ocupa de los contenidos que imitan a personas reales, los llamados deepfakes: quien los despliega debe revelar que son artificiales. Se prevé una revelación más ligera para obras evidentemente creativas o satíricas, pero un vídeo de campaña donde parece hablar la gerente general no es una obra de ficción evidente: puede engañar.

No basta con que la herramienta marque el archivo con metadatos legibles por máquina. Esa marca es un deber del proveedor, y no sustituye el aviso que el público lee o escucha cuando quien lo despliega publica el contenido.

Relacionar un hallazgo con el apartado correcto evita errores de redacción. El tercer apartado trata de los sistemas de reconocimiento de emociones y de categorización biométrica: no pide marcar nada, pide informar a las personas que están expuestas a ellos. Y se dirige a quien los despliega.

Un sistema que analiza la voz de clientes durante una llamada para inferir su estado emocional es de ese tipo. Ojo con una aclaración que conviene tener a mano: esto es distinto de las prohibiciones del artículo 5, que son otra conversación y otro nivel.

La consulta de superficies sin aviso devuelve cuatro filas. Es tentador contarlas todas como hallazgos. Pero SUP-03 muestra imágenes de producto generadas por el sistema, y esas imágenes no imitan a ninguna persona real ni informan al público de asuntos de interés general. Su deber de marcar las salidas en formato legible por máquina es del proveedor, y la tabla indica que la marca existe.

Un buen informe distingue entre lo que falta, lo que el reglamento exige y a quién se lo exige. Ese filtro evita falsos positivos que desgastan la credibilidad del informe.