Atención al cliente con modelos: arquitectura típica

Casi todos los asistentes de atención de un operador se arman con las mismas piezas. Los canales (chat del sitio, app, mensajería, línea telefónica) llegan a una pasarela que identifica el canal, aplica cuotas y enmascara datos. Detrás está un orquestador que guarda el estado de la sesión, le pasa la conversación al modelo y recibe de él una propuesta: una respuesta o una herramienta que quiere llamar. Las herramientas son las que tocan los sistemas del operador: facturación, gestión de clientes, aprovisionamiento de líneas. Y cuando el modelo no resuelve, hay un traspaso a una persona.

La pieza que importa para la seguridad es el orquestador. El modelo no debería ejecutar nada: propone, y el orquestador decide con reglas que no dependen del texto de la conversación. Lo que el modelo lee puede traer instrucciones de cualquiera; lo que el orquestador compara (el nivel de verificación de la sesión, el canal, el nivel mínimo de la herramienta) no se puede cambiar escribiendo en el chat.

Una regla escrita en el prompt de sistema es un consejo para el modelo, no un control. El modelo la sigue casi siempre, y ese «casi» es el problema: una conversación larga, una instrucción pegada por el cliente o un texto ambiguo pueden hacer que proponga la herramienta sin el nivel exigido, y si nadie más lo comprueba, se ejecuta.

Por eso, al revisar una arquitectura, no basta con ver que cada herramienta tiene un nivel mínimo: hay que ver quién lo hace cumplir. En las herramientas que solo leen, el daño de un error es una fuga; en las que escriben, es un cambio en la cuenta de alguien.

La pasarela es el punto único donde se aplican las cuotas, se enmascaran los números de documento y de tarjeta y se registra lo que entra. Un canal que se conecta directo al orquestador se salta las tres cosas a la vez, y suele pasar por una razón razonable en su momento: un piloto, una urgencia comercial, un «lo arreglamos en el siguiente sprint».

Lo que se busca en la revisión es la diferencia entre el diagrama, que dibuja todos los canales entrando por la pasarela, y la tabla de canales, que dice por dónde entra cada uno en realidad.

El traspaso a una persona es parte de la arquitectura, aunque muchas veces no aparezca en el diagrama. El agente humano recibe un caso y, con él, el resumen que redactó el modelo. Ese resumen es útil para no repetir preguntas, pero es texto generado: puede omitir, suponer o afirmar algo que no pasó, y una conversación manipulada produce un resumen manipulado.

Si el agente decide qué puede hacer por el cliente leyendo ese texto, la verificación de identidad se convierte en una frase escrita por el modelo. Lo que viaja en el traspaso tiene que separar lo que redactó el modelo de lo que registró el sistema.