Avisos, confirmación y escalamiento humano

La primera reacción ante la confabulación suele ser un aviso fijo: «el asistente puede equivocarse, verifica la información importante». Es necesario por transparencia, pero como control es débil. Aparece igual en todas las respuestas, así que la persona deja de verlo a los pocos usos; no dice cuál de las frases es la dudosa; y no cambia lo que la persona hace después. Además traslada a la persona un trabajo que no puede hacer: quien pregunta por su cobertura no tiene las condiciones a mano para contrastar.

Los controles que sí cambian el resultado actúan sobre el flujo: no responder el fondo de ciertos temas, mostrar la cláusula exacta y pedir confirmación antes de actuar, y pasar la conversación a una persona cuando falta la fuente.

Una política de derivación solo protege si la configuración de producción la aplica. Entre lo que aprueba un comité y lo que despliega un equipo hay un paso manual, y ahí se cuelan las diferencias: un tema que el comité mandó derivar queda configurado para responder «con confirmación» porque así el asistente parece más útil.

Abre la política de derivación y la configuración de Chirihue y compara tema por tema.

La regla más importante de una política de derivación no depende del tema: si la búsqueda no devuelve ningún fragmento, el asistente no tiene de dónde sacar la respuesta y cualquier cosa que diga sobre el fondo será una invención. Responder con un aviso de «puede que no sea exacto» no arregla eso; solo lo anuncia. La configuración tiene una línea propia para este caso, y conviene leerla con la regla general de la política al lado.

Busca en las conversaciones del día la que se respondió sin ningún fragmento.

Derivar a una persona es un control solo si la persona llega. Si la cola humana tarda, quien pregunta abandona o vuelve a preguntarle al asistente con otras palabras hasta obtener una respuesta. Por eso la política fija un compromiso de tiempo y el registro de derivaciones guarda cuánto esperó cada conversación. Medir el cumplimiento es parte de medir el control.

Para los temas en que la persona va a actuar —avisar un siniestro, pagar algo esperando un reembolso—, la política pide responder y confirmar. Bien diseñada, la confirmación no es un «¿estás seguro?»: muestra la cláusula exacta que sostiene la respuesta, con su documento y su vigencia, deja la cifra o el plazo copiados de ella, y ofrece confirmar con un ejecutivo antes de dar el paso. Así la persona tiene algo que contrastar y un camino si no le cuadra.