Usos de IA en suscripción y siniestros

En suscripción, los modelos ayudan a aceptar o rechazar una solicitud, a fijar la prima y a poner recargos. En siniestros, ordenan la cola por urgencia, estiman el daño con fotos, marcan señales de fraude y, en algunos casos, pagan sin que intervenga un liquidador. En atención, responden dudas por chat y resumen llamadas para el asesor.

Para revisar estos sistemas importa menos la técnica del modelo que su grado de autonomía: si solo informa, si recomienda y una persona decide, o si decide solo, siempre o por debajo de un umbral. Un mismo modelo puede ser inocuo como sugerencia y delicado como decisión, porque de eso dependen quién revisa, qué se registra y qué se le explica al cliente.

La regulación mira lo mismo. En la Unión Europea, el reglamento de IA incluye entre los usos de alto riesgo la evaluación del riesgo y la fijación de precios de personas físicas en seguros de vida y de salud. Autos y hogar no están en esa entrada, pero eso no los deja sin reglas: la protección de datos y la supervisión del sector asegurador siguen aplicando.

Muchos flujos de siniestros pagan solos los casos pequeños y pasan los grandes a una persona. La lógica es razonable, pero el sistema decide en todos los casos que quedan bajo el umbral: si se equivoca, nadie lo ve antes de que el dinero salga o deje de salir. Por eso un sistema así necesita lo mismo que cualquier sistema que decide: un dueño con nombre de cargo que responda por sus errores y por sus cambios.

Ojo con los filtros por texto exacto: un inventario escrito a mano dice lo mismo de varias maneras, y una consulta que busca una frase literal deja fuera las que se escribieron distinto.

El inventario recoge lo que cada dueño declaró al registrar su sistema. Con el tiempo, el uso real se aleja: un asistente que nació para informar empieza a abrir trámites, luego a cerrarlos, y nadie actualiza su ficha. La única forma de verlo es contrastar el inventario con los registros de uso de cada aplicación: quién cierra cada acción y qué efecto tiene en el cliente.

Con las dos fuentes juntas ya se puede contar lo que importa para el plan de revisión: los sistemas que cambian lo que el cliente paga o lo que recibe sin que una persona intervenga. Informar o resumir para un asesor no entra en la cuenta; publicar un precio, pagar o cerrar un siniestro sí.

Encontrar un sistema que decide sin estar registrado como tal no es un detalle de inventario: sus decisiones no tienen revisión, ni explicación al cliente, ni nadie que las mida. Lo primero es devolverlo al lugar que le corresponde en el gobierno de modelos y cortar el efecto sobre el cliente mientras tanto.