El crédito y los pagos

En una entidad financiera, un modelo que decide sobre dinero o sobre clientes se valida por alguien que no lo construyó: quien lo desarrolló tiende a confirmar sus propias decisiones. La exigencia depende del nivel de riesgo, y por eso un mismo patrón puede ser aceptable en un modelo y un hallazgo en otro.

Un índice de estabilidad compara la población que ve hoy el modelo con la que vio al entrenarse. Superar el umbral no prueba que el modelo falle, pero obliga a mirar; lo que convierte el monitoreo en control es que cada vez que se cruza el umbral alguien abra la revisión.

Una voz o una cara convincentes ya no prueban quién está al otro lado. La defensa contra la suplantación en pagos no es reconocer a la persona sino confirmar por un canal que el solicitante no controla, decidido antes de la solicitud. Medir el daño es sumar lo que salió por las solicitudes que se aprobaron sin esa confirmación.

A quien se le niega un crédito se le debe una razón que salga de lo que de verdad pesó en su decisión. Una razón genérica o tomada de otra variable no ayuda al cliente a corregir nada y no resiste una pregunta del supervisor. Se comprueba cruzando la carta con la contribución de las variables del motor.

Contratar servicios con IA a varios proveedores no reparte el riesgo si debajo de casi todos corre el mismo modelo de base. Esa concentración no aparece en la lista de contratos; aparece al preguntar a cada proveedor de qué depende, y una falla de ese tercero de fondo afecta a todos a la vez.