Post-mortem de un incidente de IA

El post-mortem sin culpables parte de una idea: si una persona razonable pudo cometer el error con las reglas que tenía, el error es del sistema de reglas. Por eso la causa raíz se busca en el proceso (qué regla, qué control o qué señal faltaba) y las acciones se escriben sobre el proceso. «Más cuidado la próxima vez» no es una acción: no se puede verificar ni asegura que el siguiente cambio pase por el mismo control.

Esto no quita responsabilidades; las ordena. Cada acción tiene responsable y fecha, y quien responde por el proceso es quien puede cambiarlo.

Para saber si el borrador acierta se contrasta con la evidencia. Los hechos dicen qué cambió en el despliegue y las reglas dicen cuándo se ejecuta el banco de evaluación. Si el cambio no cumplía la condición de ninguna regla que exija el banco, el banco no corrió y el despliegue fue correcto según el proceso, aunque no fuese seguro.

Compara los hechos con las reglas de despliegue y anota la regla que permitió que este cambio de modelo no pasara por el banco de evaluación.

El tiempo hasta la detección es una de las cifras más útiles de un post-mortem, porque mide la señal que faltó. Mientras no se detectó, el daño siguió. Aquí el incidente no lo detectó ninguna alerta, sino una queja de un alumno, y la distancia entre la primera conversación afectada y esa queja es lo que una alerta propia habría recortado.

Calcula cuántos minutos pasaron entre la primera conversación afectada y la queja que destapó el incidente.

Una acción sin responsable casi nunca se cumple. Un post-mortem revisable lista cada acción con una persona o un equipo y una fecha, y quien lo revisa cuenta las que no tienen dueño antes de darlo por bueno. No se trata de adjudicar culpas: se trata de que el cambio realmente suceda.

Revisa las acciones propuestas y cuenta cuántas están sin responsable asignado.

Cada incidente deja una pregunta de monitoreo: qué medida habría avisado antes de que lo hiciera una persona afectada. La respuesta es una alerta nueva sobre una señal que ya existe en el registro, y el post-mortem la propone con nombre, responsable y fecha. Una propuesta que sigue sin implementar es un riesgo abierto, y se anota como tal.

Lee las acciones y anota el nombre de la alerta que se propone crear para detectar este tipo de incidente antes de una queja.