Responsabilidad y gobierno del cambio

«Lo hizo el agente» describe un hecho, no una causa ni un responsable. Un agente es un sistema, y por él responde una persona, identificada por su cargo, que decide qué herramientas tiene, con qué permisos y con qué memoria, y que aprueba cada cambio de todo eso. En una matriz de responsables se separa quién hace el trabajo (la R) de quién rinde cuentas por él (la A): la A es una sola persona por actividad y nunca un sistema ni un proveedor.

Los marcos de gestión de riesgo de IA lo piden de forma explícita. La función de gobernar del NIST AI RMF, por ejemplo, espera que la organización tenga definidos y documentados los roles, las responsabilidades y las líneas de rendición de cuentas de sus sistemas de IA. Un análisis causal que termina en la decisión del agente se detuvo un paso antes de la causa que se puede corregir.

La gestión de cambios clasifica cada cambio por su riesgo. El estándar es repetitivo, de bajo riesgo y tiene un procedimiento ya aprobado, así que no pasa por el comité. El normal pasa por el comité de cambios. El de emergencia se aprueba rápido para contener algo y el comité lo revisa después.

Darle a un agente una herramienta nueva o un permiso nuevo no es repetitivo ni de bajo riesgo, por mucho que la tarea que lo motiva parezca menor. Y cuando el mismo cargo pide y aprueba un cambio, falta además la separación de funciones.

El registro de cambios dice lo que se pidió y se aprobó; el historial de configuración dice lo que de verdad cambió en el sistema. Conciliar los dos es una prueba de auditoría básica: cada cambio de configuración tiene su cambio registrado, y cada cambio registrado aparece aplicado.

Un cambio de configuración sin cambio registrado no pasó por nadie: ni por el comité, ni por quien rinde cuentas, ni por el procedimiento de datos.

Una matriz de responsables envejece con la organización: alguien cambia de cargo o se va y su casilla queda vacía, o con un cargo que ya no existe. Para un agente que sigue en marcha, eso significa que nadie aprueba ni revisa sus cambios, aunque los cambios sigan ocurriendo.

El hueco se fecha, porque desde ese día todo cambio del agente quedó sin dueño, y esa fecha se cruza con el historial de configuración.

Una propuesta de gobierno sirve si cierra los tres huecos encontrados: la clasificación que dejó un permiso peligroso como trámite, el cambio que no pasó por ningún registro y la actividad sin nadie que rinda cuentas. Lo que no sirve es mover la decisión a quien usa el agente, escribirle al agente sus límites en el prompt o congelarlo todo sin decidir quién decide.