Seguridad en cada fase del ciclo de vida del modelo

Un modelo no se asegura una vez: nace de unos datos, se entrena o se ajusta, se evalúa, se despliega, opera durante meses y algún día se retira, y cada versión nueva repite el ciclo. MLSecOps es la práctica de llevar los controles de seguridad a ese ciclo como puertas automáticas o verificables en cada fase, de modo que cada versión deje su evidencia al pasar, igual que DevSecOps hizo con el software.

La diferencia con una auditoría al final es de tiempo y de cobertura. Una auditoría anual mira una muestra de lo que ya está en producción; una puerta en el ciclo mira todas las versiones antes de que lleguen a los clientes, y deja un registro que luego sirve de indicador. Lo que cada puerta exige lo decide la organización; lo que no se negocia es que exista en todas las fases, también en la última.

La fase de evaluación pide pruebas de seguridad y de sesgo sobre la versión exacta que se va a desplegar, con un informe y un resultado. El argumento más común para saltársela es la urgencia: un cambio de temporada, una campaña, un cliente que espera. Justo por eso la norma es una puerta y no una recomendación: si la urgencia basta para cruzarla, la puerta no existe.

Revisa el registro de versiones de 2026 contra la norma.

Una evaluación aprobada solo vale para el archivo que se evaluó. Si después alguien reconstruye el modelo —otra semilla, otra dependencia, un ajuste de último minuto— el artefacto que llega a producción es otro, aunque conserve el nombre. Por eso la fase de despliegue compara la huella (el resumen criptográfico del archivo) de lo que se despliega con la de lo que se evaluó. Cuando no coinciden, la evaluación queda sin objeto.

Ninguna de las columnas de evaluación delata este caso: todas dicen «aprobada». Lo delata otra columna.

Retirar un modelo no es dejar de usarlo. Si su punto de servicio sigue respondiendo y su credencial sigue activa, queda un sistema que nadie vigila, que nadie actualiza y que cualquiera que conozca la dirección puede seguir consultando. Es la versión de IA de la cuenta de un empleado que se fue y nadie desactivó. La norma pide tres cosas al retirar: apagar el punto de servicio, revocar la credencial y conservar los registros.

Tres versiones, tres fases distintas que fallaron. El programa podría tratarlas como tres incidentes sueltos y cerrarlas una a una, o leerlas como lo que dicen sobre el ciclo: las puertas dependen de que alguien se acuerde de cruzarlas. Un programa maduro convierte cada puerta en una comprobación que el propio ciclo de despliegue ejecuta, y mide cuántas versiones la cruzaron.