Modelo de responsabilidad compartida en servicios de IA

En un servicio gestionado de modelos —los que ofrecen AWS, Azure o Google Cloud— el proveedor se encarga de lo que tú no puedes ver: los centros de datos, el software que sirve los modelos, su disponibilidad y los modelos base de su catálogo. Tú sigues respondiendo por todo lo que decides al configurar: quién puede llamar al modelo, desde qué redes, con qué llave se cifra lo tuyo, si queda registro de lo que se pregunta y se responde, qué filtros se aplican y en qué región vive y se procesa cada cosa. Y, por encima de todo, por los datos que tú mismo mandas en cada solicitud.

Esa división no es una idea de un fabricante concreto: es el reparto con el que funciona cualquier servicio en la nube, y cada proveedor la publica para sus servicios. Lo que cambia con la IA es que aparecen piezas nuevas en el lado del cliente: los filtros de contenido, el registro del texto de las invocaciones y los datos que se usan para ajustar un modelo.

Saber que algo es del lado del cliente no basta: dentro de la empresa alguien concreto tiene que responder por ello. Una matriz de responsabilidades une cada control del contrato con un equipo o una persona. El hueco típico no es un control mal hecho, sino uno que nadie sabe que es suyo: nadie lo revisa, nadie lo nota cuando cambia y nadie lo defiende cuando una auditoría pregunta.

El reparto también funciona en sentido contrario. Cuando el fallo está del lado del proveedor —una región degradada, un error en su servicio—, la empresa no puede arreglarlo, pero sí tiene que hacer algo: abrir un caso con el proveedor, seguir su página de estado y anotar el impacto para reclamar lo que diga el contrato. Un caso así, atascado en una cola interna, no avanza nunca, porque el equipo que lo tiene no puede tocar la causa.

Muchos controles llegan con un valor por defecto razonable que pone el proveedor. Pero si el servicio deja cambiarlo, el valor que queda es una decisión del cliente: quien lo baja, lo deja así o se olvida de restaurarlo responde por ello, aunque el control lo ofrezca otro. Por eso una revisión de configuración no pregunta solo «¿lo tiene el servicio?», sino «¿cómo está puesto hoy y quién lo cambió?».