Mapa de terceros en una cadena de IA

Un tercero en una cadena de IA es cualquier organización ajena que recibe, guarda o procesa algo del sistema: el texto que escribe el cliente, el prompt de sistema, los documentos que se recuperan, las respuestas o los registros. En una aplicación con un modelo dentro aparecen papeles que en una aplicación clásica no existen o pasan desapercibidos: el proveedor del modelo, quien aloja la inferencia, la base de vectores gestionada, la herramienta de observabilidad que guarda cada traza completa, el servicio de revisión humana que lee lo que se marca como abuso y el integrador que construyó y opera el asistente.

El registro de proveedores de una empresa suele levantarse desde compras: quién facturó, quién firmó. Ese registro deja fuera a los que entran sin contrato propio, por ejemplo una herramienta gratuita que el integrador conectó por su cuenta, o el proveedor del modelo cuando lo contrata el integrador y no la empresa. Por eso el mapa útil se dibuja siguiendo el recorrido de los datos, paso a paso, y solo después se compara con el registro. El marco de gestión de riesgos de IA de NIST lo pide en dos lugares: en su función de gobierno, con políticas para los riesgos que llegan por software y datos de terceros, y en su función de mapeo, con los riesgos de todos los componentes del sistema, incluidos los de terceros.

Cruza las dos fuentes: el registro oficial (registro_proveedores_ia) y el recorrido de las conversaciones del asistente (flujos_asistente_palmi). Todo destino externo que aparezca en los flujos y no en el registro es un tercero sin revisar. Fíjate en qué recibe: no es lo mismo un número de pedido que la conversación completa con el nombre y el teléfono del cliente.

El mapa no termina en los proveedores directos. El proveedor de un proveedor —la cuarta parte— también recibe datos, y si es un subencargado de quien procesa por tu cuenta, tus obligaciones sobre esos datos llegan hasta él. Para contar a quién llega el texto de las conversaciones, suma los destinos externos de los flujos y, para el proveedor que publica su lista, los subencargados que reciben contenido del cliente. Los que no reciben contenido no cuentan; los sistemas internos de la empresa tampoco.

Cuando el integrador llama al modelo con su cuenta, los términos que rigen esas llamadas son los que firmó el integrador, no los de la empresa. La empresa puede tener un contrato excelente con el mismo proveedor para otros sistemas y, aun así, que su asistente quede fuera de ese contrato. Lee la columna bajo_que_cuenta_o_contrato de los flujos y compárala con el alcance de cada contrato del registro.

Riesgos te pide una recomendación para el comité antes de renovar con el integrador en diciembre.