Alcance y reglas de un encargo con LLM

Una aplicación con un modelo de lenguaje es una aplicación común más un componente que lee texto y decide qué hacer con él. Eso añade tres cosas al encargo. Primero, el componente nuevo casi nunca es del cliente: el modelo suele servirlo un proveedor por API, con sus propias condiciones. Segundo, el comportamiento no es determinista: la misma entrada puede dar respuestas distintas, así que una prueba se repite y se anota cuántas veces ocurrió. Tercero, el modelo recibe como contexto textos de muchas fuentes y no distingue quién los escribió, así que el alcance debe nombrar esas fuentes.

La lista de OWASP para aplicaciones con LLM (edición 2025, la vigente cuando se escribió esta sala) es el vocabulario con el que se clasifican los riesgos. No es una lista de pruebas que haya que agotar: el alcance firmado manda.

Abre la consola de la estación y consulta las tablas del contrato de Azahar. La tabla componentes_del_asistente lista cada pieza del asistente con quién la opera y si entra en el alcance. La regla de oro del encargo es sencilla: el cliente solo puede autorizar lo que es suyo. Lo que opera otra empresa se prueba con la autorización escrita de esa empresa, o no se prueba.

A mitad de la ventana, el responsable de producto de Azahar te dice por mensaje de chat: «ya que estás, mira también si el servicio del modelo se puede saltar sus propios filtros, que nos preocupa». Vuelve al contrato: la fila de cambios de alcance dice cómo se modifica el alcance, y la fila de terceros dice qué pasa con el operador del modelo.

El filtro de ese servicio lo opera Lumenia, y lo que un cliente pide de palabra no sustituye al contrato. Si lo probaras y algo saliera mal, el contrato no te protegería.

El contrato fija un tope de solicitudes al asistente. En un encargo con LLM el tope pesa por partida doble: cada solicitud puede costar dinero al cliente y consumo del operador del modelo. Tu plan de pruebas se calcula con la cifra más alta que el contrato permite, para saber si cabe.

Dos reglas de enfrentamiento cambian tu forma de trabajar: las transcripciones se guardan completas con fecha y hora, y cada prueba se repite las veces que el protocolo dice y se anota cuántas veces ocurrió. Lo primero te protege: puedes demostrar qué hiciste y cuándo. Lo segundo hace honesto tu informe.