Cuotas, topes y reparto por equipo

El consumo sin límites es uno de los riesgos del Top 10 de OWASP para aplicaciones con modelos de lenguaje (LLM10:2025): peticiones de más, por un error o por abuso, que agotan el servicio o disparan la factura. El tope del proveedor protege la factura total, pero es uno solo: cuando un equipo lo consume, se corta para todos, incluido el asistente que atiende a los clientes.

La pasarela permite poner un presupuesto por equipo (dinero al mes) y un límite por minuto (peticiones). El presupuesto acota el daño acumulado; el límite por minuto acota la velocidad. Cada uno tiene una acción al llegar: bloquear, que corta con una respuesta 429 (el código HTTP de «demasiadas peticiones»), o solo avisar, que deja pasar y manda un correo. El reparto también sirve para cobrar internamente a cada equipo lo que consume, y eso hace que cada uno cuide su gasto.

Un presupuesto en modo «solo avisar» es un aviso, no un control: el gasto sigue mientras alguien lee el correo, si lo lee. Puede tener sentido al empezar, para medir antes de cortar, pero tiene que tener fecha de fin. Cruza el modo de cada equipo con su consumo.

Para el informe hace falta la cifra, no solo el nombre: es lo que dimensiona el hallazgo ante quien aprueba el cambio de modo.

Un 429 no es bueno ni malo por sí mismo: depende de qué cortó. Cortar el script de pruebas de un equipo es el límite haciendo su trabajo. Cortar a los clientes que escriben al asistente justo cuando se les cayó el servicio es un límite mal dimensionado para la demanda legítima. Lee la tabla de picos con su nota antes de decidir.