Herramientas y agentes: permisos acotados y aprobación humana

Los agentes inteligentes no solo generan texto: toman decisiones y llaman a herramientas (tool use) para interactuar con bases de datos y servicios financieros. La vulnerabilidad OWASP LLM06 (Excessive Agency) ocurre cuando se otorga a un agente la capacidad de ejecutar acciones destructivas o de alto impacto sin supervisión humana.

Para mitigar este riesgo, la arquitectura debe aplicar dos controles indispensables:

1. Mínimo privilegio de herramientas: El agente solo debe contar con herramientas de solo lectura o creación de borradores no definitivos.
2. Aprobación humana en el bucle (Human-in-the-Loop - HITL): Acciones críticas (transferencias de dinero, cancelación de pólizas) requieren una confirmación explícita y criptográfica por parte de un operador humano autorizado.

El catálogo de herramientas clasifica cada acción según su potencial de daño financiero o reputacional.

Abre el laboratorio y lee catalogo-herramientas-agente.txt. Identifica la herramienta de nivel de impacto CRITICO que exige HITL OBLIGATORIO para realizar transferencias.

Las acciones que alteran el estado legal o contractual de los clientes deben someterse a las mismas salvaguardas que los movimientos de dinero.

Revisa la tabla técnica y localiza qué herramienta ejecuta la anulación de contratos de seguro con nivel de impacto ALTO.

Si un agente tiene la capacidad de ejecutar código (como un analista de datos con intérprete de Python), dicho entorno debe operar dentro de un contenedor efímero aislado (gVisor, Firecracker microVM) sin acceso a la red interna ni a credenciales de la nube.