Componentes de un sistema con modelo de lenguaje y sus fronteras

Un sistema moderno de IA generativa empresarial combina múltiples componentes conectados:

1. Interfaz de usuario: Capa no confiable por donde entran prompts de usuarios legítimos o atacantes.
2. Orquestador (LangChain, LlamaIndex, Semantic Kernel): Administra el flujo de ejecución, plantillas de sistema y memoria.
3. Base de datos vectorial (Vector DB / pgvector, Pinecone): Almacena embeddings y fragmentos (chunks) de documentos para enriquecer el contexto mediante RAG.
4. Modelo de lenguaje (LLM): Motor de inferencia (interno o SaaS externo) que procesa el contexto ensamblado.
5. Ejecutor de herramientas (Tool Engine): Agentes capaces de interactuar con APIs transaccionales, bases de datos o sistemas de archivos.

Cada conexión entre estos bloques cruza una frontera de seguridad con riesgos específicos (inyección de prompts, fuga de datos, ejecución de código no autorizada).

El diagrama de bloques documenta el nivel de confianza y la criticidad de cada pieza técnica.

Abre el laboratorio y lee diagrama-bloques-ia.txt. Identifica el componente técnico clasificado explícitamente con nivel de confianza ALTO_RIESGO.

El punto de captura de datos de usuario debe tratarse como potencialmente hostil en todo momento.

Revisa la tabla técnica e identifica qué componente opera bajo el nivel de confianza NO_CONFIABLE.

Antes de enviar el prompt y el contexto recuperado hacia una API de LLM externa, la arquitectura debe interponer un filtro de prevención de fuga de datos (DLP) para anonimizar identificadores personales de clientes.