🔒 Registro cerrado · Apertura oficial próximamente · Acceso exclusivo para alumnos activos
Iniciar SesiónLa superficie, entradas, herramientas, recuperación y salida
5 tareas · 45 min · Principiante
En una aplicación común la superficie son los endpoints. En una con modelo de lenguaje hay cuatro lugares donde mirar: lo que el modelo lee (entradas), lo que puede hacer (herramientas), lo que trae de sus documentos (recuperación, el RAG) y lo que se hace con lo que escribe (salida). Seguros Azahar te entrega el inventario de Compás. Tu trabajo es leerlo con el mapa en la mano y marcar dónde conviene poner la atención. No se envía nada: el inventario ya está escrito.
Objetivo de la sala
En una aplicación común la superficie son los endpoints. En una con modelo de lenguaje hay cuatro lugares donde mirar: lo que el modelo lee (entradas), lo que puede hacer (herramientas), lo que trae de sus documentos (recuperación, el RAG) y lo que se hace con lo que escribe (salida). Seguros Azahar te entrega el inventario de Compás. Tu trabajo es leerlo con el mapa en la mano y marcar dónde conviene poner la atención. No se envía nada: el inventario ya está escrito.El modelo recibe todo como texto: el mensaje del usuario, el texto de un documento recuperado, el cuerpo de un correo. No hay una etiqueta fiable que le diga «esto es una orden» y «esto es un dato». Por eso la pregunta útil de una entrada no es qué contiene sino quién controla su contenido. Una entrada que escribe un tercero, o cualquiera, es un camino por el que alguien ajeno al cliente puede dirigirse al modelo sin pasar por el chat.
Lee la tabla entradas y fíjate en la columna quien_escribe_el_contenido.
Responde para continuar
¿Qué entrada del inventario merece más atención por el origen de su contenido?
Ver pista de ayuda
El modelo lee todo como texto; importa quién pudo escribirlo, no solo por dónde entra.
Una herramienta es lo que convierte un error de texto en un efecto real. Para cada una conviene tener tres datos: si solo lee o también escribe, si el usuario confirma antes de que se ejecute y con qué identidad corre. Una herramienta de escritura sin confirmación, o una que corre con una identidad con más alcance que el usuario que la dispara, es el lugar de las conversaciones difíciles del informe (la categoría de agencia excesiva de la lista de OWASP).
Responde para continuar
¿Qué herramienta de escritura no pide confirmación? Escribe su nombre.
Ver pista de ayuda
Consulta la tabla herramientas y compara permiso con pide_confirmacion.
La recuperación (RAG) trae al contexto trozos de documentos para que el modelo responda con ellos. Cada fuente tiene un dueño. Si una fuente puede ser editada por quien no debería, ese contenido llega al modelo con la autoridad de «documento de la empresa». Lo que importa del inventario es la columna que dice quién puede editar.
Responde para continuar
¿Qué fuente indexada puede editar cualquier asegurado? Escribe su nombre.
Ver pista de ayuda
Busca en quien_puede_editarla la fila que no es de un equipo interno.
Lo último que mira el evaluador es el destino de lo que el modelo escribe. Si se pinta en una página con formato enriquecido sin filtrar, se escribe en una base de datos o se envía por correo, la salida es entrada de otro sistema. Tratarla como confiable porque «la escribió nuestro modelo» es el error que la lista de OWASP llama manejo inseguro de la salida.
Responde para continuar
La ventana del chat pinta la salida del modelo con formato enriquecido y sin lista de etiquetas permitidas. ¿Cómo lo tratas?
Ver pista de ayuda
El modelo puede repetir texto que otro escribió; lo que se muestra debe tratarse como no confiable.
Una cuenta de servicio con acceso a toda la cartera es cómoda para el desarrollador y es mucho poder en manos de un componente que obedece texto. Para el informe te sirve una cifra: cuántas herramientas corren con ella. Cuéntalas en la tabla.
Responde para continuar
¿Cuántas herramientas corren con una cuenta de servicio que ve toda la cartera? Escribe solo el número.
Ver pista de ayuda
Cuenta las filas cuya identidad es la cuenta de servicio.
Whoami-Labs Pro
Whoami-Labs Pro utiliza cookies
Utilizamos cookies y almacenamiento local para el funcionamiento del sitio, seguridad de sesión y, si lo autorizas, analítica y marketing. Puedes aceptar, rechazar o personalizar. Política de Privacidad
Preferencias
Configuraciones de cookies
Elige qué categorías permitir. Las esenciales siempre están activas. Consulta la Política de Privacidad.
Esenciales
Siempre activas · sesión, CSRF, tema y esta preferencia
Necesarias para iniciar sesión, proteger formularios (CSRF) y recordar tu elección de cookies y tema. Sin ellas la plataforma no funciona de forma segura.
Analíticos
Hoy no activos en la plataforma; listos para cuando se conecten
Nos ayudan a entender uso de cursos y páginas. Si los activas, se usarán cuando conectemos analítica; hasta entonces no se carga ningún tracker.
Marketing
Hoy no activos; campañas futuras solo con tu permiso
Comunicaciones o campañas. No activos hoy en la plataforma; quedarán listos si los conectamos y solo si los permites.