Loading
_ DESCIFRANDO CONEXIÓN SEGURA...

La superficie, entradas, herramientas, recuperación y salida

5 tareas · 45 min · Principiante

En una aplicación común la superficie son los endpoints. En una con modelo de lenguaje hay cuatro lugares donde mirar: lo que el modelo lee (entradas), lo que puede hacer (herramientas), lo que trae de sus documentos (recuperación, el RAG) y lo que se hace con lo que escribe (salida). Seguros Azahar te entrega el inventario de Compás. Tu trabajo es leerlo con el mapa en la mano y marcar dónde conviene poner la atención. No se envía nada: el inventario ya está escrito.

0 de 5 · 0%

Objetivo de la sala

En una aplicación común la superficie son los endpoints. En una con modelo de lenguaje hay cuatro lugares donde mirar: lo que el modelo lee (entradas), lo que puede hacer (herramientas), lo que trae de sus documentos (recuperación, el RAG) y lo que se hace con lo que escribe (salida). Seguros Azahar te entrega el inventario de Compás. Tu trabajo es leerlo con el mapa en la mano y marcar dónde conviene poner la atención. No se envía nada: el inventario ya está escrito.

El modelo recibe todo como texto: el mensaje del usuario, el texto de un documento recuperado, el cuerpo de un correo. No hay una etiqueta fiable que le diga «esto es una orden» y «esto es un dato». Por eso la pregunta útil de una entrada no es qué contiene sino quién controla su contenido. Una entrada que escribe un tercero, o cualquiera, es un camino por el que alguien ajeno al cliente puede dirigirse al modelo sin pasar por el chat.

Lee la tabla entradas y fíjate en la columna quien_escribe_el_contenido.

Responde para continuar

¿Qué entrada del inventario merece más atención por el origen de su contenido?

Ver pista de ayuda

El modelo lee todo como texto; importa quién pudo escribirlo, no solo por dónde entra.

Una herramienta es lo que convierte un error de texto en un efecto real. Para cada una conviene tener tres datos: si solo lee o también escribe, si el usuario confirma antes de que se ejecute y con qué identidad corre. Una herramienta de escritura sin confirmación, o una que corre con una identidad con más alcance que el usuario que la dispara, es el lugar de las conversaciones difíciles del informe (la categoría de agencia excesiva de la lista de OWASP).

Responde para continuar

¿Qué herramienta de escritura no pide confirmación? Escribe su nombre.

Ver pista de ayuda

Consulta la tabla herramientas y compara permiso con pide_confirmacion.

La recuperación (RAG) trae al contexto trozos de documentos para que el modelo responda con ellos. Cada fuente tiene un dueño. Si una fuente puede ser editada por quien no debería, ese contenido llega al modelo con la autoridad de «documento de la empresa». Lo que importa del inventario es la columna que dice quién puede editar.

Responde para continuar

¿Qué fuente indexada puede editar cualquier asegurado? Escribe su nombre.

Ver pista de ayuda

Busca en quien_puede_editarla la fila que no es de un equipo interno.

Lo último que mira el evaluador es el destino de lo que el modelo escribe. Si se pinta en una página con formato enriquecido sin filtrar, se escribe en una base de datos o se envía por correo, la salida es entrada de otro sistema. Tratarla como confiable porque «la escribió nuestro modelo» es el error que la lista de OWASP llama manejo inseguro de la salida.

Responde para continuar

La ventana del chat pinta la salida del modelo con formato enriquecido y sin lista de etiquetas permitidas. ¿Cómo lo tratas?

Ver pista de ayuda

El modelo puede repetir texto que otro escribió; lo que se muestra debe tratarse como no confiable.

Una cuenta de servicio con acceso a toda la cartera es cómoda para el desarrollador y es mucho poder en manos de un componente que obedece texto. Para el informe te sirve una cifra: cuántas herramientas corren con ella. Cuéntalas en la tabla.

Responde para continuar

¿Cuántas herramientas corren con una cuenta de servicio que ve toda la cartera? Escribe solo el número.

Ver pista de ayuda

Cuenta las filas cuya identidad es la cuenta de servicio.

Inicia sesión para registrar tus puntos y progreso en el ranking.

Whoami-Labs Pro

Whoami-Labs Pro utiliza cookies

Utilizamos cookies y almacenamiento local para el funcionamiento del sitio, seguridad de sesión y, si lo autorizas, analítica y marketing. Puedes aceptar, rechazar o personalizar. Política de Privacidad