Resumir un caso sin inventar

4 tareas · 40 min · Principiante

Martes 3 de noviembre, 08:00 hora de Colombia. En la Cooperativa Cedrales (empresa inventada) el asistente adjuntó a un caso el resumen de una madrugada de inicios de sesión sospechosos. Parece bien escrito. Aquí aprendes qué es la alucinación, por qué un texto fluido puede ser falso y cómo se parte un resumen en afirmaciones para contrastarlas una por una con el registro original. Todo es lectura de tablas ya escritas, en UTC.

0 de 4 · 0%

Objetivo de la sala

Un modelo de lenguaje produce la continuación más plausible del texto que recibe. Cuando le falta un dato, no se detiene: lo completa con algo que encaja. A eso se le llama alucinación. Puede inventar una cuenta que no existe, cambiar una cifra o mover una hora, y lo hace con el mismo tono seguro con el que acierta. OWASP lo incluye en su lista de riesgos de aplicaciones con modelos de lenguaje como desinformación (LLM09 en la edición 2025).

La consecuencia para el SOC es práctica: la seguridad del tono no dice nada de la exactitud. Cada afirmación del resumen se trata como una hipótesis hasta que se encuentra la línea del registro que la sostiene.

Responde para continuar

¿Por qué un resumen bien escrito puede contener datos falsos?

Porque el modelo genera texto plausible y, si le falta un dato, lo completa sin avisar Porque el resumen siempre cambia el orden de los hechos aunque todos los datos sean correctos Porque los modelos solo se equivocan cuando el texto es largo y tiene muchos nombres propios

Ver pista de ayuda

Piensa en lo que hace el modelo cuando no tiene el dato que la frase necesita.

El método es mecánico: se parte el resumen en afirmaciones sueltas y cada una se contrasta con el registro. En la consola tienes el registro del caso y el resumen ya partido. Prueba SELECT * FROM registro y SELECT * FROM resumen_asistente.

Una afirmación puede fallar de tres maneras: nombra algo que no existe en el registro, da un número o una hora distintos, o saca una conclusión que el registro no sostiene.

Responde para continuar

Escribe el id de la afirmación del resumen que nombra una cuenta que no aparece en el registro.

Ver pista de ayuda

Compara las cuentas de la columna cuenta del registro con las que nombra el resumen.

Los asistentes se equivocan con frecuencia al contar, porque no cuentan: generan un número que parece probable. Los totales se sacan con una consulta sobre el registro.

Prueba SELECT cuenta, evento, COUNT(*) AS veces FROM registro GROUP BY cuenta, evento. El resumen afirma una cifra de inicios fallidos; la consulta dice la real.

Responde para continuar

Escribe cuántos inicios fallidos hay de verdad en el registro.

Ver pista de ayuda

Mira la fila del evento inicio_fallido en la consulta agrupada.

Una afirmación falsa no obliga a tirar todo el resumen: obliga a no confiar en lo que no se contrastó. Lo útil es una nota que diga qué se verificó, con qué consulta, y qué se corrigió. El resumen original se conserva en el caso para que se vea cómo se llegó a la nota final.

Responde para continuar

Dos afirmaciones del resumen resultaron falsas y dos ciertas. ¿Qué se hace con él?

Se borra el resumen del caso para que nadie lo lea y se escribe la nota final de memoria Se cierra el caso con el resumen tal como está, porque la mitad de sus datos coincide con el registro Se escribe una nota con lo verificado y sus consultas, y se conserva el resumen como borrador

Ver pista de ayuda

Debe quedar rastro de qué se contrastó y con qué consulta.

Inicia sesión para registrar tus puntos y progreso en el ranking.

Entrar · Registrarse

1 Fluido no es verdadero

2 Partir el resumen en afirmaciones Lab

3 Contar es de la base, no del asistente Lab

4 Cómo se usa un resumen que ya sabes que falla

Whoami-Labs Pro utiliza cookies