🔒 Registro cerrado · Apertura oficial próximamente · Acceso exclusivo para alumnos activos
Iniciar Sesión
Ingeniero de Seguridad de IA
Asegurar un sistema que no se comporta igual dos veces
Un sistema con un modelo de lenguaje dentro rompe la suposición sobre la que está construida toda la seguridad de aplicaciones: que puedes separar los datos de las instrucciones. Aquí no puedes — el texto que el sistema procesa puede contener órdenes, y el modelo no distingue.
Esta ruta trata el problema como lo que es: un problema de arquitectura, no de filtrar palabras. Se recorre sobre aplicaciones con modelos desplegadas en la nube, con herramientas conectadas y recuperación de documentos, porque los fallos interesantes aparecen justo cuando el modelo puede hacer algo — llamar a una API, leer un archivo, mandar un correo.
Lo que va a cubrir
- 01 Por qué un modelo rompe la separación entre dato e instrucción
- 02 Inyección de instrucciones, directa y a través de contenido
- 03 Fuga de datos - del contexto, del sistema y del entrenamiento
- 04 Herramientas conectadas - el permiso que le das al modelo
- 05 Recuperación de documentos como vía de entrada
- 06 Cadena de suministro de modelos y pesos
- 07 Defensa por arquitectura - límites, permisos mínimos y aislamiento
- 08 Evaluar y vigilar - cómo se prueba algo no determinista