Exfiltración e impacto: la huella que dejan

3 tareas · 35 min · Principiante

Los objetivos de mayor impacto contra modelos de IA incluyen el robo de propiedad intelectual (extracción de pesos o réplica del modelo mediante consultas continuas) y la denegación de servicio o degradación de la integridad del modelo. En Cóndor Andino se analizan las métricas de inferencia y los registros de incidentes para evaluar la severidad de estos impactos bajo el marco ATLAS.

0 de 3 · 0%

Objetivo de la sala

La técnica AML.T0024 (Model Inversion / Extraction) se caracteriza por un volumen anormal de consultas diseñadas para reconstruir las fronteras de decisión del modelo objetivo.

Revisa la tabla deteccion_extraccion e identifica la sesión con alta similitud de consultas y gran volumen de tokens solicitados.

Esta tarea se hace en el laboratorio

Una consola para consultar la base de datos, aquí en la página. No instalas nada y no puedes romper nada.

Conectando con la base…

Responde para continuar

¿Cuántos tokens fueron solicitados en la sesión SES-EXT-881 clasificada como intento de extracción?

Ver pista de ayuda

Consulta `SELECT * FROM deteccion_extraccion` para la sesión SES-EXT-881.

En la tabla impacto_observado, el incidente INC-IMP-02 describe la erosión deliberada de la integridad del modelo de scoring de riesgo mediante datos sesgados.

Esta tarea se hace en el laboratorio

Una consola para consultar la base de datos, aquí en la página. No instalas nada y no puedes romper nada.

Conectando con la base…

Responde para continuar

¿Qué nivel de severidad tiene asignado el incidente INC-IMP-02?

Ver pista de ayuda

Revisa la columna severidad en `impacto_observado` para INC-IMP-02.

A diferencia de la denegación de servicio tradicional en servidores web, un ataque de denegación de servicio contra ML (AML.T0029) satura la memoria VRAM de las GPUs mediante tamaños de contexto extremos o algoritmos de generación costosos.

Esta tarea se hace en el laboratorio

Una consola para consultar la base de datos, aquí en la página. No instalas nada y no puedes romper nada.

Conectando con la base…

Responde para continuar

¿Cuál es el impacto principal de la técnica AML.T0029 (Denial of ML Service) sobre la infraestructura de inferencia?

Eliminar los archivos de configuración del sistema operativo host Agotar la capacidad computacional o memoria GPU impidiendo responder a solicitudes legítimas Cambiar automáticamente el proveedor de nube sin intervención humana

Ver pista de ayuda

Piensa en el costo computacional de procesar contextos largos en tarjetas gráficas.

Inicia sesión para registrar tus puntos y progreso en el ranking.

Entrar · Registrarse

Conectando con la base…

Cóndor Andino — Métricas de telemetría y detección de robo de modelo y datos

Monitor de Exfiltración y Límites de Inferencia

Tablas

deteccion_extraccion

sesion_id
tecnica_atlas
tokens_solicitados
similitud_respuestas
dictamen

impacto_observado

incidente_id
tecnica_impacto
sistema_afectado
perdida_estimada
severidad

Ctrl + Enter

Consola de consultas v1.0 · build b77233

1 Detección de extracción de modelo Lab

2 Severidad del impacto en la integridad Lab

3 Denegación de servicio en clusters de IA Lab

Whoami-Labs Pro utiliza cookies