Estudios de caso públicos como línea de tiempo

3 tareas · 35 min · Principiante

MITRE ATLAS documenta casos de estudio del mundo real donde se aplicaron técnicas adversariales contra modelos de producción (clasificadores de malware, filtros de correo, LLMs y repositorios comunitarios). Analizar estos casos permite aprender lecciones operativas probadas sin depender únicamente de la teoría.

0 de 3 · 0%

Objetivo de la sala

El caso AML.CS0001 documentó cómo atacantes agregaron bytes irrelevantes de ejecutables legítimos a binarios maliciosos para alterar las puntuaciones del clasificador de machine learning sin romper la funcionalidad del archivo.

Consulta la tabla estudios_caso_atlas para identificar el año en que se documentó este caso.

Esta tarea se hace en el laboratorio

Una consola para consultar la base de datos, aquí en la página. No instalas nada y no puedes romper nada.

Conectando con la base…

Responde para continuar

¿En qué año se registró el estudio de caso AML.CS0001 (Bypass of Cylance)?

Ver pista de ayuda

Consulta `SELECT * FROM estudios_caso_atlas` donde caso_id = 'AML.CS0001'.

El caso AML.CS0017 (PoisonGPT) demostró el riesgo de descargar pesos y modelos preentrenados de repositorios comunitarios sin verificar firmas o integridad de las capas.

Esta tarea se hace en el laboratorio

Una consola para consultar la base de datos, aquí en la página. No instalas nada y no puedes romper nada.

Conectando con la base…

Responde para continuar

¿Cuál es la lección defensiva documentada en la tabla para el caso AML.CS0017? Escribe la frase completa tal como aparece.

Ver pista de ayuda

Revisa la columna leccion_defensiva para AML.CS0017.

En el caso AML.CS0008 (evasión de protección de correo), los atacantes aprovecharon que el sistema devolvía puntuaciones numéricas detalladas de probabilidad de spam en cada rechazo.

Esta tarea se hace en el laboratorio

Una consola para consultar la base de datos, aquí en la página. No instalas nada y no puedes romper nada.

Conectando con la base…

Responde para continuar

¿Por qué devolver puntuaciones de probabilidad de confianza detalladas en una API pública facilita los ataques de inversión o evasión?

Porque permite al atacante optimizar matemáticamente sus entradas observando cómo varía el puntaje con cada intento Porque obliga al servidor a consumir el doble de electricidad por cada cálculo Porque las normas de privacidad prohíben compartir números decimales en internet

Ver pista de ayuda

El atacante utiliza el puntaje como gradiente para ajustar su ataque de forma iterativa.

Inicia sesión para registrar tus puntos y progreso en el ranking.

Entrar · Registrarse

Conectando con la base…

Cóndor Andino — Matriz de estudios de caso públicos MITRE ATLAS y lecciones operativas

Repositorio de Casos ATLAS / Inteligencia de Amenazas

Tablas

estudios_caso_atlas

caso_id
nombre_caso
ano
vector_principal
tecnicas_clave
leccion_defensiva

Ctrl + Enter

Consola de consultas v1.0 · build b77233

1 Caso histórico de evasión de modelos Lab

2 Cadena de suministro en repositorios de pesos Lab

3 Lección de retroalimentación de puntuación Lab

Whoami-Labs Pro utiliza cookies