Clasificar un sistema por nivel de riesgo

4 tareas · 45 min · Principiante

El reglamento europeo de IA no regula «la IA» en bloque: reparte los sistemas en niveles según lo que hacen y a quién afectan. Clasificar bien es el primer trabajo de cumplimiento, porque de ahí cuelgan todas las obligaciones. En esta sala lees el inventario de Tamarugo Financiera, una empresa inventada de microcrédito digital con clientes en Colombia y en España, y lo cruzas con los cuatro niveles y con las áreas del Anexo III. Hay una trampa: un sistema que parece del mismo tipo que otro y que el propio texto deja fuera. Es lectura de evidencia de práctica y no es asesoría legal.

0 de 4 · 0%

Objetivo de la sala

El reglamento distingue cuatro niveles. Las prácticas prohibidas (artículo 5) no se pueden usar. Los sistemas de alto riesgo (artículo 6 y Anexo III) pueden usarse si cumplen un conjunto de requisitos. Los de riesgo de transparencia (artículo 50) deben informar a la persona o marcar lo que generan. El resto es riesgo mínimo y no tiene obligaciones específicas.

El Anexo III es una lista de usos concretos, agrupados en ocho áreas: biometría, infraestructuras críticas, educación, empleo, servicios esenciales, aplicación de la ley, migración y justicia. Un sistema destinado a uno de esos usos entra, en principio, en alto riesgo. Existe una vía de excepción, el artículo 6, que permite no considerarlo de alto riesgo cuando no supone un riesgo significativo, pero quien la usa debe documentar su evaluación antes de comercializar el sistema: no es un atajo.

Responde para continuar

Un sistema aparece descrito en una de las áreas del Anexo III. ¿Qué se puede decir, en principio, de él?

Que es de alto riesgo y debe cumplir los requisitos del reglamento, salvo una excepción documentada Que no tiene obligaciones, porque el Anexo solo orienta y no impone requisitos a quien lo usa Que está prohibido y no puede usarse en la Unión Europea, con independencia de las garantías que tenga

Ver pista de ayuda

El Anexo III lista los usos que convierten un sistema en de alto riesgo. Prohibir es otra cosa y otro artículo.

Dentro del área de servicios esenciales, el Anexo III incluye los sistemas destinados a evaluar la solvencia de personas físicas o a establecer su puntaje de crédito. Un microcrédito digital cae de lleno en ese uso: la salida del sistema influye en que alguien obtenga o no un servicio financiero.

El criterio para clasificar no es la tecnología (un modelo clásico de clasificación o uno de lenguaje), sino el uso previsto y a quién afecta. Abre el inventario y busca el sistema cuyo propósito coincide con ese uso del Anexo.

Responde para continuar

¿Qué sistema del inventario de Tamarugo cae en el área de servicios esenciales del Anexo III?

Ver pista de ayuda

Ejecuta `SELECT * FROM sistemas_de_tamarugo` y compara «que_hace» con la fila de servicios esenciales de `SELECT * FROM anexo_iii`.

Los textos normativos se leen hasta el final de la frase. La entrada del Anexo III sobre crédito lleva una salvedad: no cubre los sistemas dedicados a detectar fraude financiero. La razón de fondo es que detectar un fraude no decide si una persona accede a un servicio: marca una situación para que alguien la revise.

Leer esa nota cambia el resultado de la clasificación. Revisa la columna «nota» del Anexo y vuelve al inventario para ver cuál de los sistemas queda fuera por ese motivo, aunque trabaje sobre las mismas solicitudes.

Responde para continuar

¿Qué sistema del inventario trabaja con solicitudes de crédito pero la nota del Anexo III lo deja fuera de ese punto?

Ver pista de ayuda

Lee la nota de la fila «Servicios esenciales» y busca en el inventario el sistema que hace lo que esa nota excluye.

Un inventario clasificado se resume en un número que la dirección entiende: cuántos sistemas de alto riesgo hay, porque cada uno trae un expediente de requisitos que cuesta tiempo y dinero. Para llegar al número hay que clasificar los siete sistemas, no solo el primero que salta a la vista.

Recorre el inventario con el Anexo III al lado: un sistema que decide sobre personas en el empleo también es de alto riesgo. Recuerda lo de la tarea anterior.

Responde para continuar

¿Cuántos de los siete sistemas de Tamarugo quedan en alto riesgo? Escribe solo el número.

Ver pista de ayuda

Dos áreas del Anexo III coinciden con el uso de algún sistema; el que detecta fraude no cuenta.

Inicia sesión para registrar tus puntos y progreso en el ranking.

Entrar · Registrarse

1 Cuatro niveles, y el Anexo III

2 El crédito a personas Lab

3 El que parece igual y no lo es Lab

4 Contar los de alto riesgo Lab

Whoami-Labs Pro utiliza cookies