Clasificar los usos de IA por nivel de riesgo

El Reglamento (UE) 2024/1689 trabaja con una escala por riesgo. En lo más alto están las prácticas prohibidas, que el reglamento enumera una por una. Después vienen los sistemas de alto riesgo, que se permiten bajo requisitos exigentes. Algunos usos solo tienen obligaciones de transparencia: avisar a la persona de que habla con una máquina o de que un contenido es sintético. El resto no tiene obligaciones específicas.

El nivel depende del uso y del contexto, no de la tecnología. El mismo modelo de lenguaje puede ser una herramienta de oficina o parte de un proceso de selección de personal, y los dos no pesan igual.

Abre usos_a_clasificar y reglas_internas; la regla 3 es la que nos importa para el chat.

Entre las prácticas que el reglamento prohíbe figura inferir las emociones de una persona en el lugar de trabajo o en la educación, salvo por razones médicas o de seguridad. Es una de las líneas más fáciles de cruzar sin querer, porque los productos de análisis de voz se venden como «mejora de la calidad del servicio».

La regla interna recoge una versión simplificada. Lee reglas_internas y la columna afecta_a de los usos.

El anexo III del reglamento agrupa los usos de alto riesgo por áreas: empleo, acceso a servicios esenciales (entre ellos la evaluación de la solvencia de una persona), educación, entre otras. Lo que los une es que la decisión de la máquina puede cambiar la vida de alguien.

En Higuera hay dos usos de alto riesgo según la regla interna. Los distingue a quién afectan.

La clasificación completa es un recuento por nivel. Es lo que el comité lleva a la dirección: cuántos usos hay en cada nivel y por tanto cuánta evidencia habrá que reunir. Los usos de riesgo mínimo son los que quedan después de aplicar, una tras otra, las reglas de los niveles superiores.

Aplica las reglas 1 a 4 a los siete usos y cuenta los que quedan sin nivel superior.

El proveedor del recomendador de productos ofrece también un módulo con el mismo modelo que puntúa a clientes para ajustar su cupo de crédito. Su comercial dice que es «el mismo producto, ya clasificado como de bajo riesgo».