Modelos de propósito general y riesgo sistémico

El reglamento distingue el modelo de propósito general —el componente entrenado con grandes cantidades de datos que sirve para muchas tareas distintas— del sistema que lo integra para un uso concreto. Las obligaciones del capítulo V recaen sobre quien ofrece el modelo; las de los sistemas recaen sobre quien construye y ofrece el sistema, aunque este use por dentro un modelo de otro.

Por eso, cuando una empresa integra un modelo ajeno en un sistema de alto riesgo, no hereda las obligaciones del modelo, pero sí necesita la documentación que el proveedor del modelo debe entregar a quienes lo integran para poder cumplir con su propio sistema.

Un modelo de propósito general tiene riesgo sistémico si tiene capacidades de gran impacto, medidas con herramientas y referencias adecuadas, o si la Comisión lo designa así a la vista de los criterios del anexo correspondiente. Para no depender solo de la medición, el reglamento fija una presunción: se presume que tiene capacidades de gran impacto el modelo cuyo cómputo acumulado de entrenamiento supera 10^25 operaciones de coma flotante.

Lee el registro de modelos. Ojo con la notación científica: 1e25 es 10^25.

Todo proveedor de un modelo de propósito general debe tener documentación técnica para las autoridades, documentación para quienes lo integran, una política para respetar los derechos de autor (incluidas las reservas de derechos sobre la minería de textos) y un resumen público, con la plantilla de la Oficina de IA, del contenido usado para entrenar.

Si el modelo se publica con licencia libre y de código abierto, con pesos y arquitectura públicos, queda exento de las dos primeras. Las dos últimas siguen siendo obligatorias, y la exención entera desaparece si el modelo tiene riesgo sistémico. Cruza el paquete documental con el registro de modelos.

Quien ofrece un modelo que alcanza el umbral debe notificarlo a la Comisión sin demora y, como máximo, en dos semanas. El plazo no empieza solo cuando el umbral se supera: empieza también cuando se sabe que se va a superar. Un entrenamiento de este tamaño se planifica, y el plan dice cuánto cómputo va a usar.

Cumplimiento contó las dos semanas desde un evento de la bitácora. Léela entera antes de darle la razón.

Con riesgo sistémico llegan cuatro obligaciones más: evaluar el modelo con protocolos actualizados, incluidas pruebas adversarias; evaluar y mitigar los riesgos sistémicos que pueda causar en la Unión; registrar los incidentes graves y las medidas correctoras y comunicarlos sin demora; y proteger la ciberseguridad del modelo y de su infraestructura física. La supervisión de los modelos de propósito general es europea, no nacional.