Lista de materiales de IA (AI-BOM): campos

Hay dos estándares abiertos que se usan para esto. CycloneDX, un proyecto de la fundación OWASP, incorporó el soporte para transparencia de IA en su versión 1.5 (junio de 2023), y su versión 1.6 se publicó como norma de Ecma International (ECMA-424) en junio de 2024. En CycloneDX un modelo es un componente de tipo machine-learning-model y un conjunto de datos es un componente de tipo data; el modelo lleva una ficha (modelCard) con sus parámetros —enfoque, tarea, arquitectura, conjuntos de datos, entradas y salidas—, su análisis cuantitativo y sus consideraciones: usuarios, casos de uso, limitaciones técnicas y riesgos éticos.

SPDX, el estándar de la Linux Foundation, publicó su versión 3.0 en abril de 2024 con perfiles nuevos, entre ellos uno de IA y otro de conjuntos de datos. En el perfil de IA, un paquete de modelo declara, por ejemplo, su tipo, su dominio, sus métricas y umbrales, sus limitaciones, si usa información personal sensible y una evaluación de riesgo de seguridad con cuatro niveles; el de datos declara el tipo de datos, el uso previsto, los sesgos conocidos, si hay información sensible y el método de anonimización. Los dos estándares sirven; lo que importa es que la lista diga lo que de verdad hay y que se pueda comprobar.

La ficha de un modelo nombra los conjuntos de datos con los que se entrenó o se afinó. Una lista bien hecha declara cada uno de ellos también como componente propio, con su versión y su huella, para que se pueda seguir su rastro: si mañana alguien pide borrar los datos de una persona, o se descubre que un conjunto estaba contaminado, hay que saber qué modelos lo usaron. Compara los conjuntos que nombra la ficha con los componentes de tipo datos de la lista de resumen-de-solicitudes.

Una lista de materiales que se escribe a mano o se genera una vez y no se vuelve a generar envejece en cuanto el modelo cambia. La comprobación más útil es la más simple: comparar la huella que declara la lista con la del archivo que está guardado hoy en el registro. Si no coinciden, la lista describe otro artefacto, y todo lo demás que dice queda en duda. Cruza la huella declarada con las del registro.

Cada organización decide qué campos son obligatorios en su lista. Los requisitos de Pichindé piden, entre otras cosas, que cuando hay información personal sensible la lista lo acompañe de una evaluación de riesgo y del método con que se protegieron los datos. Lee la vista de campos SPDX de detector-fraude-tab, que es un modelo que decide sobre solicitudes de crédito con datos de personas, y repásala requisito por requisito.