Recomendar frente a actuar: autonomía limitada

Entre «muestra un dato» y «cambia el proceso» hay escalones. La política de Yareta los llama N0 (informa), N1 (recomienda: la persona decide y ejecuta), N2 (actúa solo si el operador aprueba) y N3 (actúa sin aprobación previa, dentro de unos límites, y avisa después). Cada escalón hacia arriba quita a una persona del camino entre el modelo y el equipo.

La guía conjunta de CISA y sus socios sobre IA en OT pide prudencia con los sistemas de IA que influyen de forma activa en el control, porque un problema puede crecer antes de que el operador lo note; y, donde la IA actualiza la lógica de control, pide umbrales de seguridad y puntos de intervención humana. Hay otra regla que no se negocia: las protecciones eléctricas, los relés que abren un interruptor ante una falla, funcionan por su cuenta y no dependen del modelo.

Las excepciones de autonomía suelen nacer de una molestia razonable: no despertar a alguien por un cambio pequeño. El problema es que una excepción escrita en la configuración del sistema puede contradecir la política sin que nadie la haya aprobado como excepción. Compara la configuración con las reglas de la política.

Para el informe no basta con decir que el optimizador «a veces» actuó sin aprobación: hay que contarlo. Una recomendación rechazada o descartada no cuenta, y una aprobada tampoco: solo las escrituras que nadie aprobó.

Un límite que aplica el propio modelo cae con el modelo: si el modelo se equivoca, se actualiza mal o se configura distinto, el límite desaparece con él. Por eso la regla 2 de Yareta pide que la banda de tensión y los pasos por hora vivan en el controlador de la subestación. Mira dónde está hoy el límite de pasos, cuándo se aplica y qué pasó la noche de la queja.

El optimizador no es malo por actuar sobre la tensión: es malo que lo haga de noche sin nadie que decida, con un límite que solo existe dentro de su configuración y que de noche ni siquiera se aplica. La corrección devuelve a la persona al camino y pone los límites donde el modelo no los puede tocar.