Automatizar sin delegar el criterio

Le pides al modelo un script para procesar la salida de una herramienta —tedioso y repetitivo, caso ideal—. Te devuelve algo que funciona, pero al leerlo ves que, además de procesar, incluye un paso que lanza una acción contra el objetivo que tú no pediste. El modelo «completó» el script con lo que le pareció el siguiente paso lógico. Si lo hubieras corrido sin leer, habrías ejecutado algo que no decidiste.

Un script de modelo se lee entero antes de correrlo, igual que un comando suelto. Automatizar lo mecánico está bien; ejecutar a ciegas lo que el modelo añadió por su cuenta, no.

Puedes montar el modelo para que no solo proponga, sino que ejecute: que encadene acciones contra Astilla y decida el siguiente paso sin pararse a preguntarte. Se vende como eficiencia y es entregar el volante. Lo que un agente autónomo ejecuta en nombre de tu contrato lo tienes que responder tú, y no puedes responder por decisiones que tomó una máquina mientras mirabas a otro lado.

La automatización sana tiene una compuerta humana en cada acción que toca el objetivo: el modelo prepara, el operador aprueba y ejecuta. Quitar esa compuerta «para ir más rápido» cambia productividad por descontrol.

El modelo, tras una fase, propone con aplomo el siguiente movimiento: escalar hacia otro sistema. Puede ser una buena idea técnica y a la vez estar fuera del alcance de Astilla, o requerir una autorización que el modelo no sabe que falta. El modelo razona sobre el patrón general de un ataque; no sabe qué firmó este cliente.

La decisión de dar el siguiente paso —y sobre todo de escalar— la toma el operador, que conoce el alcance y la autorización. Una sugerencia del modelo es una opción a evaluar contra el contrato, no una orden a seguir.

Un informe de pentest tiene que poder reconstruir qué se hizo, cuándo y por qué: es lo que separa un trabajo profesional de un desastre. Si un agente autónomo ejecutó decenas de acciones por su cuenta, esa trazabilidad se pierde, y frente al cliente quedas sin poder explicar qué pasó en su sistema y quién lo decidió. Lo que no puedes explicar, no deberías haberlo ejecutado.

Trabajar con compuerta humana no es solo prudencia: es lo que deja un registro de decisiones que tú tomaste y puedes justificar. La automatización ayuda a hacer; la responsabilidad de explicar lo hecho no se automatiza.

Abre la estación. El modelo entregó un script de procesamiento con un paso de más. Léelo línea a línea y aísla la que no es procesamiento de datos antes de correr nada.