Qué es el contenido sintético y cómo se produce

Llamamos contenido sintético al texto, la imagen, el audio o el video que produce o modifica de forma sustancial un modelo. Hay dos familias que conviene separar. La primera crea algo desde cero a partir de una descripción: una foto de un producto que nunca existió, una voz genérica que no es de nadie. La segunda imita a alguien concreto: un modelo aprende los rasgos de una persona a partir de muestras suyas —minutos de audio, fotos, video— y produce material nuevo con esa voz o esa cara, a veces en tiempo real, como en una videollamada.

Para la organización, la segunda familia es la que hace daño, y su materia prima está casi siempre a la vista: entrevistas, conferencias, pódcast, videos institucionales. No hace falta material privado para imitar a una persona que habla en público. A la vez, no todo lo falso es sintético: una grabación real recortada y reordenada, o una factura retocada a mano, engañan igual sin que intervenga ningún modelo.

El NIST publicó en noviembre de 2024 una guía sobre cómo reducir los riesgos del contenido sintético (NIST AI 100-4), que repasa la procedencia, el etiquetado, las marcas de agua y la detección. La verás de fondo en todo el módulo: ninguna de esas técnicas basta sola.

Un detector de contenido sintético busca rastros de que un modelo produjo el material. Si la pieza se armó cortando y pegando fragmentos de una grabación auténtica, cada fragmento es real y el detector no tiene nada que encontrar. Por eso el inventario de Llareta distingue cómo se produjo cada pieza: la defensa contra un empalme es la misma que contra una voz clonada —verificar la solicitud por otro canal—, pero las herramientas de detección no cubren las dos.

Revisa la tabla de piezas y localiza el audio que se armó sin generar nada.

La exposición de una persona no depende solo de lo que se filtre: buena parte la publica la misma organización para comunicar. Eso no significa que haya que dejar de publicar, pero sí saber qué material propio sirvió de muestra, porque cambia a quién hay que avisar y qué piezas institucionales conviene revisar (por ejemplo, voz larga y limpia de quien aprueba pagos).

Cruza en el inventario quién fue imitado y de dónde salió el material.

El inventario deja dos lecciones. Las piezas se apoyaron en material que no se puede retirar del todo y llegaron por canales distintos (mensajería, videollamada, llamada, correo). Y lo que tienen en común no es la técnica, sino lo que pedían: dinero, cambios de cuenta y accesos. Un control que dependa de reconocer la falsificación compite con una técnica que mejora cada año; uno que dependa de verificar la solicitud no necesita saber cómo se hizo la pieza.