Integridad de la información y contenido dañino

Para el perfil, la información íntegra separa los hechos de la opinión y de la ficción, reconoce su incertidumbre, se puede rastrear hasta su origen y verificar. El riesgo de integridad de la información aparece cuando la IA generativa abarata la producción a escala de contenido que no cumple eso: desinformación, información errónea y contenido sintético que se toma por real. La confabulación es un fallo del modelo frente a lo que se le pidió; un problema de integridad puede darse aunque el modelo haga exactamente lo pedido, si el resultado se presenta sin decir qué es.

Por eso una de las consideraciones del apéndice del perfil es la procedencia del contenido: poder decir de dónde viene una imagen o un texto y si fue generado.

No todo cambio a una imagen engaña igual. Añadir muebles a un espacio vacío muestra una posibilidad; con aviso, el lector sabe lo que mira. Borrar un defecto real o inventar algo del entorno cambia lo que el comprador cree que va a recibir, y ahí el aviso ya no basta: el contenido afirma un hecho falso sobre el inmueble.

Revisa los cambios de cada imagen frente a su foto real y busca el anuncio publicado que altera el propio inmueble o su entorno.

El indicador más simple de procedencia es si cada imagen generada que llega al público lo dice. Para contarlo hay que separar tres cosas que la tabla mezcla: las fotos reales con ajustes menores, que no son contenido generado; los borradores, que aún no llegaron a nadie; y las imágenes generadas ya publicadas.

El riesgo de contenido peligroso, violento o de odio del perfil incluye, además de la violencia y la incitación, el contenido que denigra o estereotipa a grupos de personas, y conecta con el riesgo de sesgo dañino, que trata cómo la IA amplifica patrones injustos. En un anuncio inmobiliario la forma más común es la exclusión de personas por su origen, su edad o su familia, escrita como si fuera una característica del inmueble.

Lee los textos generados que llegaron a los portales.

Entre las acciones del perfil está implementar filtros de contenido que impidan salidas inapropiadas, dañinas, falsas o ilegales; el perfil etiqueta esa acción con varios riesgos a la vez, entre ellos la integridad de la información y el contenido de odio. Un filtro solo protege los canales por los que pasan las salidas.