Treinta y dos páginas para que sepas que lo que ves no es real
Artículo publicado originalmente por el mismo autor en Substack.
La foto del Papa con el plumas de Balenciaga. El audio de tu jefe pidiendo una transferencia urgente. Ese artículo perfectamente redactado sobre un tema que dominas y que, sin embargo, tiene algo raro que no sabrías explicar…
Llevamos años jugando a la ruleta rusa de la percepción digital. Y la Unión Europea ha decidido que la solución es volver a pintar la línea entre lo real y lo sintético. Esta vez, con rotulador permanente.
Acaba de publicarse el primer borrador del Código de Prácticas sobre Transparencia del Contenido Generado por IA. Treinta y dos páginas. Llevo una semana con este documento encima de la mesa. Lo he leído tres veces. Y sigo sin saber si es un ejercicio de optimismo regulatorio o el primer intento serio de que no nos volvamos completamente locos. Como si el problema fuera que las cosas están ocultas y bastara con encender la luz.
El problema, claro, es otro. El problema es que ya no sabemos qué es la luz.
Antes de entrar en materia, una confesión. Cuando empecé a leer el documento esperaba el típico texto europeo: bien intencionado, técnicamente solvente, prácticamente inútil. Me equivocaba. O me equivocaba a medias, que es la forma más interesante de equivocarse.
El código tiene 32 páginas y dos secciones principales. La primera va dirigida a quienes crean los modelos de IA —los Anthropic, OpenAI, Google de turno—. La segunda, a quienes los usan para generar contenido que luego circula por ahí.
La lógica es sencilla: el que fabrica el cuchillo tiene unas obligaciones; el que lo usa, otras.
De dónde viene esto
El código no surge de la nada. Es el desarrollo del artículo 50 del Reglamento de IA europeo, que va desplegando sus obligaciones por fases. Las de transparencia para contenido generativo llegan en agosto de 2026. Queda tiempo. Pero no tanto.
La Oficina de IA de la Comisión lanzó el proceso en septiembre de 2025. Convocatoria pública, selección de expertos, constitución de dos grupos de trabajo. El 5 de noviembre se celebró la sesión plenaria de lanzamiento. El 17 de diciembre —hace apenas algo más de una semana— se publicó este primer borrador.
Lo que tenemos entre manos es, literalmente, un trabajo en curso. La versión definitiva no llegará hasta mayo o junio de 2026. Entre medias hay previstas más reuniones, talleres, rondas de comentarios. El plazo para enviar feedback a este primer borrador cierra el 23 de enero.
Y aquí viene un detalle que conviene no olvidar: el código será voluntario. Los proveedores y desplegadores de IA pueden usarlo para demostrar que cumplen con el artículo 50, pero no están obligados a seguirlo al pie de la letra. Es una herramienta de cumplimiento, no una norma en sí misma. Estas obligaciones de transparencia complementarán otras normas, como las aplicables a los sistemas de IA de alto riesgo o los modelos de IA de uso general, al que le dedicamos en Linkedin esta publicación y esta otra, alimentadas por mi curiosidad por conocer el alcance de la adhesión a dicho código.
La Comisión, por su parte, está preparando en paralelo unas directrices que aclararán el alcance de las obligaciones legales. El código y las directrices se complementan: uno da el”cómo”, las otras aclaran el”qué”.
Los dos grupos de trabajo
La estructura del código refleja la del propio artículo 50. Dos grupos de trabajo, dos tipos de obligados.
El Grupo de Trabajo 1 se ocupa de los proveedores: quienes crean los modelos y sistemas de IA. Su obligación es técnica: marcar el contenido de forma legible por máquinas, con soluciones que sean eficaces, interoperables, robustas y fiables.
El Grupo de Trabajo 2 se centra en los desplegadores: quienes usan esos sistemas para generar contenido que luego circula. Su obligación es comunicativa: etiquetar los deepfakes y los textos de IA que informen sobre asuntos de interés público.
Ambos grupos están dirigidos por presidentes y vicepresidentes independientes, seleccionados por la Oficina de IA. El proceso ha involucrado a proveedores de IA generativa, desarrolladores de técnicas de marcado, asociaciones sectoriales, sociedad civil, académicos y plataformas online. También observadores internacionales que, aunque no cumplen los criterios de elegibilidad, pueden aportar conocimiento especializado.
Es, sobre el papel, un ejercicio de gobernanza participativa. Cientos de actores con intereses divergentes intentando ponerse de acuerdo en cómo etiquetar la realidad.
Lo que se le pide a quien fabrica el cuchillo
El documento parte de una admisión de derrota técnica que, por honesta, casi resulta refrescante. Dice literalmente que no existe una bala de plata. Ninguna técnica de marcado es infalible por sí sola. Si dependes de una única barrera, alguien la romperá.
Por eso proponen lo que llaman un “enfoque multicapa”. Tres cerrojos en la misma puerta, con la esperanza de que si el ladrón fuerza uno, los otros aguanten.
Primer cerrojo: los metadatos
Información añadida al archivo que dice “esto lo hizo una IA” y especifica qué tipo de operación: si se generó de cero, si se editó, si se quitó un objeto del fondo. Todo firmado digitalmente para que no se pueda falsificar. Suena bien. El problema es que los metadatos se pueden borrar. Cualquiera con conocimientos básicos sabe hacerlo.
Segundo cerrojo: las marcas de agua imperceptibles
Aquí la cosa se pone técnicamente ambiciosa. Hablamos de patrones incrustados en los propios píxeles de una imagen o en las ondas de un audio. Invisibles para el ojo humano, detectables por algoritmos.
El documento exige que estas marcas sobrevivan a compresiones, cambios de formato y —aquí viene lo bueno— capturas de pantalla. Una foto de la foto. Por lo visto, técnicamente es posible, trabajando con patrones de iluminancia a microescala. Pero también es el inicio de una carrera armamentística: la IA que marca contra la IA que borra la marca. Ya hay herramientas especializadas en eliminar watermarks. Es el eterno juego del gato y el ratón, solo que ambos son gatos.
Tercer cerrojo: el registro o fingerprinting
Una red de seguridad: si todo lo demás falla, el proveedor debería poder consultar un registro interno y verificar si ese contenido salió de su sistema. Para imágenes usan algo llamado “hash perceptual”, que basándose en su contenido visual —no en su código binario exacto—, crea una huella dactilar de una imagen o contenido audiovisual.
Ahora que lo pienso, la metáfora de la huella dactilar es engañosa. Una huella dactilar no cambia si te lavas las manos. Un hash perceptual sí puede cambiar si modificas la imagen lo suficiente. Es más elástico que el hash criptográfico tradicional —ignora cambios menores como la compresión—, pero esa elasticidad es también su punto débil.
La paradoja de la estandarización
El código exige que las técnicas de marcado sean interoperables. Es decir, que el sistema de OpenAI pueda leer las marcas de Anthropic y viceversa. Tiene sentido: si cada empresa usa su propio sistema cerrado, verificar cualquier contenido se convierte en una pesadilla.
Estandarizar algo lo hace universal. Pero también lo hace vulnerable, porque si todos usan el mismo sistema, todos comparten la misma debilidad. Es como si todos los bancos del mundo usaran la misma cerradura: muy conveniente para los clientes, muy conveniente también para los ladrones. La solución propuesta —“verificadores agregados compartidos”— es básicamente un consorcio de empresas que comparten métodos de detección. Asumir que los actores maliciosos no van a infiltrar ese consorcio me parece aventurar más de la cuenta. Un cabo que ha quedado suelto.
Etiquetado del contenido generado por IA: el icono…
La segunda sección del código cambia completamente de registro. Ya no hablamos de técnicas invisibles para máquinas. Hablamos de iconos. Etiquetas. Cosas que podemos ver tu y yo.
El ámbito es específico: deepfakes de imagen, audio y vídeo, más los textos generados por IA que se publiquen para informar sobre asuntos de interés público.
Un poema generado por IA no necesita etiqueta. Un artículo que parece una noticia, sí.
La propuesta es sencilla: un icono común con las siglas “AI” (o “IA”, “KI” según el idioma) dentro de un círculo. Nada de diseños abstractos. Claridad ante todo. Pero el planteamiento va más allá de una simple pegatina.
No es binario, es una escala. El código propone una clasificación para no meterlo todo en el mismo saco. Diferencia entre “contenido totalmente generado por IA” (todo es sintético) y “contenido asistido por IA” (donde la IA solo retocó, limpió o modificó algo existente). No es lo mismo crear una imagen de cero que quitarle un objeto del fondo a una foto real. La diferencia importa. No es lo mismo un filtro de Instagram que hacer que un político diga algo que nunca dijo. Aunque a veces la línea entre ambas cosas es más fina de la cuenta, incluso últimamente se desvanece y desaparece.
El futuro es interactivo. La visión a largo plazo es un “icono interactivo de la UE”. La idea es que puedas hacer clic o pasar el ratón por encima y el icono te cuente qué pasó exactamente: ¿se cambió la cara? ¿se reescribió el texto? ¿qué partes son sintéticas?
Conectaría lo visible (la etiqueta) con lo invisible (los metadatos técnicos). Transparencia a un clic de distancia.
Las excepciones: donde vive la polémica
La excepción “no me hagas spoiler”
Las obras artísticas y creativas pueden etiquetarse de forma no intrusiva. Un aviso al principio, una nota en los créditos. Nadie quiere un icono parpadeando durante toda una película de ciencia ficción. El código lo permite: la etiqueta puede ir en los créditos o de una forma que “no obstaculice el disfrute de la obra”.
Esto, razonable.
La excepción “confía en mí, soy periodista”
Aquí la cosa se complica. Los textos generados por IA que informan sobre asuntos de interés público deben llevar etiqueta… salvo que haya un humano al volante. Si el contenido ha pasado por un “proceso de revisión humana o control editorial” y alguien asume la responsabilidad legal, no es obligatorio poner la etiqueta. El borrador exige que se documente quién es el editor responsable y qué proceso de revisión se siguió. La intención es proteger al periodismo legítimo que usa la IA como herramienta —para transcribir entrevistas, resumir informes, ese tipo de cosas—. Pero la línea entre “asistido por IA” y “escrito por YA” y “mirado por encima por un becario” puede ser muy fina.
¿Un blog de una sola persona que revisa su propio texto cuenta como control editorial? ¿Podría alguien crear una web, autonombrarse “editor jefe” y publicar contenido de IA sin etiquetar? El documento no lo aclara. Y cuando un documento no aclara algo así, deja abierta la puerta a que entre cualquier cosa.
El concepto de “interés público”
Si buscas en el glosario del borrador una definición de “asunto de interés público”, no la vas a encontrar. Tampoco en las secciones introductorias. El concepto aparece por todas partes —es el que determina si un texto generado por IA necesita etiqueta o no— pero nadie se atreve a definirlo.
Lo que sí hace el Código es dar pistas. Ejemplos. Pautas contextuales. Como quien te explica qué es el amor señalando parejas por la calle en lugar de abrir el diccionario.
En la Medida 1.1, la que establece la taxonomía común, hay una mención concreta. Los textos sobre cuestiones políticas o sociales entran en la categoría. Especialmente —dice el documento— el contenido “destinado a persuadir”. Libros, artículos, ensayos. Ese tipo de cosas. Pero más allá de ese ejemplo, el Código hace algo que los juristas conocemos bien: pasar la patata caliente y ponerla en manos de las empresas que despliegan los sistemas de IA. Son ellas las que deben establecer procesos internos para identificar cuándo sus publicaciones entran en la categoría y necesitan etiqueta.
¿Y qué criterios deben usar? El Código menciona dos: el público objetivo del contenido y las especificidades de los canales de distribución. Es decir, contexto. Depende. Pero estas preguntas ya me las hice cuando leí el artículo 50.4 del Reglamento de IA, que de ahí es de donde viene lo de inter “es público” en relación con la Transparencia; y que además es un concepto jurídico indeterminado que utiliza el Reglamento de IA para delimitar obligaciones en otros ámbitos. Vamos, que esto no es cosa de este borrador.
No sé, dejar que cada hijo de vecino decida internamente qué es interés público y qué no… No todas las empresas van a interpretar el concepto de la misma manera. Ahí lo dejo.
Lo que falta
Los propios autores lo reconocen. Piden feedback sobre: cómo marcar código de programación generado por IA, qué hacer con textos muy cortos (un tweet marcado pierde la mitad de sus caracteres), con la realidad virtual, asistentes de voz, IA agéntica…
Son preguntas sin respuesta fácil. Un asistente de voz que avisa constantemente de que es IA resulta insufrible. Pero uno que no avisa… bueno.
El calendario
Para quien quiera seguir el proceso:
-
23 de enero de 2026: cierra el plazo para comentarios a este primer borrador
-
Marzo de 2026: publicación del segundo borrador
-
Mayo-junio de 2026: versión definitiva
-
Agosto de 2026: entrada en vigor de las obligaciones del artículo 50
Seis meses para pulir un documento que intenta regular cómo distinguimos lo real de lo sintético. Este borrador es un esfuerzo técnico considerable. Estándares de interoperabilidad, herramientas de verificación gratuitas, clasificaciones comunes. Lo que hacía falta, en teoría. Si el sistema triunfa, Internet se llenará de pequeños iconos de “AI”. Nos acostumbraremos a verlos en memes, vídeos, artículos. Serán parte del paisaje.
¿empezaremos a desconfiar de todo lo que no lleve etiqueta?
