Límites del Reglamento de IA: qué no puede garantizar la transparencia

Los límites del Reglamento de IA no están en lo que la norma prescribe, sino en lo que deja fuera de su perímetro. Desde el 2 de agosto de 2026 se aplican las obligaciones de transparencia del artículo 50 del Reglamento (UE) 2024/1689, y alrededor de esa fecha se ha formado una expectativa muy extendida: que por fin los contenidos generados por IA vayan a ser reconocibles.

Esa expectativa está mal fundada. El Reglamento eleva la higiene informativa del mercado legítimo: obliga a declarar lo que hace a quien ya trabaja a la vista de todos. No es una defensa frente al uso doloso, ni se escribió para serlo. Quien tiene que probar que un contenido es auténtico no puede apoyarse en una etiqueta puesta aguas abajo: la procedencia se certifica en el momento en que el dato nace.

La cuestión se juega en tres planos que conviene mantener separados. El jurídico se ocupa de a quién obliga la norma y a quién no. El técnico, de cuánto sobrevive un marcador una vez que el contenido circula. El operativo, de qué debería hacer una organización que necesita pruebas. En ese orden.

Qué cambia de verdad el 2 de agosto de 2026

Lo que empieza a aplicarse es un conjunto de deberes de información sobre quien construye y sobre quien usa sistemas capaces de generar o manipular contenido. No llega ninguna prohibición nueva. El Reglamento ordena los sistemas por niveles de riesgo, y la transparencia sobre medios sintéticos se sitúa en el riesgo limitado, donde la ley solo pide que la gente sepa con qué está tratando. Muchas organizaciones leen la fecha como el final de la incertidumbre sobre el origen de los contenidos. Se van a llevar una decepción.

Indicator Media analizó en octubre de 2025 un total de 516 publicaciones generadas o editadas con IA en cinco grandes plataformas: solo 169, en torno a un tercio, llevaban etiqueta visible. Pinterest fue la mejor, cerca del 55 por ciento, mientras que Instagram, LinkedIn, TikTok y YouTube quedaron bastante por debajo. La cifra mide algo preciso: qué parte del ecosistema informativo está ya cubierta por el etiquetado que las plataformas aplican de forma voluntaria, que es el mecanismo sobre el que descansa buena parte de la eficacia práctica del Reglamento. Los límites del Reglamento de IA se ordenan en tres planos. El jurídico determina quién queda dentro de las obligaciones y quién se queda fuera. El técnico describe cuánto aguanta un marcador después de que el contenido se recomprima, se recorte y se recomparta. El operativo señala qué necesita una organización cuando tiene que presentar una prueba electrónica ante un juez, una aseguradora o un supervisor.

Qué obliga en realidad el artículo 50 y a quién

El artículo 50 reparte deberes distintos entre sujetos distintos. El proveedor de un sistema pensado para interactuar con personas debe hacer que estas sepan que están tratando con una máquina, salvo que resulte evidente. El proveedor de un sistema que genera contenidos sintéticos debe garantizar que la salida quede marcada en un formato legible por máquina y sea detectable como generada artificialmente. Quien utiliza reconocimiento de emociones o categorización biométrica tiene que informar a las personas expuestas. Y el responsable del despliegue profesional que publica un deepfake debe declarar que el contenido ha sido generado o manipulado artificialmente.

Las excepciones son amplias y, en su mayoría, razonables. Cuando el contenido es manifiestamente artístico, creativo, satírico o de ficción, el deber se reduce a revelar que existe tal contenido sin dificultar el disfrute de la obra. Para los textos publicados sobre asuntos de interés público, decae si hay revisión humana y responsabilidad editorial. Los sistemas autorizados por ley para detectar, prevenir, investigar o enjuiciar delitos quedan fuera del esquema.

Un detalle dice más que muchos comentarios. La Comisión Europea ha preparado iconos de etiquetado cuyo uso es facultativo, junto con un código de buenas prácticas de carácter voluntario. La obligación vincula. Las herramientas para cumplirla, no.

La obligación de marcado empieza más tarde de lo que sugiere el calendario

El deber técnicamente más relevante no arranca a la vez que los demás. El paquete Digital Omnibus, acordado políticamente el 6 de mayo de 2026 y confirmado por el Consejo el 13 de mayo, concede cuatro meses de gracia a los sistemas introducidos en el mercado antes del 2 de agosto de 2026: para ese parque instalado, el marcado del artículo 50, apartado 2 se aplica desde el 2 de diciembre de 2026. La adopción formal todavía no ha concluido.

Las demás obligaciones de transparencia, incluida la declaración de deepfakes que recae sobre los responsables del despliegue, siguen fijadas en el 2 de agosto. El mismo día en que la norma resulta aplicable, la parte que más pesa desde el punto de vista técnico ya está aplazada para los sistemas que están en uso.

El perímetro se detiene antes de quien pretende defraudar

El Reglamento no alcanza a las personas físicas que usan sistemas de IA en una actividad puramente personal de carácter no profesional. Quien monta un contenido falso a título individual, para desacreditar a una expareja o fabricar un documento conveniente en una disputa, no debe declaración alguna. Algunos Estados miembros han cubierto parte del hueco con normas penales nacionales, como la Ley italiana 132/2025. El derecho penal, eso sí, llega cuando el contenido ya ha circulado.

El artículo 2, apartado 10 del Reglamento (UE) 2024/1689 excluye de sus obligaciones a la persona física que utiliza sistemas de IA en el ejercicio de una actividad puramente personal de carácter no profesional. La consecuencia es directa: quien produce un contenido falso en el ámbito privado no debe nada en virtud del artículo 50, apartado 4. El cuadro, sin embargo, es menos limpio que eso, y conviene decirlo. La obligación de marcado del artículo 50, apartado 2 recae sobre el proveedor del sistema, no sobre quien lo utiliza, de modo que el marcador automático debería en principio sobrevivir en la salida incluso cuando el contenido nace de una sesión privada. Que el particular no esté obligado es solo la mitad del problema. Ese marcador residual puede no haberse aplicado nunca, puede eliminarse con herramientas de acceso público y puede colocarse sobre un contenido que no lo merece. Aquí el argumento pasa del plano jurídico al técnico.

Los modelos ejecutados en local no nacen marcados

Ninguna obligación de marcado puede alcanzar una categoría de contenido: la que sale de modelos open-weight descargados y ejecutados en la propia máquina. Quien trabaja sin conexión no pasa por ningún servicio que pudiera aplicar un marcador y no deja rastro en un tercero. Dado el nivel que han alcanzado estos modelos, la observación no es académica.

Cómo funciona un marcador y por qué se degrada

Marcar contenidos sintéticos se puede hacer de dos maneras, y ninguna aguanta bien la circulación real. La diferencia entre ambas explica por qué.

El watermarking estadístico y los metadatos de procedencia declarativos responden a preguntas distintas. El primero esconde una señal dentro del propio contenido, de forma que un detector entrenado pueda recuperarla sin información externa: es el enfoque de SynthID. Los segundos adjuntan un manifiesto firmado que declara autor, herramienta y ediciones posteriores, que es el enfoque de C2PA y Content Credentials. La diferencia práctica está en cómo se rompen. Una marca de agua estadística se degrada cuando el contenido se recomprime, se recorta, se convierte a otro formato o se reescala, porque cada operación reescribe los píxeles donde estaba grabada. Los metadatos declarativos están aún más expuestos: se desprenden en el primer salto que no los conserve. El screenshot es el caso límite y el más habitual, porque produce un archivo nuevo sin manifiesto y, por lo general, sin nada de la señal original. De ahí que la captura de pantalla como prueba plantee problemas propios.

El marcador se puede eliminar

Quitar un marcador no exige ninguna habilidad rara. La investigación publicada, incluido el trabajo del ICML que se comenta más abajo, demuestra ataques de scrubbing que borran la marca sin degradar el contenido de forma visible. Y la norma lo sabe. El artículo 50, apartado 2 pide soluciones "effective, interoperable, robust and reliable" y añade acto seguido "as far as this is technically feasible", atendiendo a los costes y al estado de la técnica reconocido. Es una cláusula honesta a su manera: el legislador admite el límite técnico dentro del mismo texto que impone el deber. También es la cláusula a la que se agarrará un proveedor el día en que su marca de agua no aguante.

El marcador se puede falsificar

El riesgo invertido está más subestimado y es más grave: no se trata de quitar la marca al contenido falso, sino de poner una marca creíble para atribuirlo a un origen que no es el suyo. Eso es spoofing, y significa autenticar lo falso en lugar de desenmascararlo.

Esa inversión cambia el sentido de toda la arquitectura de marcado. Eliminar un marcador borra una señal de origen sintético; falsificarlo fabrica una señal de origen auténtico, un fraude con mucho más recorrido. Si un marcador se puede imitar, su presencia no prueba nada, igual que su ausencia no prueba nada. El trabajo de Jovanović, Nikolić y otros presentado en ICML 2024, Watermark Stealing in Large Language Models, pone cifras al problema para esquemas de watermarking del estado del arte en modelos de lenguaje: los autores demuestran ataques de spoofing y de scrubbing al alcance de menos de 50 dólares, con tasas medias de éxito superiores al 80 por ciento. El dato traslada la discusión de la teoría a la economía. Una salvaguarda que se derriba por menos de cincuenta dólares no es barrera para nadie con un motivo serio, y es el motivo serio lo que una organización tiene que resistir.

La falsificación más frecuente no pasa por la IA

La manipulación más habitual no genera nada: edita metadatos. Los metadatos EXIF de una fotografía, fecha y hora, geolocalización, dispositivo, se alteran con herramientas gratuitas. Una fotografía auténtica recontextualizada con otra fecha es una prueba falsa que ningún detector de IA va a señalar, porque no hay nada generado que encontrar. La foto de un daño real, tomada tres semanas después del siniestro y presentada con la fecha del siniestro, es exactamente eso. El Reglamento no regula ese plano, y nunca pretendió hacerlo.

Hay un factor práctico que lo agrava. Las plataformas sociales eliminan los metadatos al subir el archivo, por privacidad y por peso. El contenido que circula ya ha perdido su información de procedencia, así que quien intenta autenticar una imagen trabaja sobre un archivo mudo.

Las sanciones alcanzan a quien ya cumple

Las sanciones del AI Act por incumplir las obligaciones de transparencia llegan hasta 15 millones de euros o el 3 por ciento del volumen de negocios anual mundial total, la cifra que resulte más alta. Son cantidades serias, y caen sobre sujetos que ya tenían intención de cumplir: empresas identificables, con domicilio, cuentas anuales y una reputación que defender.

El actor doloso no está en ese conjunto. Anónimo, con frecuencia fuera de la Unión y sin nada que perder. Tampoco es un problema solo europeo: China exige el etiquetado de los contenidos generados por IA desde el 1 de septiembre de 2025 y se enfrenta a la misma asimetría.

Cuando la duda se convierte en coartada

Hay un efecto secundario que tiene nombre propio: el liar's dividend. Cuando el público asume que cualquier contenido puede estar generado, quien aparece grabado haciendo algo real puede negarlo alegando que el vídeo es sintético. A la desinformación le basta con que la sospecha resulte plausible.

Una obligación de etiquetado, por sí sola, empuja en esa dirección: enseña a desconfiar sin ofrecer una forma de confiar. Este es el más sutil de los límites AI Act, porque desplaza el problema de reconocer lo falso a probar lo verdadero, y son oficios distintos. Por eso etiquetar el contenido generado por IA resuelve menos de lo que parece.

Qué puede hacer una organización más allá del cumplimiento formal

El perímetro del Reglamento no se puede cambiar. El procedimiento interno, sí. El primer movimiento es separar dos flujos que suelen tratarse como uno: los contenidos que la organización produce y los que recibe. Necesitan controles distintos.

Para lo que se produce dentro, el camino es documentar la procedencia en origen en lugar de reconstruirla más tarde. Conocer qué deben hacer las empresas desde agosto de 2026 marca el suelo, no el techo.

Para lo que se recibe, las precauciones se vuelven más prácticas. No confíes en un detector probabilístico como control único, porque devuelve verosimilitudes y no certezas. Conserva el original y no la copia recompartida, que ya ha perdido sus metadatos. Y define de antemano qué prueba haría falta en un litigio. La Ley 1/2000 de Enjuiciamiento Civil admite los instrumentos de archivo de datos y los medios de reproducción de imagen y sonido como medio de prueba electrónica en el proceso civil, y cuando la parte contraria impugna la autenticidad de un documento electrónico remite a la Ley 6/2020 de servicios electrónicos de confianza, apoyada a su vez en el Reglamento eIDAS 910/2014. Es decir: en cuanto alguien impugna, lo que decide no es la etiqueta sino la trazabilidad. Las organizaciones que necesitan probar la autenticidad de lo que recopilan adoptan herramientas de certificación en origen como TrueScreen, que produce un informe forense con sello de tiempo certificado y cadena de custodia documentada.

Qué distingue la detección aguas abajo de la certificación en origen

TrueScreen es la Data Authenticity Platform que certifica el dato en el instante de su creación, aplicando una metodología forense que documenta origen, integridad y ubicación temporal. La distancia con el análisis posterior es una diferencia de naturaleza, no de grado.

La detección aguas abajo y la certificación en origen producen dos objetos jurídicos distintos. La detección devuelve un juicio probabilístico sobre un archivo cuya historia nadie conoce, y ese juicio pierde valor mes a mes, porque cada nueva generación de modelos erosiona la precisión de los detectores entrenados con la anterior. La certificación en origen documenta el momento de la captura: qué dispositivo, qué instante, qué contenido, con un hash que hace detectable cualquier alteración posterior. TrueScreen trabaja en ese segundo plano. No es una entidad certificadora ni emite certificados propios: integra el sello electrónico y el sello de tiempo cualificado emitidos por QTSP terceros dentro de un proceso de adquisición forense y devuelve una prueba digital que documenta la cadena de custodia. El resultado no dice si un contenido es sintético. Dice qué se adquirió, cuándo y en qué condiciones.