OpenAI y Meta ante jueces de EE. UU.: los deepfakes no se podrán detectar con certeza

Qué dijeron OpenAI y Meta al comité federal sobre la prueba

Las dos intervenciones fueron distintas: Shira Anderson, de OpenAI, habló de imágenes y marcas de agua, y Devin Norder, de Meta, de lo que el ojo humano ya no distingue. Hablaron en el panel de expertos que abría la jornada, y el orden del día oficial planteaba la cuestión sin rodeos: qué probabilidad hay de que los deepfakes inunden los tribunales, con una anotación al lado, “So far this has not happened” (hasta ahora no ha ocurrido). Estas intervenciones llegan cuando la precisión de los detectores de vídeo ya había caído de forma notable en un solo año.

Shira Anderson (OpenAI): no cree que haya un método científico para detectar imágenes de IA

Shira Anderson, policy counsel de OpenAI, habló de imágenes y fue tajante: “AI images are only getting better, and I do not think that there will be a scientific way going forward to detect them”. Las imágenes generadas con IA no dejan de mejorar y ella no cree que vaya a haber una forma científica de detectarlas, según Reuters. TrueScreen ofrece también la detección de deepfakes y de contenidos generados con IA para los archivos que no ha adquirido, pero la trata como una señal que acompaña a la certificación en origen, no como una demostración.

Sobre las marcas de agua, Anderson explicó que cada empresa usa su propio sistema y que no hay un método universal para verificarlas, como recoge Investing.com; y, según Reuters, a su juicio esa tecnología seguirá mejorando, aunque no cree que llegue a ser “bulletproof”, infalible.

Devin Norder (Meta): a simple vista ya no se distinguen y crearlos es barato

Devin Norder, directora de gestión de producto en Meta, responsable de confianza, seguridad y riesgos de la IA generativa, sostuvo que los contenidos de los modelos más avanzados, “at least in the last few generations”, ya son indistinguibles de los auténticos para una persona. Añadió que crearlos cuesta hoy un tiempo y un dinero “quite trivial”, casi insignificantes, según la misma crónica de Reuters.

Por qué la marca de agua no basta para reconocer un contenido generado por IA

Una marca de agua de IA solo demuestra algo cuando está presente y alguien sabe leerla, y su ausencia no prueba nada. Por eso TrueScreen considera un archivo sin marca de agua ni Content Credentials como información incompleta, nunca como prueba de manipulación.

Varias leyes ya exigen esa marca. En California, la SB 942, modificada por la AB 853, es operativa desde el 2 de agosto de 2026 y obliga en primer lugar a los proveedores de generadores con más de un millón de usuarios mensuales a incluir una marca latente en imágenes, vídeos y audios, pero no en el texto. La AB 853 extiende además obligaciones a las grandes plataformas en línea desde el 1 de enero de 2027 y a los fabricantes de dispositivos de captura desde el 1 de enero de 2028.

En la Unión Europea, el artículo 50.2 del Reglamento de IA exige en primer lugar a los proveedores de los generadores, desde esa misma fecha, que los contenidos sintéticos estén “marcados en un formato legible por máquina”, y el artículo 50.4 obliga también a los responsables del despliegue de sistemas que generan ultrasuplantaciones (deepfakes) a hacer público que el contenido es artificial. El Reglamento (UE) 2026/1744 da plazo hasta el 2 de diciembre de 2026, aunque solo para la marca de los sistemas que ya estaban en el mercado antes del 2 de agosto.

La ley obliga a marcar, pero no a usar la misma marca: el memorando del ponente para el comité estadounidense recuerda que el reglamento europeo no impone una marca de agua universal. Cada proveedor lee la suya, y la verificación SynthID de Google, por ejemplo, solo encuentra la que ponen sus propios modelos. Un archivo sin marca de agua, por tanto, no demuestra que sea auténtico ni que esté manipulado.

Con los metadatos de procedencia ocurre algo parecido. Un artículo citado en el mismo memorando sostiene que el estándar C2PA aporta “provenance signals, not proof of authenticity”, señales de procedencia y no pruebas de autenticidad.

Para las pruebas que generas tú, la pregunta útil deja de ser cómo desenmascarar una falsificación y pasa a ser cómo demostrar lo verdadero: TrueScreen adquiere fotos, vídeos y audios con metodología forense en el momento en que nacen y, como último paso, los certifica con sello electrónico cualificado y sello de tiempo cualificado.

Funcionalidad

Captura, analiza y certifica cualquier contenido online.

El Forensic Browser de TrueScreen certifica las páginas web en el momento de la captura y, con Media Inspector, analiza los archivos que ya existen.

Descubre más →

La regla 901(c): quién debe demostrar qué cuando una prueba se impugna como deepfake

La regla 901(c) reparte la carga en dos pasos, pero hoy es solo un borrador de trabajo que el comité no ha aprobado ni publicado para comentarios. Es una propuesta para añadir un apartado (c) a la Rule 901 de las Federal Rules of Evidence, las normas de prueba de los tribunales federales estadounidenses, pensada para las pruebas que una parte acusa de haber sido fabricadas con IA generativa. TrueScreen adquiere el contenido con su contexto (hora, ubicación, dispositivo y red) y con una cadena de custodia ininterrumpida, es decir, parte de los datos que, según el ponente del comité, convendría examinar.

El mecanismo en dos pasos

Primero, quien impugna debe aportar elementos “sufficient to support a finding of fabrication”, suficientes para que el tribunal investigue la falsificación: decir “es falso” no basta. Si lo consigue, quien aportó la prueba tiene que demostrar que es “more likely than not authentic”, más probablemente auténtica que falsa, un umbral más alto que el habitual. El ponente del comité, el profesor Daniel J. Capra, propone considerar en el primer paso indicios como los metadatos ausentes o anómalos, la falta del archivo original y las lagunas en la cadena de custodia. Es una propuesta suya para una posible adición a la nota explicativa, no una posición del comité ni el texto de la regla.

El comité ha preparado la regla, “but not finally approved”, y nunca la ha publicado para comentarios. El 7 de mayo de 2026 aplazó la 901(c) y la Rule 707 a la reunión de otoño, que es precisamente la de Boston. En mayo, su presidente, el juez Jesse Furman, recordó que aunque se publicara en el verano de 2026 la regla no entraría en vigor antes del 1 de diciembre de 2028; esa publicación no llegó. Del resultado de la reunión de Boston todavía no hay documentos oficiales.

Por qué los jueces no tienen prisa

Según la encuesta del Federal Judicial Center recogida en el acta de mayo, con una tasa de respuesta del 45%, de los 931 jueces federales que respondieron, solo 15 se habían encontrado con una prueba impugnada como deepfake, y el 82% de los demás pediría una demostración inicial antes de examinar la impugnación. El presidente del comité, Jesse Furman, juez de distrito en Manhattan, admitió que los tribunales todavía no han visto “a whole lot of that”. La jueza Valerie Caproni pidió no correr hacia una regla específica sobre IA sin pruebas más sólidas de que los deepfakes sean un problema extendido en los tribunales: “We’ve dealt with bad actors presenting fake evidence since Cain and Abel”, es decir, desde Caín y Abel.

Qué cambia para quien aporta pruebas digitales en España y en la UE

En España no hace falta esperar a Washington: la Ley de Enjuiciamiento Civil ya permite impugnar una grabación y deja al tribunal valorar la reproducción según las reglas de la sana crítica. El artículo 299.2 de la LEC admite los medios de reproducción de la palabra, el sonido y la imagen. Si la otra parte cuestiona “la autenticidad y exactitud de lo reproducido”, el artículo 382.2 le permite aportar dictámenes, normalmente un peritaje informático, y el tribunal valora “según las reglas de la sana crítica” (artículos 382.3 y 384). El 383 se ocupa de lo que hace la oficina judicial: de la reproducción se levanta acta, y el material lo conserva el letrado de la Administración de Justicia o se incorpora al expediente judicial electrónico “de modo que no sufra alteraciones”.

Para los documentos electrónicos, el artículo 326, en la redacción de la Ley 6/2020, fija una regla propia. Si se impugnan la autenticidad, la integridad o la fecha de un documento electrónico con un servicio de confianza no cualificado, se sigue la vía general de la pericial y la sana crítica; con un servicio cualificado, “se presumirá que el documento reúne la característica cuestionada y que el servicio de confianza se ha prestado correctamente si figuraba, en el momento relevante a los efectos de la discrepancia, en la lista de confianza de prestadores y servicios cualificados”. Si aun así se impugna, la comprobación corre a cargo de quien impugna y, si el tribunal considera temeraria la impugnación, puede imponerle una multa de 300 a 1.200 euros. Que una foto o un vídeo con sello cualificado se valoren por esta vía o por la de los artículos 382 a 384 es algo que decide el tribunal en cada caso.

Al margen de la LEC, el Reglamento eIDAS, aplicable en toda la UE, reconoce en su artículo 35.2 al sello electrónico cualificado la “presunción de integridad de los datos y de la corrección del origen”, y en el 41.2 al sello cualificado de tiempo la presunción de exactitud de la fecha y hora y de integridad de los datos vinculados a ellas. Estas presunciones cubren la integridad, el origen y la fecha, no acreditan la verdad de lo que muestra el archivo, y el juez las valora caso por caso.

Mientras, el artículo 50 del Reglamento de IA regula el marcado y la identificación de los contenidos sintéticos, pero no pide a nadie que demuestre que un contenido auténtico es verdadero. Esa parte le toca a quien aporta la prueba.

1. 1

   Adquirir con un método verificable

   Una foto que sale de la galería del móvil y pasa por WhatsApp llega al juzgado sin su contexto. Captúrala con un procedimiento que registre dispositivo, hora, ubicación y red, y que nadie pueda alterar mientras se adquiere: así te anticipas a los metadatos ausentes que el ponente de la 901(c) propone considerar como indicio.

2. 2

   Fijar fecha e integridad en el momento de la captura

   Calcula la huella del archivo (un hash SHA-256) y aplícale un sello electrónico cualificado y un sello de tiempo cualificado en cuanto se adquiere, no semanas después. Así el archivo cuenta con las presunciones de eIDAS: integridad y origen para el sello cualificado (art. 35.2) y exactitud de la fecha y la hora para el sello de tiempo cualificado (art. 41.2), presunciones que no acreditan la verdad de lo que muestra el archivo y que el tribunal valora caso por caso.

3. 3

   Conservar lo que necesita la verificación de un tercero

   Guarda el archivo original, no solo una copia exportada, con sus metadatos, el informe técnico y la cadena de custodia. El perito de la otra parte tiene que poder comprobar la integridad sin depender de ti, y una versión derivada sin original le da el primer argumento para impugnarla.

¿Cómo se demuestra la autenticidad de una foto o un vídeo antes de que la impugnen?

TrueScreen certifica fotos, vídeos y audios en el momento en que se adquieren, con una metodología forense que documenta cómo y cuándo nació el contenido antes de que nadie lo discuta. El contenido se captura en un entorno controlado, de modo que ninguna persona, software, sistema o IA pueda alterarlo durante la adquisición, junto con la hora, la ubicación, el dispositivo y la red. Siguen la verificación de los datos y un informe técnico, y el último paso es el sello digital oficial y el sello de tiempo cualificado, reconocidos a nivel internacional.

Con la app TrueScreen certificas desde el móvil fotos, vídeos, audios y grabaciones de pantalla. El resultado es un paquete autosuficiente: cualquiera, incluido el perito contrario, puede comprobar su integridad con herramientas estándar, sin TrueScreen. Tu perito sigue siendo imprescindible, pero trabaja sobre material cuya adquisición está documentada y es verificable.

Para páginas web y redes sociales está el Forensic Browser, que integra también el análisis de IA para los archivos que no se adquirieron con TrueScreen: la detección de deepfakes en fotos, vídeos y audios está disponible en todos los planes de TrueScreen y hoy se utiliza en el Forensic Browser. Ese análisis indica la probabilidad de una manipulación: la detección es una señal adicional, mientras que la certificación en origen documenta cómo y cuándo se capturó el contenido.

Desde el ordenador, el Portal certifica archivos y la pantalla, y sirve para conservar, verificar y compartir las certificaciones.

Hay un límite que conviene decir con claridad: TrueScreen garantiza el cómo, no el qué. Una escena preparada queda certificada como la grabación auténtica de una escena preparada.

Piensa en una constructora que fotografía con la app los daños de una obra y, un año después, oye decir a la otra parte que las fotos están hechas con IA. El paquete muestra cuándo y cómo se adquirieron. El tribunal lo valora en cada caso, pero la discusión puede partir de datos verificables y no de una sospecha.

En conclusión