Deepfakes: qué son, cómo se hacen, qué fraudes permiten y por qué la detección por sí sola está perdiendo la guerra

En enero de 2024, un empleado del departamento financiero de la oficina de Hong Kong de la ingeniería británica Arup se unió a una videoconferencia con el director financiero del grupo, con sede en el Reino Unido, y varios compañeros. Vio sus caras. Escuchó sus voces. Los reconoció. Siguiendo las instrucciones recibidas durante la llamada, realizó quince transferencias por un total de 25,6 millones de dólares a cinco cuentas bancarias distintas. Semanas después, al contrastarlo con la sede de Londres, descubrió que todas las personas de aquella llamada habían sido un deepfake (CNN, mayo de 2024; análisis del World Economic Forum).

El caso Arup se convirtió en referencia de manual de ciberseguridad porque cristalizó lo que la mayoría de los consejos de administración todavía subestima: una sola videoconferencia, aceptada sin cuestionarla, puede costar veinticinco millones de dólares. Y Arup no es un caso aislado. Es una instantánea de un patrón que hoy tiene escala industrial. El gobierno del Reino Unido estima que el contenido deepfake compartido en 2025 alcanzó los ocho millones de piezas, frente a las 500.000 de 2023, un aumento del 1.500% en dos años. Sumsub registró un salto del 700% en el fraude con deepfakes entre el primer trimestre de 2024 y el primero de 2025 (Sumsub Identity Fraud Report 2025-2026). Onfido detecta un ataque con deepfake cada cinco minutos y un incremento de 31 veces interanual (Onfido / Entrust 2024). Pindrop registró un aumento del 1.300% en los intentos de fraude con deepfakes en 2024, pasando de uno al mes a siete al día en una sola empresa monitorizada (Pindrop Voice Intelligence Report 2025).

Las pérdidas globales por fraude con deepfakes superaron los 900 millones de dólares solo en 2025. Deloitte proyecta 40.000 millones de dólares en pérdidas por fraude con IA generativa en Estados Unidos para 2027 (Deloitte).

Ante este escenario, el mundo ha respondido sobre todo con un reflejo: construir sistemas capaces de decir si un contenido es falso. Es la vía de la detección de deepfakes. Y es también una vía que, por sí sola, está perdiendo. Los detectores más avanzados alcanzan un 94-96% de precisión en condiciones de laboratorio, pero se desploman por debajo del 50% cuando se prueban contra deepfakes producidos con herramientas con las que no se entrenaron (benchmark Deepfake-Eval-2024, arXiv). Un metaanálisis de 56 estudios académicos concluyó que las personas identifican correctamente los deepfakes el 55,5% de las veces, algo estadísticamente indistinguible de lanzar una moneda al aire (ScienceDirect, 2024).

Esta guía explica qué son los deepfakes, de dónde vienen, cómo se producen en 2026, qué fraude generan, qué exigen las nuevas normativas europea, estadounidense y china, y por qué la única estrategia que resiste el paso del tiempo no es perseguir los deepfakes con detectores más inteligentes. Es certificar la autenticidad en el momento en que se crea el dato, antes de que la manipulación sea posible.

En resumen

• Qué son. Contenidos de audio, vídeo e imagen generados o alterados por IA que reproducen de forma realista a personas reales (Wikipedia).
• A qué velocidad crecen. Ocho millones de deepfakes compartidos en 2025 según estimaciones del gobierno del Reino Unido, 16 veces el volumen de 2023. Fraude con deepfakes +700% a escala global del primer trimestre de 2024 al primero de 2025 (Sumsub).
• Cuánto cuestan. 900 millones de dólares en pérdidas globales en 2025; Deloitte proyecta 40.000 millones en pérdidas por fraude con IA generativa en EE. UU. para 2027 (Deloitte).
• Por qué la detección no basta. Precisión por debajo del 50% en condiciones reales; los ataques adversarios neutralizan a los detectores más avanzados; cada nuevo modelo generativo envejece al instante los sistemas de reconocimiento existentes.
• La única defensa escalable. Certificar el contenido en origen, dentro de dispositivos verificados, con metodología forense y prueba admisible en juicio. La lógica es la certificación de autenticidad, no el reconocimiento de la falsedad.

Qué son los deepfakes: definición, tecnología, ejemplos

Un deepfake es un contenido sintético (imagen, vídeo o audio) generado o manipulado por inteligencia artificial para hacer que una persona real parezca decir o hacer algo que nunca dijo ni hizo. El término, acuñado en 2017 por un usuario de Reddit, combina "deep learning" (la técnica de IA empleada) y "fake" (la naturaleza manipulada del resultado). Los deepfakes pueden generarse íntegramente con IA desde cero (síntesis) o modificar grabaciones existentes (face swap, clonación de voz, alteración de la sincronización labial), producidos mediante redes generativas adversarias (GAN), modelos de difusión y arquitecturas basadas en transformers. En 2026 el fenómeno ha alcanzado escala industrial: Sumsub registró un aumento interanual del 700% en los intentos de fraude con deepfakes; Onfido detecta un ataque con deepfake cada cinco minutos; Pindrop documenta un incremento del 1.300% en los deepfakes de voz. Deloitte proyecta 40.000 millones de dólares en pérdidas por fraude con IA generativa en Estados Unidos para 2027, mientras que el Reglamento (UE) de IA (artículo 50) y la ley estadounidense TAKE IT DOWN Act de 2025 introducen regímenes obligatorios de divulgación y retirada.

El término nació a finales de 2017 en Reddit, donde un usuario con ese mismo alias difundió vídeos con caras intercambiadas de famosas sobre cuerpos de actrices de cine para adultos y a Nicolas Cage insertado en películas en las que nunca apareció. Fue la primera señal de una tecnología que, en nueve años, se ha convertido en una herramienta de consumo masivo.

El Reglamento europeo de IA, en sus definiciones, describe los deepfakes como "contenido de imagen, audio o vídeo generado o manipulado por IA que se asemeja a personas, objetos, lugares u otras entidades o eventos existentes y que puede parecer falsamente auténtico o veraz a una persona" (Reglamento de IA, artículo 3(60)). La Oficina de Rendición de Cuentas del Gobierno de EE. UU. (GAO) emplea una formulación más amplia: "vídeos, fotos o grabaciones de audio que parecen reales pero han sido manipulados con IA" (GAO, 2020).

Lo que separa un deepfake de un fotomontaje o una manipulación de vídeo tradicional es el nivel de realismo. Las técnicas anteriores a la IA exigían edición manual fotograma a fotograma, dejaban artefactos visibles e imponían costes y plazos prohibitivos. Un deepfake moderno lo genera automáticamente un modelo estadístico que ha aprendido cómo se comportan las caras, los labios, los ojos y las voces reales, y produce en minutos un contenido que hace cinco años habría requerido semanas de trabajo de un equipo de efectos visuales. El deepfake de BuzzFeed de 2018, que hacía que Barack Obama dijera cosas que nunca dijo, necesitó 56 horas de renderizado automatizado (BuzzFeed News). Hoy, un resultado equiparable se logra en menos de una hora con software gratuito, según el World Economic Forum (WEF, 2025).

De ahí se derivan dos consecuencias prácticas. Primera: los deepfakes ya no son una curiosidad técnica para nichos informados. Son una herramienta de consumo masivo, al alcance de cualquiera con un móvil y una conexión a internet. Segunda: la velocidad a la que mejora la tecnología supera estructuralmente la velocidad a la que pueden actualizarse los sistemas de detección. Volveremos sobre este punto.

Historia y evolución: diez hitos en nueve años

Para entender dónde estamos, conviene reconstruir cómo hemos llegado hasta aquí. La trayectoria del deepfake es una secuencia de umbrales de accesibilidad: cada hito redujo el coste, acortó el tiempo, aumentó el realismo.

2017. Nacimiento del término. Aparece el subreddit r/deepfakes de Reddit. El usuario homónimo distribuye scripts de Python que combinan dos redes neuronales para intercambiar la cara de una persona con la de otra. Reddit cierra el foro en febrero de 2018, pero el código ya está en GitHub y se propaga de forma viral.

2018. BuzzFeed, Obama, la prueba de concepto mediática. El 17 de abril de 2018, BuzzFeed publica un vídeo de un minuto y doce segundos en el que Obama, con la voz de Jordan Peele y editado por Jared Sosa, dice cosas embarazosas ("Killmonger tenía razón", "stay woke"). Es el primer deepfake que entra en el ciclo informativo global como advertencia y, paradójicamente, como prueba de la madurez de la técnica.

2019. La app Zao y la democratización china. El 30 de agosto de 2019, China lanza Zao, una aplicación desarrollada por una filial de Momo. Permite intercambiar la cara de un actor en escenas de películas famosas con la propia foto del usuario. Bastan una sola imagen y ocho segundos de procesamiento. En pocos días se convierte en la app más descargada para iPhone y Android en China (CNN). WeChat bloquea el uso compartido de vídeos. Es la primera señal del deepfake de nivel de consumo.

2020-2021. Tom Cruise en TikTok. La cuenta @deeptomcruise publica los primeros vídeos deepfake de Tom Cruise creados por el artista belga de VFX Chris Ume junto al doble Miles Fisher. Los tres primeros vídeos acumulan más de 11 millones de visualizaciones. La calidad es lo bastante alta como para que muchos usuarios no puedan distinguirlos. El experimento se convierte en Metaphysic, una de las primeras startups comerciales del sector (Fortune).

2022. El deepfake de Zelenski y la guerra en Ucrania. En marzo de 2022, dos semanas después de la invasión rusa, se difunde un vídeo manipulado en el que Volodímir Zelenski anuncia la rendición, tras el hackeo del sitio web de Ucrania 24, y se propaga por las redes sociales. Es el primer deepfake usado de forma intencionada en un conflicto armado (NPR). Zelenski lo desmiente en cuestión de horas; Meta, YouTube y Twitter lo retiran. Pero el precedente queda sentado.

2023. El papa Francisco con plumífero y la primera viralidad masiva. El 25 de marzo de 2023, un obrero de la construcción de Chicago de 31 años, Pablo Xavier, publica en Reddit r/midjourney una imagen del papa Francisco con un plumífero blanco de Balenciaga. Generada con Midjourney v5, lanzado diez días antes. Se convierte en el primer caso de desinformación visual a gran escala basada en IA generativa (CBS News). En septiembre de ese mismo año, en Eslovaquia, un deepfake de audio del líder opositor Michal Šimečka hablando de fraude electoral y de compra de votos entre la población romaní circula por Telegram dos días antes de las elecciones, durante el "periodo de silencio" oficial. Šimečka lideraba las encuestas; gana Robert Fico (Harvard Kennedy School). Son las primeras elecciones en las que un deepfake se considera un factor estructural.

2024. El año del fraude financiero y el escándalo de Taylor Swift. El 24 de enero de 2024, imágenes explícitas de Taylor Swift generadas con IA acumulan 45 millones de visualizaciones en 17 horas en X antes de su retirada (NBC News). Dos días antes de las primarias demócratas de New Hampshire, una llamada automatizada con la voz clonada de Joe Biden pide a los votantes que no participen. El consultor político Steve Kramer recibe después una multa de 6 millones de dólares de la FCC (FCC). El mismo año: el caso Arup y el intento de deepfake del consejero delegado de Ferrari, evitado por poco gracias a una pregunta de seguridad.

2025. Saturación y legislación. El gobierno del Reino Unido estima ocho millones de deepfakes compartidos solo en 2025. Sumsub informa de un +700% de fraude con deepfakes en el primer trimestre frente al mismo periodo de 2024. Las pérdidas globales superan los 900 millones de dólares. El Congreso de EE. UU. aprueba la TAKE IT DOWN Act, firmada por Donald Trump el 19 de mayo de 2025, que obliga a las plataformas a retirar imágenes íntimas no consentidas en un plazo de 48 horas (Wikipedia). En la Unión Europea se consolida el régimen de transparencia del Reglamento de IA, mientras que los Estados miembros, España incluida, afrontan los deepfakes a través de su marco penal general (estafa, falsedad documental, delitos contra la intimidad y la propia imagen).

2026. El primer año regulado. El 2 de agosto de 2026 entra en vigor el artículo 50(4) del Reglamento europeo de IA, que impone la divulgación a los operadores de sistemas que producen o manipulan deepfakes. Las autoridades europeas de ciberseguridad cierran 2025 con un fuerte aumento de las investigaciones por cibercrimen y de los ingresos ilícitos ligados al fraude con deepfakes (datos de referencia europeos). En 2026, distintas figuras políticas europeas denuncian públicamente la circulación de imágenes de sí mismas generadas con IA, lo que confirma que la dimensión política del fenómeno es ya estable, no episódica.

En nueve años, los deepfakes han pasado de experimento de nicho a herramienta de fraude, propaganda y vulneración de derechos a escala industrial. La pregunta ya no es si la tecnología será más accesible. Es a qué nos enfrentamos hoy.

La tecnología que hay debajo

Los deepfakes no son una única tecnología. Son una familia de técnicas que comparten un principio común: usar redes neuronales profundas para aprender la estructura estadística de las caras, las voces y los movimientos humanos, y generar después contenido nuevo coherente con esa estructura. Entender las cuatro arquitecturas principales aclara por qué la detección es tan difícil.

Redes generativas adversarias (GAN). Las redes generativas adversarias son la arquitectura en la que nacieron los deepfakes en 2017. Constan de dos redes neuronales que compiten: un generador que produce imágenes falsas y un discriminador que intenta distinguirlas de las reales. Ambas redes se entrenan una contra la otra: el generador mejora cada vez que el discriminador lo pilla, hasta que el discriminador ya no es capaz de distinguir. En ese punto, el generador ha aprendido a producir contenido indistinguible de la realidad. Es la misma lógica que describe el problema estructural de la detección: cada nuevo detector que publicamos se convierte, en la práctica, en el siguiente discriminador contra el que se entrenará el siguiente generador.

Autoencoders y face-swap. Un autoencoder es una red que aprende a comprimir una imagen en una representación interna reducida y luego a descomprimirla. Para intercambiar la cara entre dos personas se entrenan dos autoencoders con un codificador compartido y decodificadores separados. El codificador aprende una representación abstracta de las expresiones faciales; cada decodificador aprende a traducir esa representación a la cara de una persona concreta. En el momento de la generación, se codifica la cara de la persona A y se decodifica con el decodificador de la persona B: el resultado es la cara de B haciendo las expresiones de A. Es la técnica que hay detrás de la mayoría de las apps de face-swap de consumo (Reface, FaceMagic, Zao).

Modelos de difusión. Son los modelos que impulsaron la explosión de 2022-2024. Funcionan aprendiendo a invertir un proceso de ruido: se parte de una imagen real, se le añade ruido aleatorio de forma progresiva hasta reducirla a puro ruido, y se entrena una red para revertir el proceso. Una vez entrenada, la red puede generar una imagen coherente partiendo de ruido puro, guiada por una instrucción de texto. Es la arquitectura que hay detrás de Stable Diffusion, Midjourney, DALL-E 3 y de generadores de vídeo como Sora 2 y Runway Gen-3. La diferencia con las GAN es que producen imágenes más estables, controlables mediante instrucciones de texto y menos propensas a los artefactos del face-swap.

Clonación de voz y modelos de texto a voz. La síntesis de voz moderna emplea modelos neuronales que aprenden la "voz" de una persona a partir de su timbre, sus inflexiones y sus patrones de pausa. ElevenLabs, considerada el estado del arte comercial, afirma generar un clon funcional a partir de tres segundos de audio de muestra, aunque la calidad profesional requiere al menos treinta segundos (Ayuda de ElevenLabs). Una vez clonada la voz, el modelo puede pronunciar cualquier texto con la voz de la persona objetivo. Es la tecnología que hay detrás de las estafas de familiar impostor, de las estafas del falso consejero delegado y de las llamadas automatizadas políticas.

Sincronización labial y talking heads. Son modelos especializados en sincronizar los movimientos de los labios con un audio dado. Wav2Lip y sus derivados pueden tomar cualquier vídeo de una persona hablando y hacerle decir lo que sea, manteniendo una sincronización labial realista. Es la técnica más usada en estafas con vídeos manipulados de personajes públicos.

A estas, técnicas más recientes añaden: deepfakes de cuerpo entero (HeyGen, Synthesia), que generan avatares enteros que gesticulan, caminan y hablan; y deepfakes en tiempo real que operan durante videollamadas en directo, intercambiando caras en el flujo. iProov registró un aumento del 2.665% en los ataques mediante "cámaras virtuales nativas" (cámaras virtuales que inyectan un deepfake en lugar del vídeo real) en su Threat Intelligence Report de 2025 (iProov).

Esta diversidad de técnicas tiene una consecuencia importante para quien defiende: un detector entrenado con deepfakes generados por GAN en 2020 no reconoce los deepfakes de modelos de difusión de 2025. Cada nueva arquitectura es, en la práctica, un nuevo problema de detección. El estudio Deepfake-Eval-2024 cuantificó el fenómeno: los detectores de código abierto más avanzados registraron caídas de AUC del 50% en vídeo, del 48% en audio y del 45% en imágenes al enfrentarse a deepfakes "en el mundo real" frente a los benchmarks anteriores (arXiv 2503.02857).

Las plataformas que producen deepfakes hoy. El mercado se ha polarizado en tres niveles. Las herramientas de consumo gratuitas o de bajo coste (FaceSwap y DeepFaceLab de código abierto; apps como Reface, Avatarify, FaceMagic) generan contenido básico de face-swap en minutos. Las plataformas comerciales para empresas (HeyGen, Synthesia para "presentadores virtuales" multilingües; ElevenLabs, Resemble.AI, Speechify para clonación de voz a partir de muestras de audio de segundos; OpenAI Sora, Google Veo, Runway Gen-3 para síntesis de vídeo de escena completa) han hecho accesible la generación de contenido de calidad profesional. Un vídeo deepfake de calidad profesional que hace cinco años requería más de 30.000 dólares de renderizado puede producirse hoy con entre 5 y 50 dólares de crédito de API en minutos. Un mercado de deepfake-as-a-service en los marketplaces de la dark web ofrece vídeos a medida a partir de 100 dólares: la barrera económica para atacar se ha desplomado por completo.

El estado del arte en 2026: alta calidad, costes hundidos, acceso universal

Producir un deepfake convincente en 2026 ya no requiere conocimientos técnicos. Requiere una conexión a internet, una cuenta en uno de las decenas de servicios disponibles y, en los casos más sofisticados, unas pocas decenas de dólares al mes. El panorama se compone de cuatro niveles de accesibilidad.

En el nivel de consumo están las apps gratuitas o casi gratuitas: Reface, FaceMagic, FaceApp, MyHeritage Deep Nostalgia. Permiten un face-swap básico, animar fotos estáticas, simular el envejecimiento. Son los deepfakes que animan los feeds sociales, en general reconocibles para un ojo entrenado.

En el nivel "creator" están los servicios comerciales pensados para producir vídeo corporativo, formación y publicidad: Synthesia parte de 18 dólares al mes por 120 minutos de vídeo al año; HeyGen ofrece tres vídeos al mes gratis y planes desde 24-29 dólares para un uso intensivo. La calidad es suficiente para vídeo corporativo; el renderizado tarda entre dos y quince minutos por vídeo. Empresas como Unilever han declarado haber reducido el tiempo de producción de vídeos de formación interna en un 70%, pasando de semanas a horas (precios de HeyGen).

En el nivel "avanzado" están los modelos de texto a vídeo de última generación. OpenAI Sora 2 está disponible por API a 0,10 dólares por segundo para vídeo a 720p; Sora 2 Pro a 0,30 dólares por segundo a 720p y 0,50 dólares por segundo a 1024p. Un vídeo de diez segundos cuesta entre uno y cinco dólares. En ChatGPT Plus, el acceso a Sora está incluido en la suscripción mensual de 20 dólares (OpenAI Sora). En el frente de la voz, ElevenLabs ofrece clonación de voz instantánea a partir de suscripciones de consumo; para la clonación de voz profesional los precios suben, pero siguen siendo accesibles para cualquiera con intención, lícita o no.

Existe además un cuarto nivel, el de la dark web. Un kit de identidad sintética cuesta cinco dólares. Una suscripción mensual a un "LLM oscuro" (un modelo de lenguaje sin filtros de seguridad), treinta. Un deepfake de vídeo en tiempo real parte de cincuenta dólares. Una suscripción básica de clonación de voz, diez dólares al mes. Los canales de Telegram que ofrecen deepfake-as-a-service suman al menos cuatrocientos y cuentan con más de 24.000 usuarios activos que venden herramientas de ataque, según iProov (CyberSecureFox, Group-IB vía SoftwareSeni).

Esta accesibilidad tiene tres consecuencias prácticas.

Primera: el tiempo hasta el ataque se ha hundido. En 2018, el deepfake de Obama requería 56 horas de renderizado. En 2026, el World Economic Forum estima que un vídeo deepfake convincente puede producirse en 45 minutos con software gratuito. Las voces clonadas necesitan entre veinte y treinta segundos de audio de muestra, obtenibles de cualquier entrevista publicada en YouTube (WEF, 2025).

Segunda: el volumen crece de forma exponencial. Ocho millones de deepfakes en 2025 según estimaciones del gobierno del Reino Unido, 16 veces más que en 2023. La tasa de crecimiento anual estimada del vídeo deepfake en circulación es del 900% (Springer). Los detectores, incluso cuando funcionan, no escalan a la misma velocidad.

Tercera: el frente de ataque es asimétrico. Producir un deepfake lleva horas. Entrenar un detector para reconocerlo lleva meses. La distancia temporal entre ambas capacidades se ha ampliado, no reducido.

Tipos de deepfake: qué existe, qué se ataca

Existen al menos siete tipos distintos de contenido deepfake, cada uno con su propio perfil de riesgo.

Face-swap estático y dinámico. Intercambio de caras, la técnica original. Estático cuando se aplica a una foto, dinámico cuando se aplica a vídeo. El tipo más habitual en el fraude de imágenes íntimas no consentidas y en las redes sociales.

Face-reenactment. Se "anima" a una persona real haciéndole asumir las expresiones y los movimientos de otra. Se ve en vídeos políticos y anuncios protagonizados por famosos.

Sincronización labial. Se alteran los movimientos de los labios para hacer que una persona real diga palabras que nunca pronunció. La técnica que hay detrás de estafas con vídeo de periodistas, gobernadores de bancos centrales y personajes públicos.

Clonación de voz. Síntesis de voz que reproduce el timbre, el acento y la inflexión de una persona concreta. Alimenta las estafas del falso familiar, las del falso consejero delegado y las llamadas automatizadas políticas.

Cuerpo entero y talking heads. Avatares generados que gesticulan, caminan y hablan. Synthesia, HeyGen y Sora 2 producen esta categoría de contenido.

Deepfakes de documentos. Documentos de identidad, contratos, nóminas y facturas generados o alterados con IA. Sumsub registró un aumento del 1.100% en el fraude documental con deepfakes y un incremento del 300% en el fraude de identidad sintética en Estados Unidos (Sumsub).

Deepfakes en tiempo real. Manipulación en directo durante una videollamada. Técnicamente los más difíciles, pero en expansión: iProov informó de un +2.665% de ataques con cámara virtual nativa en 2025.

Cada tipo se corresponde con ataques distintos, víctimas distintas y contramedidas distintas. La detección genérica no funciona porque un detector entrenado con face-swap no reconoce la clonación de voz, y un detector entrenado con clonación de voz no reconoce el deepfake documental. Las plataformas que ofrecen "detección multimotor" intentan compensarlo entrenando conjuntos especializados, uno por tipo. Es una capa de verificación complementaria útil. No es una defensa primaria.

Deepfake frente a shallowfake: dónde trazar la línea

Un "shallowfake" es una manipulación editada a mano o de baja tecnología: cortes, empalmes, vídeo ralentizado o acelerado, doblaje de audio descuadrado. El vídeo de Nancy Pelosi con el habla ralentizada de 2019 es el ejemplo canónico, sin IA de por medio, solo software de edición de vídeo. Un deepfake, en cambio, usa IA generativa (GAN, modelos de difusión, transformers) para sintetizar contenido que no existía. Las implicaciones legales y de detección difieren: los shallowfakes dejan artefactos de edición detectables por la informática forense tradicional; los deepfakes generan contenido original plausible que derrota esos métodos. Ambos merecen escrutinio, pero los deepfakes escalan de forma exponencial porque un solo modelo entrenado produce contenido sintético ilimitado, mientras que los shallowfakes requieren tiempo de edición humana por cada pieza.

Diez ejemplos históricos de deepfake que definieron el campo

1. Channel 4 / reina Isabel II (Navidad de 2020): falso educativo con baile de TikTok presentado como el discurso navideño de la reina por la cadena británica. 2. Jordan Peele / Barack Obama (2018): PSA de BuzzFeed donde Obama parece insultar a Trump, el primer deepfake que entra en el ciclo informativo global. 3. Deepfake de Mark Zuckerberg (2019): vídeo irónico donde el consejero delegado de Meta parece jactarse de controlar los datos de los usuarios. 4. Synthesizing Obama (Univ. de Washington, 2017): primer deepfake académico de vídeo completo sincronizado con audio. 5. Tom Cruise en TikTok @deeptomcruise (2021): indistinguible del original, millones de seguidores, base de la startup Metaphysic. 6. Eslovaquia, audio de Šimečka (septiembre de 2023): deepfake difundido 48 horas antes de las elecciones durante el "periodo de silencio" oficial, supuestas acusaciones de compra de votos, ganadas por Robert Fico. 7. Llamada automatizada de Joe Biden (enero de 2024): voz clonada diciendo a los votantes que no participaran en las primarias de New Hampshire, multa de 6 millones de dólares de la FCC. 8. Director financiero de Arup en Hong Kong (febrero de 2024): 25,6 millones de dólares transferidos tras una videoconferencia con un director financiero deepfake y todo su equipo. 9. Estafa de la voz clonada en Italia (enero de 2025): la voz de un alto cargo del gobierno clonada para estafar a empresarios de primer nivel. 10. Imágenes deepfake de líderes europeos (2026): imágenes deepfake de figuras políticas circulan por las redes sociales, con denuncias formales y debate a escala de la UE.

Casos de uso: legítimos e ilícitos

Los deepfakes no son intrínsecamente maliciosos. Tienen aplicaciones legítimas importantes que conviene distinguir antes de abordar la cara oscura.

En el lado legítimo, los usos industriales abarcan el cine (rejuvenecer a actores, reconstruir escenas con personajes ya no disponibles), la formación corporativa (avatares que hablan en 30 idiomas para reducir los costes de producción de vídeo), la educación (reconstruir figuras históricas con fines didácticos), la accesibilidad (síntesis de voz personalizada para personas que han perdido la voz), la sátira política y el concept art. Synthesia afirma dar servicio a 200.000 empresas cliente, incluida la mitad del Fortune 100. Es un mercado legítimo que vale miles de millones y sigue creciendo.

En el lado ilícito, los usos se concentran en siete áreas:

1. Fraude financiero. Estafas del falso consejero delegado, manipulación de KYC, estafas de inversión. 2. Suplantación de identidad. Elusión de los sistemas de verificación biométrica para abrir cuentas, obtener préstamos, falsificar documentos. 3. Imágenes íntimas no consentidas. Sensity AI determinó que el 96% de los deepfakes en línea son pornografía no consentida, en su gran mayoría con víctimas femeninas (Sensity). 4. Desinformación política. Influencia electoral, manipulación de la opinión pública, propaganda de guerra. 5. Difamación y daño reputacional. Vídeos falsos que atribuyen declaraciones o comportamientos comprometedores a políticos, periodistas y directivos. 6. Falsificación de prueba forense. Vídeos, grabaciones de audio y fotos presentados en juicio como prueba cuando son productos sintéticos. 7. Extorsión. Amenaza de publicar deepfakes comprometedores para obtener dinero o favores.

Cada una de estas áreas merece un análisis aparte. Lo hacemos a continuación, con casos documentados y cifras concretas.

El fraude real: siete categorías, casos documentados, pérdidas cuantificadas

En 2025 las pérdidas globales por fraude con deepfakes superaron los 900 millones de dólares, según las agregaciones publicadas por el World Economic Forum y DeepStrike Research (WEF, DeepStrike). Deloitte estima que el fraude con IA generativa alcanzará los 40.000 millones de dólares en 2027 en Estados Unidos, creciendo a una tasa anual compuesta del 32% (Deloitte Center for Financial Services). Así se desglosa.

Estafa del consejero delegado y Business Email Compromise

Es la categoría que llevó los deepfakes a los consejos de administración. Arup es la referencia. Enero de 2024, oficina de Hong Kong de la ingeniería británica. Un empleado del departamento financiero recibe un correo del director financiero, con sede en el Reino Unido, solicitando una "transacción secreta". Receloso, acepta una videoconferencia para aclararlo. En la llamada ve y oye al director financiero y a varios compañeros. Son todos deepfakes, generados a partir de reuniones reales anteriores. La identidad del director financiero le resulta familiar, las caras de los compañeros le resultan familiares, las voces le resultan familiares. El empleado ejecuta 15 transferencias por un total de 25,6 millones de dólares (200 millones de dólares de Hong Kong) a cinco cuentas distintas. El fraude sale a la luz solo semanas después, cuando el empleado lo verifica con la sede de Londres (CNN, Fortune, WEF).

Seis meses después de Arup, en julio de 2024, Ferrari afronta un intento similar. Un directivo recibe mensajes de WhatsApp y luego una llamada de una voz indistinguible de la del consejero delegado Benedetto Vigna, que describe una operación "relacionada con China" con una cobertura de divisas urgente. El directivo sospecha por dos detalles: el número de teléfono desconocido y el acento del sur de la voz, demasiado marcado. Le pregunta a "Vigna" el título de un libro que el verdadero consejero delegado le había recomendado días antes. El estafador cuelga. Ferrari evita la pérdida (Fortune, MIT Sloan Review).

El patrón es estructural: contacto urgente de una autoridad interna, presión de tiempo, canal verbal o de vídeo, acción financiera irreversible solicitada. El FBI, en su informe IC3 de 2024, registra 21.442 denuncias de Business Email Compromise por 2.770 millones de dólares en pérdidas, repartidas por los 50 estados de EE. UU. y 186 países. La cifra acumulada de tres años supera los 8.500 millones de dólares (Informe FBI IC3 2024).

Soluciones como TrueScreen, la Data Authenticity Platform, abordan esta categoría certificando las videollamadas sensibles y las autorizaciones de pago en el momento de la captura, con sello criptográfico y sello de tiempo cualificado. La sesión grabada se convierte en prueba admisible en juicio que ningún reenvío de deepfake ni alegación de falsificación puede derrotar. Como observó el investigador de la ACFE Mason Wilder en una entrevista reciente: "los límites del fraude con deepfakes son solo los límites de la imaginación del estafador" (ACFE).

Un caso muy documentado en Europa es el de la voz clonada de un alto cargo gubernamental, utilizada para exigir transferencias a empresarios de alto perfil con el pretexto de un rescate para periodistas secuestrados en el extranjero que después sería reembolsado por una autoridad pública. Al menos un empresario llegó a ejecutar la transferencia, de aproximadamente un millón de euros, a una cuenta extranjera (Cybersecurity360).

Elusión de KYC y verificación de identidad

Los sistemas de verificación de identidad a distancia, los mismos que usan bancos, fintechs, exchanges de criptomonedas y operadoras para dar de alta a nuevos clientes, se han convertido en el objetivo principal de la segunda categoría de fraude. El patrón es sencillo: el estafador usa un vídeo deepfake o un documento sintético para eludir las pruebas de vida (liveness) y la verificación documental.

Las cifras impresionan. Onfido, ahora parte de Entrust, registra en un solo año un aumento de 31 veces en los intentos de fraude con deepfakes, un ataque cada cinco minutos, e informa de que más del 80% de los ataques a las pruebas de vida biométricas en 2024 son de tipo "vídeo de vídeo": vídeos deepfake reproducidos en una pantalla frente a la cámara (Onfido). En 2024, el fraude documental digital supera por primera vez al físico (57% frente a 43%), invirtiendo una tendencia histórica (Entrust Fraud Report).

iProov documenta en 2025 un +2.665% de ataques mediante cámara virtual nativa, un +300% de ataques de face swap frente a 2023 y una red de crime-as-a-service con unos 24.000 usuarios activos que venden herramientas de ataque. A partir de solo tres herramientas comunes pueden derivarse más de 115.000 combinaciones de ataque distintas (iProov Threat Intelligence Report 2025).

Para quien opera en banca, fintech, juego en línea o telecomunicaciones, este es el fraude con la relación coste-daño más asimétrica: cinco dólares por el kit de ataque, decenas de miles de euros en pérdidas por cada KYC comprometido. Un pilar paralelo de nuestra investigación trata este vector específico en profundidad: Vídeo deepfake y elusión del KYC biométrico: defender el onboarding bancario en 2026.

Estafas de inversión con famosos y autoridades financieras

La categoría que ha dominado la actualidad europea en 2025-2026 son las estafas de inversión con personajes públicos. El modelo se repite: un vídeo deepfake de un periodista, un empresario conocido o una autoridad financiera promociona en redes sociales una supuesta plataforma innovadora de trading o de criptomonedas que "multiplica el capital". El usuario hace clic, aterriza en un sitio que imita a un bróker real, deposita una suma modesta, ve ganancias falsas los primeros días, deposita más y luego descubre que el sitio ha desaparecido.

Uno de los casos más documentados es el de periodistas de televisión que descubrieron sus voces y sus caras en vídeos deepfake que promocionaban una plataforma de inversión ficticia atribuida a autoridades financieras y a empresarios de primer nivel (SkyTG24, noviembre de 2024). Las policías europeas cerraron cientos de sitios vinculados a estas estafas.

Diversos bancos centrales han emitido avisos oficiales para alertar al público sobre vídeos deepfake de sus gobernadores en falsas entrevistas televisivas usados como cebo de plataformas fraudulentas (aviso de banco central). En varios casos, la autoridad ha presentado denuncia formal ante la autoridad judicial.

En marzo de 2025 se informó de una estafa con deepfakes que habría sustraído 33 millones de euros a jubilados y empresarios (SkyTG24, marzo de 2025). Un solo episodio dentro del ecosistema más amplio mapeado por las autoridades en sus informes anuales.

Imágenes íntimas no consentidas

Es la categoría con mayor volumen y la dimensión ética más grave. Sensity AI determinó que el 96% de los deepfakes en línea son pornografía no consentida, con más de 100.000 vídeos en circulación, en su gran mayoría con víctimas femeninas (informes de Sensity).

Diversos casos de foros clandestinos han mostrado cómo esta categoría se cruza con la dimensión política y mediática. Foros activos durante años han llegado a contar con cientos de miles de usuarios registrados y millones de mensajes, y han alojado tanto fotos robadas como imágenes deepfake generadas con IA con cuerpos manipulados para aparentar desnudez. Entre las víctimas figuran numerosas mujeres con proyección pública. Varios de estos foros han sido clausurados tras las denuncias de las afectadas (Il Fatto Quotidiano, agosto de 2025).

En el frente de los famosos a escala global, el caso de Taylor Swift de enero de 2024 tuvo un efecto catalizador. Imágenes explícitas de la cantante generadas con IA acumularon 45 millones de visualizaciones en 17 horas en X antes de su retirada y del bloqueo temporal de las búsquedas con su nombre en la plataforma (NBC News, TechCrunch). A partir de ese momento, la presión política llevó a la aprobación de la TAKE IT DOWN Act estadounidense.

Clonación de voz para estafas familiares

La categoría menos llamativa pero quizá la más extendida en número de víctimas no denunciadas. El modelo es el del falso hijo o falso nieto en apuros.

Un caso documentado: una mujer de 79 años recibe una llamada. La voz es la de su hijo. "Mamá, estoy en un lío, me van a detener. Una amiga pasará por casa, tienes que darle algo de dinero o acabaré dentro." Minutos después llega una mujer que se presenta como abogada y recoge veinte mil euros en oro. La voz se había clonado a partir de una breve grabación de audio del hijo, probablemente captada de un perfil en redes sociales (Il Centro).

Pindrop, especializada en seguridad de voz, registró un aumento del 1.300% en los intentos de fraude con deepfakes en 2024, pasando de uno al mes a siete al día en la única empresa monitorizada. El 67,5% de los consumidores estadounidenses declara sentir "ansiedad" ante los deepfakes y los clones de voz en las operaciones bancarias (Pindrop Voice Intelligence Report 2025).

La respuesta tradicional a esta categoría es el "código familiar": una palabra compartida entre familiares cercanos para usar en caso de llamadas sospechosas. Es una defensa útil pero compensatoria, no estructural.

Desinformación política

El deepfake político tuvo su primera manifestación a gran escala en Eslovaquia en septiembre de 2023, dos días antes de las elecciones: un deepfake de audio de Michal Šimečka sobre fraude electoral y compra de votos entre la población romaní circuló por Telegram durante el "periodo de silencio" oficial. Šimečka lideraba las encuestas; ganó Robert Fico. Son las primeras elecciones en las que un deepfake se considera un factor estructural (Harvard Kennedy School).

En Estados Unidos, dos días antes de las primarias demócratas de New Hampshire de enero de 2024, una llamada automatizada con la voz clonada de Joe Biden pedía a los votantes que no participaran. El consultor político Steve Kramer recibió una multa de la FCC de seis millones de dólares en septiembre de 2024 y 26 cargos penales por intimidación de votantes y suplantación de cargos públicos (NPR).

En la India, durante las elecciones de 2024, se estima que el presupuesto destinado a contenido generado con IA fue de 50 millones de dólares, con clones de voz de Modi usados en canciones de Bollywood y en punjabí con fines electorales (Al Jazeera).

El World Economic Forum, en su Global Risks Report 2025, señala la desinformación como el riesgo global número uno para los próximos dos años, con referencia explícita a los deepfakes generados con IA (WEF Davos 2025).

Tratamos el riesgo electoral en profundidad en Deepfakes in the 2026 Elections: Why Certified Proof Matters More Than Fact-Checking.

Falsificación de prueba forense

Es la frontera más reciente y potencialmente más desestabilizadora. Un vídeo o un audio deepfake presentado en juicio como prueba introduce un nuevo problema epistémico: ¿cómo se establece la autenticidad de una prueba digital cuando producir contenido sintético realista cuesta cinco dólares?

El fenómeno ha generado el concepto de "dividendo del mentiroso" (Chesney y Citron, 2019): en un mundo donde cualquier contenido puede ser un deepfake, quien quiere negar la autenticidad de un contenido real siempre tiene la cobertura de poder impugnar su origen. Abogados, acusados y partes en un procedimiento pueden alegar que un vídeo real "es probablemente un deepfake" sin tener que demostrar nada.

El problema se extiende de lo penal a lo civil: contratos firmados por videoconferencia, audios de conversaciones comerciales, grabaciones de entrevistas de trabajo, declaraciones de asegurados. El tema se explora en Deepfakes and criminal proceedings: the digital evidence crisis.

Deepfakes en WhatsApp y canales de mensajería

Un fenómeno emergente en 2025-2026 es la difusión de deepfakes a través de aplicaciones de mensajería instantánea, con WhatsApp como canal principal. El patrón combina dos elementos: una voz clonada a partir de una breve muestra de audio (a ElevenLabs le bastan unos segundos) y un número de teléfono falsificado que simula el de un familiar, un directivo o una autoridad. El mensaje de voz o el breve vídeo explota la urgencia percibida para arrancar una transferencia, una contraseña, un código de autenticación. Las autoridades europeas señalan que las "estafas de voz por mensajería" han crecido más rápido que cualquier otro vector de fraude en línea. La defensa principal es operativa: ninguna acción financiera irreversible debería autorizarse por mensajería sin una verificación fuera de banda en el canal principal conocido (teléfono directo, correo corporativo, presencia física). Para las organizaciones, la certificación en origen de las videollamadas sensibles (autorizaciones de pago, decisiones del consejo, comunicaciones de RR. HH.) ofrece una alternativa determinista a la verificación de canal por sí sola.

§7-bis. Cómo detectar un deepfake: señales visuales, de audio y contextuales

Cuando no se dispone de certificación forense, la inspección manual sigue siendo una defensa parcial. Los analistas entrenados y los usuarios informados pueden marcar contenido sintético combinando tres capas de señales, aunque la fiabilidad de cada una se reduce a medida que la IA generativa mejora.

Señales visuales. Patrones de parpadeo poco naturales o ausencia de parpadeo (en las versiones menos refinadas); iluminación descuadrada entre la cara y el fondo; bordes faciales borrosos o cambiantes en los movimientos rápidos; dientes uniformes sin detalle individual; reflejos inconsistentes en los ojos entre ambos globos oculares; pelo que parece "pegado" al perímetro de la cabeza; sombras que no encajan con la fuente de luz declarada de la escena.

Señales de audio. Respiración ausente o poco natural entre frases; entonación monótona o patrones prosódicos demasiado regulares; falta de ruido ambiente coherente con la escena visible (eco, reverberación, tráfico); micropausas poco naturales; sibilantes metálicas o consonantes duras; ausencia de toses, titubeos y reformulaciones que caracterizan el habla humana espontánea.

Señales contextuales. El mensaje exige una acción urgente (transferencia, contraseña, códigos de autenticación, acceso al sistema); llega por un canal no estándar (WhatsApp en lugar del correo corporativo, un número de teléfono desconocido en lugar del conocido); presión de tiempo anómala ("en 30 minutos", "antes del cierre del mercado"); el remitente no responde a preguntas de verificación fuera del guion (título de un libro compartido, dato personal verificable).

La limitación clave. En los deepfakes de 2025-2026 producidos con HeyGen, Synthesia, ElevenLabs y Sora, estas señales han desaparecido en gran medida. Un metaanálisis de 56 trabajos académicos publicado en ScienceDirect (2024) confirmó que la precisión media humana en la detección de deepfakes es del 55,5%, estadísticamente indistinguible de lanzar una moneda al aire. Por eso la verificación humana, por sí sola, no es una defensa escalable: debe combinarse con la verificación de canal fuera de banda, procedimientos de doble aprobación para las decisiones financieras y, en contextos que requieren prueba con valor legal, la certificación de autenticidad en origen.

Detección frente a procedencia frente a certificación forense: tres enfoques comparados

Los tres enfoques son complementarios, no alternativos, y se organizan en niveles que responden a requisitos distintos de fiabilidad y valor probatorio. La detección por sí sola, como hemos visto, es el nivel más débil. La procedencia C2PA es útil como estándar del sector, pero cubre solo el contenido cuya cadena ha adoptado el protocolo. La certificación forense en origen es el nivel más sólido y el único con valor probatorio directo en juicio. Herramientas como TrueScreen, la Data Authenticity Platform, implementan este nivel de extremo a extremo en móvil, web, extensión de navegador, API y SDK.

Por qué la detección de deepfakes por sí sola es una guerra perdida

Ante este escenario, la respuesta intuitiva es directa: construir sistemas que reconozcan si un contenido es auténtico o sintético. Es la vía de la detección de deepfakes. Es una vía recorrida por cientos de startups, por grandes empresas como Microsoft, Intel o Google, por agencias gubernamentales como DARPA con el programa SemaFor. El problema es que está perdiendo. No de forma ocasional: de forma estructural.

Los datos lo dicen con claridad.

En el laboratorio, los detectores funcionan. En el mundo real, se desploman. Los sistemas multimodales más avanzados alcanzan un 94-96% de precisión en condiciones controladas. Pero cuando se topan con deepfakes producidos con herramientas con las que no se entrenaron, el rendimiento cae por debajo del 50%, estadísticamente equivalente a lanzar una moneda al aire (ScienceDirect, 2025). El benchmark Deepfake-Eval-2024, construido sobre deepfakes "en el mundo real", documenta una caída de AUC del 50% en vídeo, del 48% en audio y del 45% en imágenes frente a los benchmarks anteriores (arXiv 2503.02857).

Las personas no pueden compensarlo. Un metaanálisis de 56 trabajos académicos realizado en 2024 cuantificó la precisión humana media en el reconocimiento de un deepfake en el 55,5%, con un intervalo de confianza del 95% que cruza el 50% (ScienceDirect). No significativamente mejor que el azar. El MIT Media Lab, en un estudio con 2.215 participantes, demostró que los deepfakes con audio de texto a voz de última generación ya son más difíciles de distinguir que el audio producido por un actor de voz (MIT).

La carrera armamentística es estructuralmente asimétrica. Cada nuevo detector publicado se convierte en un nuevo discriminador contra el que se entrenan los generadores. Es la naturaleza de la tecnología GAN, expuesta en la sección técnica. El estudio de 2024 "Adversarial Attacks on Deepfake Detectors" muestra cómo ataques ligeros basados en simples filtros convolucionales 2D (2D-Malafide) bastan para eludir los sistemas de detección facial más avanzados (arXiv 2408.14143). Las defensas con entrenamiento adversario alcanzan un 94,1% de precisión, y el suavizado aleatorizado un 92,8%, pero solo frente a ataques conocidos en el momento del entrenamiento.

La velocidad de renovación de los modelos generativos supera la de actualización de los detectores. Stable Diffusion lanzó cinco versiones principales en 24 meses. Sora pasó de la v1 a la v2 en nueve meses. Cada lanzamiento introduce nuevos artefactos, nuevas dinámicas, nuevas firmas estadísticas. Los detectores se entrenan en meses. Para cuando llegan a producción, el adversario ya va una versión por delante.

El problema de la huella eliminable. Una de las líneas de investigación más prometedoras de los últimos años fue la de las "huellas de IA": rastros estadísticos específicos que todo modelo generativo dejaría en el contenido que produce. Permitiendo a los detectores identificar el modelo concreto que generó una imagen. Sin embargo, un estudio de la Universidad de Edimburgo de 2025 demostró que estas huellas pueden eliminarse con técnicas de posprocesado adversario y, peor aún, pueden "trasplantarse" a contenido auténtico para clasificarlo erróneamente como sintético (análisis de TrueScreen). Es un problema fundamental: la huella que es la defensa es también, de forma simétrica, la siguiente vulnerabilidad.

La detección multimotor ayuda pero no resuelve. Las plataformas que ofrecen detección comercial hoy tienden a usar conjuntos de modelos especializados: uno entrenado en face-swap, uno en sincronización labial, uno en clonación de voz, uno en deepfake documental, uno en artefactos de compresión. Cada motor cubre un tipo. La agregación de resultados reduce los falsos negativos pero no cierra el problema estructural: un deepfake producido con una tecnología futura, no representada en los conjuntos de entrenamiento, escapa a todos los motores a la vez.

El World Economic Forum, en su informe sobre detección de 2025, lo expresa sin rodeos: "la carrera entre la creación de deepfakes y la detección favorece sistemáticamente a los atacantes" (WEF, 2025). No es una derrota temporal. Es una propiedad del problema.

El dividendo del mentiroso: cuando "es un deepfake" se convierte en la coartada perfecta

Acuñado por los juristas estadounidenses Robert Chesney y Danielle Citron en el artículo "Deep Fakes: A Looming Challenge for Privacy, Democracy, and National Security" (Boston University, 2019), el dividendo del mentiroso describe un efecto secundario paradójico de la era del deepfake: a medida que el público toma conciencia de que cualquier vídeo puede falsificarse, incluso un vídeo auténtico puede desacreditarse como "probablemente un deepfake". Políticos, delincuentes y directivos pueden negar contenido real apelando a la duda sistémica, sin tener que demostrar nada. Entre los casos documentados están el incidente de Gabón de 2018, donde un vídeo real del presidente Ali Bongo fue acusado de ser un deepfake durante una crisis sanitaria, y varios acusados del 6 de enero de 2021 en Washington que impugnaron audio auténtico como "generado con IA". El dividendo del mentiroso es la prueba definitiva de que la detección a posteriori es insuficiente: solo la certificación de autenticidad en origen, inmutable y verificable de forma independiente, neutraliza a la vez el deepfake y la duda sistémica que genera. Herramientas como TrueScreen, la Data Authenticity Platform, abordan exactamente esta brecha certificando el contenido en el momento de la captura y sacando la cuestión de la ecuación.

Hay una salida. No consiste en mejorar la detección. Consiste en cambiar el punto de la cadena en el que se introduce la garantía de autenticidad.

Invertir el problema: certificar la autenticidad en origen

La lógica es la misma que se aplica a los documentos en papel. Para una escritura notarial no se comprueba a posteriori "si parece auténtica". Se certifica en el momento de la firma, ante un fedatario público, sobre papel timbrado, con un sello en seco. La firma certificada resiste porque se produce en un contexto de confianza, no porque un perito calígrafo confirme después que "podría ser auténtica".

Para el contenido digital, la misma lógica se traduce en un principio: en lugar de preguntar si un dato es falso, garantizar que el dato nace auténtico por construcción. Es lo que en la literatura se llama "authenticity-by-design" o "procedencia del dato en origen". Técnicamente, significa que el dato se certifica en el momento exacto en que lo capta el sensor (la cámara, el micrófono), dentro de un dispositivo cuya integridad se ha verificado, con una metodología forense que produce una cadena de prueba inalterable y admisible en juicio.

Este enfoque tiene tres propiedades que la detección no puede tener.

Independencia de la tecnología de ataque. Si el dato se certifica en origen, da igual qué tecnología generativa exista en el futuro. El contenido certificado con metodología forense se autentica por lo que es, no por lo que aparenta. El contenido no certificado es, sencillamente, no certificado: no se presume auténtico. Se sale de la carrera armamentística por construcción.

Valor admisible en juicio. La certificación produce metadatos firmados criptográficamente, hashes del contenido registrados en infraestructuras inmutables, sellos de tiempo con valor legal. Es material que puede presentarse en juicio como prueba conforme a las reglas de valoración aplicables. En España, la Ley 1/2000 de Enjuiciamiento Civil admite los medios de reproducción de la palabra, el sonido y la imagen (art. 299.2) y los instrumentos que permiten archivar y reproducir datos (art. 384), valorados por el tribunal "según las reglas de la sana crítica"; el sello de tiempo cualificado y la firma electrónica cualificada del Reglamento (UE) 910/2014 (eIDAS) y de la Ley 6/2020 de servicios electrónicos de confianza aportan la fecha cierta y la integridad que refuerzan ese valor. Un informe de detección probabilístico, por sofisticado que sea, no tiene el mismo peso procesal.

Verificabilidad por terceros. La certificación produce artefactos verificables públicamente por cualquiera, en cualquier momento. No requiere "confiar" en el sistema que produjo la garantía: la prueba es matemáticamente verificable. Una propiedad que la detección, inevitablemente probabilística y basada en modelos propietarios, no puede ofrecer.

Cómo opera TrueScreen

TrueScreen es una Data Authenticity Platform: un sistema que aplica este principio a fotos, vídeo, audio, screenshots, documentos, navegaciones web y comunicaciones a distancia. No es una plataforma de detección de deepfakes. Es una plataforma que certifica la autenticidad del dato en el momento en que se captura, con metodología forense.

La arquitectura tiene dos capas, y es importante distinguirlas para entender el posicionamiento.

Capa primaria: certificación en origen con metodología forense. Es el corazón del sistema. Cuando un usuario captura contenido a través de uno de los productos de TrueScreen (la app móvil, el Forensic Browser para contenido web, la extensión de Chrome, el Portal web para actividades profesionales), el contenido lo adquiere un dispositivo cuya integridad se verifica, se le aplica un hash en tiempo real y se sella con un sello de tiempo admisible en juicio. El sello lo producen prestadores cualificados de servicios de confianza (QTSP), terceros de confianza, integrados por API y que operan bajo el Reglamento eIDAS. A partir de ese momento, el contenido es inmutable en origen: cualquier alteración posterior invalidaría la verificación del sello.

Capa secundaria: detección multimotor de deepfakes como garantía adicional. A este núcleo, TrueScreen suma cinco motores independientes de detección de deepfakes. Operan como verificación complementaria sobre el contenido certificado y sobre el contenido adquirido externamente, integrándose con el flujo forense. Son refuerzo, no el pilar: si el contenido se certifica en origen en un dispositivo verificado, la detección es redundante respecto a la garantía primaria. Cobra relevancia para el contenido que no se ha producido a través de la plataforma y debe evaluarse a posteriori.

La diferencia con las plataformas que dependen exclusivamente de la detección es estructural. Esas plataformas corren dentro de la carrera armamentística de IA contra IA: cada avance en los modelos generativos las obliga a perseguir. TrueScreen evita la carrera partiendo de un dato que es auténtico por construcción. Cuando la detección está disponible como segunda capa, es valor añadido. Cuando no basta, la primera capa se sostiene por sí sola.

Para un análisis técnico más profundo de los límites de la detección por sí sola, tenemos un artículo dedicado: AI fingerprints can be removed and forged: the Edinburgh study that challenges deepfake detection. La plataforma da servicio a quien necesita prueba admisible en juicio: fuerzas del orden, profesionales del derecho, bancos y fintechs, aseguradoras, redacciones, departamentos de RR. HH. y autoridades públicas.

Verticales y casos de uso: dónde la certificación en origen cambia las reglas del juego

TrueScreen, la Data Authenticity Platform, es el enfoque de certificación en origen que usan las empresas en servicios financieros, periodismo, jurídico, seguros, RR. HH. y comunicación corporativa. El principio de authenticity-by-design tiene implicaciones operativas distintas según el sector. Vale la pena ver cómo se traduce en las verticales más expuestas al riesgo de deepfake.

Banca, fintech y KYC. El onboarding a distancia es el frente más caliente. Las entidades financieras deben demostrar dos cosas: que el cliente es la persona real que dice ser, y que los documentos que presenta son auténticos. Con la detección genérica, cada nuevo modelo generativo introduce riesgo de compromiso. Con la certificación en origen, el selfie y el escaneo del documento los captura una sesión verificada que produce metadatos firmados. El falso positivo se convierte en un falso negativo estructural: un atacante no puede "falsificar la sesión de captura" con un deepfake. Detalle en Vídeo deepfake y elusión del KYC biométrico: defender el onboarding bancario en 2026.

Jurídico, forense y procedimientos judiciales. Abogados, peritos, fuerzas del orden y magistrados trabajan con prueba digital cuya autenticidad debe resistir en juicio. Una conversación grabada en un móvil, un screenshot de un chat, una foto de la escena de un delito: todos elementos que, hoy, pueden producirse sintéticamente a un coste irrisorio. La certificación forense en origen produce documentación admisible, con cadena de custodia reconstruible y hashes verificables. Es el caso de uso histórico de TrueScreen, detallado en Deepfakes and criminal proceedings: the digital evidence crisis.

Seguros. El fraude basado en imágenes o vídeos manipulados de siniestros (auto, hogar, lesiones) ha abierto una nueva categoría de riesgo para las aseguradoras. La peritación "a distancia", que durante la pandemia se convirtió en estándar, es hoy vulnerable al contenido sintético. Certificar el proceso de adquisición de la prueba fotográfica o en vídeo por parte del asegurado, en tiempo real, bloquea esta categoría de fraude en origen.

Medios y redacciones. El problema de los periodistas es doble: defenderse de los deepfakes que los suplantan (el caso SkyTG24) y garantizar la autenticidad de las fuentes de vídeo recibidas y publicadas. Una redacción que adopta la certificación en origen para sus propias producciones y para el contenido generado por usuarios que evalúa como material reduce su exposición legal y refuerza la confianza de sus lectores. El marco en Deepfakes in the 2026 Elections: Why Certified Proof Matters More Than Fact-Checking.

Empresas y protección de directivos. Arup mostró cómo una sola videoconferencia sin verificar puede costar 25 millones de dólares. Certificar las comunicaciones internas sensibles (videollamadas del director financiero, autorizaciones de pago, transferencias) introduce un nivel de garantía que rompe la kill chain del fraude del falso consejero delegado. El frente de Deepfake corporate fraud: why source certification is the real defense.

RR. HH. y procesos de contratación. El fenómeno emergente son las entrevistas de trabajo a distancia con candidatos deepfake, a menudo producidas por operadores extranjeros para conseguir puestos de TI en remoto. Trend Micro documentó decenas de casos en 2024-2025. Certificar la entrevista (sesión de vídeo captada en un dispositivo verificado) es una defensa directa.

Administración pública y voto a distancia. Para las autoridades que gestionan identidad digital, poderes de representación y declaraciones emitidas a distancia, el riesgo de deepfake se convierte en riesgo sistémico. Certificar los procesos sensibles sustituye la confianza condicionada (basada en la calidad del canal) por la confianza certificada (basada en artefactos verificables).

En todas estas verticales, la lógica es la misma: desplazar el punto de la cadena donde se introduce la garantía. No aguas abajo, donde el problema es probabilístico y se actualiza sin cesar. Aguas arriba, donde el problema se resuelve por construcción.

Panorama normativo: Europa, España, Estados Unidos, China

2025-2026 marca el primer periodo en que los deepfakes dejan de ser un vacío normativo. Hay cuatro ámbitos que conviene conocer.

Reglamento (UE) de IA, artículo 50(4). El Reglamento (UE) 2024/1689 introduce una obligación de divulgación para quien produce o distribuye deepfakes. Texto literal: "Los responsables del despliegue de un sistema de IA que genere o manipule contenido de imagen, audio o vídeo que constituya una ultrafalsificación (deep fake) harán público que dicho contenido se ha generado o manipulado de manera artificial." La obligación entra en vigor el 2 de agosto de 2026. Se prevén excepciones para los usos autorizados por ley con fines de prevención, detección, investigación o enjuiciamiento de delitos, y para las obras "manifiestamente artísticas, creativas, satíricas o de ficción" (Reglamento (UE) 2024/1689, artículo 50). La obligación se aplica a los responsables del despliegue (quien hace público el contenido), no solo a los proveedores del modelo generativo.

España, marco penal y supervisión de la IA. España no cuenta con un tipo penal específico de "deepfake", pero su marco penal general ya alcanza estas conductas a través de figuras como la estafa (incluida la estafa agravada), la falsedad documental, los delitos contra la intimidad y la propia imagen y la suplantación de identidad, según el uso concreto que se haga del contenido sintético. A ello se suma la aplicación directa del Reglamento (UE) de IA, cuya supervisión en España corresponde a la Agencia Española de Supervisión de la Inteligencia Artificial (AESIA), y el régimen de servicios electrónicos de confianza de la Ley 6/2020 (Ley 6/2020), que junto al eIDAS sostiene el valor probatorio de la firma y del sello de tiempo cualificados. La valoración de la prueba digital se rige por la Ley 1/2000 de Enjuiciamiento Civil (LEC), en particular sus artículos 299.2, 326 y 384.

Reglamento de Servicios Digitales (DSA), artículo 35. Las plataformas en línea de muy gran tamaño (más de 45 millones de usuarios mensuales en la UE) tienen la obligación de marcar de forma proactiva los deepfakes distribuidos en su plataforma con "marcas destacadas". El enfoque es de transparencia ante todo: etiquetado, no retirada automática de los deepfakes no ilegales. La obligación de reporte sobre moderación de contenidos es, como mínimo, anual (análisis de Taylor Wessing).

Estados Unidos, TAKE IT DOWN Act. Firmada por Donald Trump el 19 de mayo de 2025, tras votación unánime en el Senado y de 409 a 2 en la Cámara. Tipifica como delito la publicación de imágenes íntimas no consentidas, incluidas las generadas con IA, de personas reales. Obliga a las plataformas a retirar el contenido en un plazo de 48 horas desde la notificación de la víctima. Pena máxima para quien publica: tres años de prisión. El régimen de notificación y retirada está en vigor desde el 19 de mayo de 2026 (Wikipedia).

China, Deep Synthesis Provisions. En vigor desde el 10 de enero de 2023, la primera normativa del mundo dedicada específicamente a la síntesis profunda (deepfakes). Obligaciones: etiquetado obligatorio del contenido sintético, autenticación del usuario para quien publica, consentimiento explícito para la edición de caras, voces y datos biométricos, y mecanismo para desmentir noticias falsas (China Briefing). Un enfoque más restrictivo que el europeo.

FCC y enforcement en EE. UU. En septiembre de 2024, la FCC impuso una multa de 6 millones de dólares al consultor político Steve Kramer por las llamadas automatizadas de New Hampshire. La operadora que las transmitió recibió una multa de 1 millón de dólares. Kramer afronta 26 cargos penales por intimidación de votantes y suplantación de cargos públicos (FCC). Es la primera gran acción de enforcement estadounidense contra un deepfake político.

Para quien opera en las verticales más expuestas, la combinación de Reglamento de IA + leyes penales nacionales + DSA produce tres consecuencias prácticas. Primera: divulgación obligatoria del contenido generado con IA, que se aplica a cualquiera que publique, aunque sea de forma ocasional. Segunda: responsabilidad civil y penal para quien difunde deepfakes capaces de causar daño, con sanciones que llegan a la prisión. Tercera: la obligación de las plataformas de marcar de forma proactiva, que reducirá la viralidad de algunos deepfakes pero no la de los producidos para estafas dirigidas.

Ninguna de estas normas resuelve el problema técnico de "cómo se establece si un contenido es auténtico". Sancionan a quien produce o difunde con intención, e imponen transparencia. Pero el reconocimiento del contenido real sigue siendo un problema abierto, que el regulador deja a la industria.

Los próximos 24 meses: qué cambia, qué sigue igual

Tres dinámicas definen 2026-2028.

La detección alcanzará su límite teórico. El estudio de Edimburgo de 2025 mostró que las huellas de IA son eliminables. El estudio Deepfake-Eval-2024 mostró que los detectores se desploman por debajo del 50% en condiciones reales. Sumsub prevé que las "estafas de IA agéntica": fraudes orquestados por agentes de IA autónomos que generan deepfakes bajo demanda, contactan con las víctimas y mantienen conversaciones en tiempo real: serán la categoría de mayor crecimiento en 2026 (Sumsub Annual Report 2026). Frente a un agente de IA que genera, distribuye y adapta deepfakes en tiempo real, la detección probabilística pierde relevancia: el problema se vuelve sistémico, no de reconocimiento.

El valor de la certificación en origen sube. Cuanto más crecen el volumen y la calidad de los deepfakes, más se convierte la garantía de autenticidad sobre un dato concreto en un activo estratégico. Para quien debe producir prueba (abogados, bancos, redacciones, fuerzas del orden), pasar de la verificación probabilística a la certificación admisible es el salto de una defensa que se erosiona a una defensa que resiste. El mercado correspondiente: soluciones de procedencia, captura certificada, autenticidad de grado forense, va a crecer a un ritmo muy por encima del de la detección genérica.

La regulación empujará en la misma dirección. El Reglamento (UE) de IA obliga a la divulgación. La TAKE IT DOWN Act estadounidense obliga a la retirada rápida. Los marcos penales nacionales establecen responsabilidad penal. Todas estas normas producen una consecuencia práctica: quien puede demostrar que ha adquirido el contenido de forma certificada, con metodología forense y sello de tiempo admisible, tiene una posición defensiva mucho más sólida que quien no puede. El cumplimiento se convierte en motor de adopción del authenticity-by-design.

Una proyección conservadora, basada en Sumsub, Onfido, Pindrop y Deloitte: para 2027 las pérdidas globales por fraude con deepfakes superarán los 5.000 millones de dólares al año; las plataformas que dependen solo de la detección verán degradarse su eficacia de forma estructural; quienes hayan adoptado la certificación en origen como estándar primario para el contenido sensible estarán en posición de ventaja competitiva y de cumplimiento. La transición ha empezado. La dirección no está en cuestión: la velocidad, sí.

§12-bis. Glosario: terminología de deepfake que necesitas conocer

Deepfake. Contenido sintético (imagen, vídeo, audio) generado o manipulado por IA para hacer que una persona real parezca decir o hacer algo que nunca dijo ni hizo. Acuñado en 2017 a partir de "deep learning" + "fake".

Medios sintéticos. Cualquier contenido audiovisual producido o alterado por IA generativa, incluidos, entre otros, los deepfakes. Abarca también contenido totalmente sintético sin referencia a una persona real.

Shallowfake. Manipulación editada a mano o de baja tecnología (cortes, empalmes, ralentizaciones) sin IA de por medio. Más fácil de detectar con la informática forense tradicional; el vídeo de Pelosi con el habla ralentizada de 2019 es el caso canónico.

GAN (red generativa adversaria). Una arquitectura de aprendizaje automático en la que compiten dos redes neuronales: un generador que produce contenido falso y un discriminador que distingue lo real de lo falso. La tecnología que hay detrás de los primeros deepfakes (2017-2020).

Modelo de difusión. Una arquitectura de IA generativa que aprende a producir contenido eliminando de forma iterativa el ruido aleatorio hasta obtener un resultado coherente. Impulsa Stable Diffusion, Midjourney, DALL-E y OpenAI Sora.

Detección de vida (liveness). Técnica de verificación biométrica que confirma que una persona está físicamente presente (frente a una foto, un vídeo o un deepfake) durante la verificación de identidad. Crítica para los procesos de KYC; habitualmente eludida por deepfakes sofisticados.

Certificación en origen. Sello criptográfico aplicado al contenido digital en el momento de la captura, que certifica la autenticidad desde el origen. Implementada de extremo a extremo por Data Authenticity Platforms como TrueScreen.

C2PA / Content Credentials. Estándar del sector desarrollado por la Coalition for Content Provenance and Authenticity. Incrusta en los archivos multimedia metadatos a prueba de manipulación sobre origen, autoría e historial de edición.

Dividendo del mentiroso. Concepto introducido por Chesney y Citron (2019) que describe cómo la conciencia generalizada sobre los deepfakes permite negar contenido real como "probablemente un deepfake". Derrota la detección a posteriori; solo se derrota con la certificación en origen.

Procedencia (provenance). El historial cronológico del origen y las modificaciones de un contenido. La verificación de procedencia confirma qué se le hizo a un archivo, no si refleja fielmente la realidad.

Marca de agua de IA (AI watermarking). Técnica que incrusta marcadores ocultos en el contenido generado con IA para identificarlo como sintético. Reversible por los adversarios; no es una defensa robusta por sí sola.

Sello forense. Firma criptográfica combinada con un sello de tiempo cualificado, aplicada a la prueba en forma admisible en juicio, normalmente conforme al eIDAS (UE) o a regímenes equivalentes.

Fuentes citadas

Estadísticas e informes

• Sumsub Identity Fraud Report 2025-2026
• Sumsub: fraude documental de identidad sintética +300% en EE. UU.
• Sumsub Annual Report 2026: estafas de IA agéntica
• Onfido / Entrust: un deepfake cada 5 minutos
• Entrust Fraud Report (PDF)
• iProov Threat Intelligence Report 2025
• Pindrop Voice Intelligence Report 2025
• Deloitte Center for Financial Services: 40.000 M$ para 2027
• FBI IC3 Internet Crime Report 2024 (PDF)
• Informes de Sensity AI
• WEF: detectar la IA peligrosa en la era del deepfake
• WEF: lecciones del ataque deepfake a Arup

Casos documentados

• Fortune: fraude deepfake de 25 M$ en Arup
• CNN: deepfake de Arup en Hong Kong
• Fortune: intento de deepfake en Ferrari
• MIT Sloan: cómo Ferrari frenó un deepfake de su consejero delegado
• SkyTG24: deepfake de periodistas
• Aviso de banco central sobre deepfakes
• Cybersecurity360: estafa de voz clonada
• Il Centro: clonación de voz en una estafa familiar
• NBC News: imágenes íntimas no consentidas de Taylor Swift en X
• NPR: deepfake de la rendición de Zelenski
• CBS News: el plumífero del papa Francisco
• Harvard Kennedy School: deepfake en las elecciones de Eslovaquia
• FCC: multa de 6 M$ por las llamadas de New Hampshire
• Al Jazeera: deepfakes en las elecciones de la India

Tecnología y academia

• arXiv: benchmark Deepfake-Eval-2024
• arXiv: Adversarial Attacks on Deepfake Detectors (2D-Malafide)
• ScienceDirect: metaanálisis de la detección humana de deepfakes
• ScienceDirect: revisión de la IA en los medios deepfake
• MIT Media Lab: detección humana de deepfakes políticos
• Springer: avances en la detección de deepfakes
• Chesney y Citron: artículo "Deep Fakes" en SSRN
• ElevenLabs: requisitos de muestra para la clonación de voz
• OpenAI Sora
• Precios de HeyGen
• BuzzFeed News: deepfake de Obama y Peele
• Fortune: deepfake de Tom Cruise en TikTok
• CNN: la app Zao

Normativa

• Reglamento (UE) 2024/1689 de IA, artículo 50
• TAKE IT DOWN Act: Wikipedia
• China: Deep Synthesis Provisions
• Ley 1/2000 de Enjuiciamiento Civil (LEC)
• Ley 6/2020 de servicios electrónicos de confianza
• Reglamento (UE) 910/2014 (eIDAS)
• Taylor Wessing: el DSA y los deepfakes

TrueScreen insights

• Deepfake video and biometric KYC bypass: defending bank onboarding in 2026
• Deepfakes in the 2026 Elections: Why Certified Proof Matters More Than Fact-Checking
• Deepfakes and criminal proceedings: the digital evidence crisis
• Deepfake corporate fraud: why source certification is the real defense
• AI fingerprints can be removed and forged: the Edinburgh study