Deepfakes erkennen: warum Erkennungssoftware an ihre Grenzen stößt

Veröffentlicht am 19. August 2026

KI-Bilder sind längst keine Laborkuriosität mehr. Sie stehen in Feeds, in Chats und auf Titelseiten, und oft lassen sie sich von einer echten Aufnahme nicht unterscheiden. Die naheliegende Lösung schien einfach: Software soll entscheiden, ob ein Inhalt echt oder gefälscht ist. Dann veröffentlichte NewsGuard am 11. Mai 2026 einen unabhängigen Bericht mit einem unbequemen Befund. Die führenden Werkzeuge zur Deepfake-Erkennung irren sich, und zwar häufig. Sie erklären echte Aufnahmen für manipuliert und manipulierte für echt.

Wenn sich nicht einmal den Erkennungsprogrammen trauen lässt, bleibt die Frage, wie sich Echtes von Gefälschtem trennen lässt. Die kurze Antwort: Wir führen den falschen Kampf. Die nachgelagerte Erkennung, also die Analyse bereits vorhandener Inhalte, ist ein Wettlauf, der von Anfang an verloren ist. Die Verteidigung, die trägt, läuft in die andere Richtung. Sie beglaubigt die Echtheit jeder Information an der Quelle, im Moment der Aufnahme, mit rechtlicher Belastbarkeit.

Das Vorzeichen hat sich umgekehrt. Wir leben nicht mehr in einer Welt, in der etwas wahr ist, solange das Gegenteil nicht bewiesen wird, sondern in einer, in der etwas als unbelegt gilt, solange die Echtheit nicht an der Quelle erklärt wurde.

Warum Software zur Deepfake-Erkennung unzuverlässig ist

Die führenden Erkennungswerkzeuge versagen systematisch, und die Zahlen lassen wenig Spielraum für Auslegung. NewsGuard prüfte fünf Werkzeuge an einer Stichprobe von 45 echten Bildern, aufgeteilt in drei Gruppen: 15 unveränderte, 15 leicht bearbeitete und 15 stark manipulierte.

Das vernichtendste Ergebnis betrifft die falsch positiven Befunde. Im Mittel wurden 13,33 Prozent der echten Bilder als KI-generiert eingestuft, das schlechteste Werkzeug kam auf 40 Prozent. Anders gesagt: Etwa jede siebte echte Fotografie läuft Gefahr, von einem Erkennungsprogramm als Fälschung abgestempelt zu werden. Das war kein Ausreißer und lag nicht an einem einzelnen fehlerhaften Produkt. Dasselbe Verhalten zeigte sich bei allen getesteten Werkzeugen, was auf eine strukturelle Grenze der Methode hindeutet und nicht auf einen Kalibrierungsfehler.

Falsch positive Befunde: das Echte wird zur Fälschung erklärt

Der heimtückischste Schaden der nachgelagerten Erkennung besteht nicht darin, dass eine Fälschung durchrutscht. Er besteht darin, dass sie Echtes verurteilt. Die NewsGuard-Stichprobe stammte überwiegend aus Kriegs- und Konfliktkontexten, in denen die Echtheit einer einzigen Aufnahme die öffentliche Meinung bewegen und politische Entscheidungen prägen kann. Eines der geprüften Werkzeuge stufte ein echtes Video mit einer Wahrscheinlichkeit von 96,9 Prozent als Fälschung ein, also mit nahezu vollständiger Sicherheit und dabei vollständig falsch.

Wenn ein Erkennungsprogramm mit derart anmutender Gewissheit bescheinigt, ein echtes Dokument sei künstlich, liefert es jedem ein fertiges Alibi, um Belege zu bestreiten. Die Aufnahme eines Verstoßes wird mit einem Klick zur Fälschung, weil die Software es sagt. Ein Werkzeug, das Manipulation aufdecken sollte, deckt sie am Ende zu.

Falsch negative Befunde und fehlende gemeinsame Maßstäbe

Das zweite Problem ist eine grundlegende Uneinigkeit zwischen den Systemen. NewsGuard stellte fest, dass die fünf Werkzeuge bei 35 der 45 Bilder zu unterschiedlichen Urteilen kamen. Sie stimmten also in weniger als einem von vier Fällen überein. Derselbe Inhalt kann durch verschiedene Erkennungsprogramme mit gegenteiligen Etiketten zurückkommen. Es gibt weder ein gemeinsames Kriterium noch eine objektive Schwelle.

Zugleich werden KI-Bilder immer realistischer und Deepfake-Videos immer sauberer, die Grenzen verwischen, und die falsch negativen Befunde steigen mit der Qualität der Generatoren. Das ist die eingebaute Grenze jeder Deepfake-Erkennung: Sie misst eine Wahrscheinlichkeit, keine Gewissheit. Das Problem ist nicht ein fehlerhaftes Produkt, sondern die Methode der nachträglichen Prüfung selbst.

Warum die nachgelagerte Erkennung ein verlorener Wettlauf ist

Deepfakes zu erkennen ist auf Verlieren angelegt, weil die Methode einer Technik hinterherläuft, die sich schneller bewegt als sie. Erkennung analysiert vorhandene Inhalte und sucht nach Artefakten: auffällige Pixel, Schatten, die nicht zusammenpassen, Bewegungen, die minimal falsch wirken. Der Haken ist, dass jedes Signal, das ein Erkennungsprogramm zu finden lernt, für den Fälschenden zu einem Mangel wird, den die nächste Version behebt.

Der Wettlauf ist bauartbedingt unausgewogen. Die Verteidigung reagiert, der Angriff ist bereits einen Zug voraus. Jedes neue generative Modell erscheint mit der Fähigkeit, die Erkennungsprogramme des vorherigen zu schlagen, und die Lücke schließt sich nie, sie verschiebt sich nur. Deshalb altert ein System, das auf nachträglicher Analyse beruht, schneller als die Bedrohung, der es begegnen soll.

Die Erkennung verfolgt, die Erzeugung läuft schneller

Wer heute einen Deepfake erzeugt, kann sein Modell gegen die verbreitetsten Erkennungsprogramme trainieren und die verräterischen Merkmale eines nach dem anderen entfernen. Beim Gesichtstausch waren früher unscharfe Kanten oder nicht zueinander passende Spiegelungen in den Augen erkennbar, heute ist das Ergebnis deutlich sauberer.

Eine Untersuchung der University of Edinburgh vom März 2026 hat gezeigt, wie brüchig die Fingerabdrücke sind, auf denen die Erkennung aufbaut: Was heute unterscheidbar wirkt, verschwindet mit dem nächsten Update des Generators. Für alle, die die Echtheit eines Beweismittels verteidigen müssen, ist die Schlussfolgerung unmissverständlich. Die Fälschung im Nachhinein zu jagen skaliert nicht.

Das Vorzeichen hat sich umgekehrt

Jahrzehntelang galt eine Fotografie oder ein Video als wahr, solange nichts anderes bewiesen war, aus dem schlichten Grund, dass Fälschungen seltene Fähigkeiten und seltene Werkzeuge erforderten. Die generative KI hat diese Annahme zerrissen. Heute könnte jeder Inhalt synthetisch sein, also verschiebt sich die Last: Die Frage lautet nicht mehr, ob sich etwas als falsch beweisen lässt, sondern ob sich etwas als wahr beweisen lässt.

Die Vermutung der Echtheit, die Fotos, Videos und Dokumente früher stützte, fällt weg, und mit ihr die Vorstellung, das bloße Betrachten eines Inhalts genüge, um ihm zu trauen. Wer geglaubt werden will, muss den Beleg mitbringen, und zwar einen, der entstanden ist, bevor der Zweifel Fuß fassen konnte.

Diese Umkehrung hat einen perfiden Nebeneffekt, bekannt als die Dividende des Lügners. Sobald allgemein bekannt ist, dass es Deepfakes gibt und dass sich sogar die Erkennungsprogramme irren, kann jeder, der bei etwas Belastendem gefilmt wurde, es einfach bestreiten: Das sei eine KI-Fälschung. Die Unzuverlässigkeit der Erkennung ist hier keine technische Fußnote, sie ist der Treibstoff. Je häufiger sich die Werkzeuge widersprechen, desto leichter lassen sich auch echte Beweise anzweifeln.

Was Beglaubigung an der Quelle bedeutet

TrueScreen, the Data Authenticity Platform, kehrt die Logik der Erkennung um: Statt einen Inhalt zu analysieren, um zu entscheiden, ob er gefälscht ist, wird seine Echtheit im Moment der Aufnahme beglaubigt und in einem forensischen Bericht mit Rechtswert festgehalten.

An der Quelle zu beglaubigen heißt, am Ursprung zu handeln und nicht im Nachhinein. Der Inhalt wird nach forensischer Methodik erfasst, auf einen eindeutigen digitalen Fingerabdruck (SHA-256-Hash) reduziert und mit einem qualifizierten Zeitstempel und einem elektronischen Siegel eines qualifizierten Vertrauensdiensteanbieters versehen, angebunden über eIDAS-konforme Schnittstellen. Von diesem Moment an ist jede Veränderung erkennbar, und die Echtheit hängt nicht mehr von der Einschätzung eines Erkennungsprogramms ab, sondern ruht auf einem objektiven, überprüfbaren Nachweis.

Erfassung und Beglaubigung in einem einzigen Vorgang

Die Stärke der Methode liegt darin, dass Erfassung und Beglaubigung zu einem einzigen Vorgang verschmelzen. Über die TrueScreen-App oder das Web-Portal nimmt die Nutzerin ein Foto, ein Video oder eine Webseite auf, und im selben Augenblick sichert das System die Integrität: Es berechnet den Hashwert, bringt Zeitstempel und Siegel über den angebundenen Vertrauensdiensteanbieter an und erzeugt einen Bericht mit Beweiswert.

Es geht also nicht darum, ein Siegel auf vorhandene Daten unbekannter Herkunft zu setzen, sondern den Inhalt ab seiner Entstehung zu beglaubigen. Die Methodik stützt sich auf anerkannte Standards: eIDAS für qualifizierten Zeitstempel und elektronisches Siegel über einen Vertrauensdiensteanbieter, ISO/IEC 27037 für den Umgang mit digitalen Beweismitteln.

Unveränderlichkeit an der Quelle statt nachträglicher Analyse

Der praktische Unterschied zwischen den beiden Ansätzen ist scharf.

Ein Erkennungsprogramm versagt umso häufiger, je besser die generativen Modelle werden. Ein an der Quelle beglaubigter Nachweis bleibt gültig, gleich wie ausgefeilt Deepfakes werden. Unveränderlichkeit erreicht man nicht, indem man Fehler in der Fälschung sucht, sondern indem man die Wahrheit des Echten genau an dem Punkt festhält, an dem sie die digitale Welt betritt.

Was sich für Redaktionen, Behörden und Unternehmen ändert

Für Redaktionen, öffentliche Stellen und Unternehmen bedeutet die Beglaubigung an der Quelle, digitale Nachweise zu erzeugen, die von Anfang an nicht bestreitbar sind. Damit entfällt an der Wurzel das Risiko, die eigene Arbeit mit dem Hinweis abgetan zu sehen, sie sei vermutlich gefälscht.

Die Änderung ist konkret. Eine Journalistin, die ein Ereignis mit der App aufzeichnet, hält am Ende eine Datei in der Hand, deren Echtheit vor Gericht nicht angreifbar ist. Die Dividende des Lügners verschwindet, weil der Nachweis bereits in dem Moment beglaubigt ist, in dem er entsteht, und niemandem eine Öffnung lässt, ihn als KI-Erzeugnis abzutun.

Dasselbe gilt für die Schadenregulierung, für die Bauabnahme, für die interne Untersuchung und für jedes Verfahren, in dem eine Aufnahme später eine Entscheidung tragen muss. Die Frage ist nicht mehr, ob sich eine Fälschung erkennen lässt, sondern ob das eigene Material den Zweifel überhaupt zulässt.