Deepfake-Erkennung

Eine belastbare Einordnung verbindet technische Prüfung, Kontext, Quelle und dokumentierte Grenzen des jeweiligen Verfahrens. Sie kann Fehler machen und sollte bei möglichen Verletzungen nie als einziges Urteil dienen.

Auf einen Blick

Technische Spuren im Bild und Video

Detektoren lernen häufig Unterschiede zwischen bekannten Trainingsdaten und authentischen Medien. Sie können dabei lokale Artefakte, unnatürliche Übergänge, Inkonsistenzen von Licht oder Muster im Frequenzraum betrachten. Solche Spuren entstehen jedoch auch durch Komprimierung, Zuschnitt, Nachbearbeitung oder ungewöhnliche Aufnahmebedingungen.

Das BSI weist darauf hin, dass zahlreiche automatisierte Detektionsmethoden veröffentlicht wurden. Die Existenz eines Tools ersetzt aber keine Prüfung seiner Datenbasis, seines Einsatzbereichs und seiner Fehlerraten. Ein Ergebnis sollte als Wahrscheinlichkeit und nicht als endgültiges Urteil gelesen werden.

Frequenzanalyse und Generalisierung

Frequenzbasierte Verfahren untersuchen, wie Bildinformationen über verschiedene Detailstufen verteilt sind. Manche generativen Verfahren hinterlassen statistische Regelmäßigkeiten, die ein Klassifikator nutzen kann. Neue Modelle, andere Exportwege oder starke Bildbearbeitung können diese Regelmäßigkeiten aber verändern.

Genau hier liegt ein Kernproblem: Ein Detektor, der auf einem bekannten Datensatz gut arbeitet, muss bei unbekannten Modellen nicht gleich zuverlässig sein. Auch echte Medien können falsch markiert werden. Besonders bei Vorwürfen gegen reale Personen wäre es daher unverantwortlich, eine automatisierte Kennzahl als alleinigen Beleg zu veröffentlichen.

Provenance: C2PA und SynthID

C2PA beschreibt kryptografisch gebundene Herkunftsinformationen, häufig als Content Credentials bezeichnet. Sie können Aussagen über Erstellung und Bearbeitung eines Assets nachvollziehbar machen, sofern die Daten vorhanden und prüfbar sind. C2PA bewertet nicht automatisch die Wahrheit eines Bildes und macht Medien ohne Credentials nicht pauschal unglaubwürdig.

SynthID ist ein von Google beschriebenes Wasserzeichenverfahren für Inhalte aus unterstützten KI-Systemen. Es kann innerhalb dieses Ökosystems einen Hinweis liefern. Beide Ansätze ergänzen Detektoren, ersetzen aber weder die Prüfung der Quelle noch die Frage, ob eine Darstellung einwilligungsbasiert und zulässig ist.

Ein verantwortlicher Umgang mit Ergebnissen

Bei einer möglichen Manipulation zählen Herkunft, Veröffentlichungszeit, Vergleich mit verlässlichen Originalquellen und der mögliche Schaden. Wer betroffen ist, sollte Fundstelle und Zeitpunkt dokumentieren, das Material aber nicht weiterverbreiten. Eine Meldung kann über die einschlägigen Plattformwege oder die NCII-Meldeseite erfolgen.

Die Redaktion bietet keine forensische Dienstleistung. Ihr Zweck ist die Begriffs- und Risikoeinordnung. Eine technische Erkennung kann den Anlass für weitere Prüfung geben; sie entscheidet nicht über Persönlichkeitsschutz, Einwilligung oder Rechtsfolgen.

Warum ein einzelner Detektor nicht genügt

Ein Prüfmodell liefert oft einen Score oder eine Kategorie, aber dessen Aussagekraft hängt von Schwellenwerten, Trainingsmaterial und Bildqualität ab. Ein niedriger oder hoher Wert beantwortet nicht, wer eine Datei erstellt hat, ob sie aus dem Kontext gelöst wurde oder ob ein Schaden entstanden ist. Gerade bei heiklen Anschuldigungen ist eine unabhängige zweite Prüfung sinnvoll.

Dateimetadaten können ebenfalls fehlen, verändert oder beim Teilen entfernt worden sein. Umgekehrt können vorhandene Angaben zu einer Bearbeitung nur das belegen, was ihr Signatur- und Vertrauensmodell abdeckt. Die Kombination aus Herkunftsnachweis, technischem Hinweis und Recherche zur Quelle ist daher robuster als die Suche nach einem einzigen visuellen Fehler.

Medienkompetenz umfasst auch Zurückhaltung bei der Weitergabe. Eine Weiterverbreitung zum Zweck der vermeintlichen Prüfung kann Betroffene zusätzlich schädigen. Für journalistische oder forensische Fälle gelten eigene Sorgfaltsmaßstäbe. Diese Seite ordnet Technologien ein und verweist nicht auf Werkzeuge zur Analyse persönlicher Dateien.

Auch die Dokumentation eines Prüfwegs ist wichtig: Welche Datei, welche Version und welches Verfahren betrachtet wurden, beeinflusst das Ergebnis. Ohne diese Angaben lässt sich eine Behauptung kaum überprüfen.

Weiterführende Einordnung

KI-Bilder erkennen · Deepfake · EU AI Act · GAN · NCII melden

Für Bilder realer Personen gilt: Nur eigene Bilder oder Bilder einwilligender Erwachsener ab 18 Jahren kommen überhaupt in Betracht. Bei Unsicherheit sollte keine Verarbeitung veranlasst werden. Hinweise zum Schutz bietet Responsible AI.

Quellen und Einordnung

Die Redaktion nutzt technische Primärquellen, Standarddokumente und Behördeninformationen: BSI: Deepfakes – Gefahren und Gegenmaßnahmen, C2PA: Content Credentials Explainer, C2PA: technische Spezifikation, Google DeepMind: SynthID, NIST: Face Recognition Vendor Test. Die Quellen dienen der Nachprüfbarkeit und ersetzen keine Prüfung eines Einzelfalls.

Häufige Fragen