Was ist ein Deepfake?

Auf einen Blick

Deepfake beschreibt das Ergebnis, nicht zwingend ein bestimmtes Modell. In der Forschung werden unter anderem Verfahren des maschinellen Lernens zur Synthese, Überlagerung oder Veränderung von Medien untersucht. Für die Bewertung eines konkreten Fundes zählen Quelle, Kontext, mögliche Einwilligung und Verbreitung stärker als ein einzelnes optisches Merkmal.

Technische Erkennung kann Hinweise liefern, aber keinen sicheren Beweis ersetzen.

Technischer und gesellschaftlicher Kontext

Die technische Bezeichnung darf den Schutz von Menschen nicht überdecken. Automatisierte Verfahren können die Herstellung oder Veränderung von Bildern vereinfachen; sie beantworten jedoch weder die Frage nach einer Einwilligung noch nach einer zulässigen Veröffentlichung. Wer ein Angebot bewertet, sollte nachvollziehbare Angaben zu Regeln, Datenschutz, Löschung und Meldewegen verlangen.

Besonders bei einer erkennbaren realen Person reicht Neugier nicht als Rechtfertigung. Die Redaktion verweist daher auf Orientierung statt auf konkrete Bearbeitungsschritte. Eigene Fotos oder Bilder einwilligender Erwachsener ab 18 Jahren sind die Mindestgrenze; bei Unsicherheit sollte keine Verarbeitung veranlasst werden.

Worauf es in der Praxis ankommt

Begriffe aus der digitalen Bildwelt werden oft verkürzt verwendet. Eine sachliche Einordnung beginnt deshalb mit einfachen Fragen: Ist eine Person erkennbar, liegt eine nachweisbare Einwilligung vor, wurde ein Bild veröffentlicht oder nur lokal verändert und besteht ein konkretes Risiko für die betroffene Person?

Die Antworten können rechtliche, technische und menschliche Folgen zugleich betreffen. Allgemeine Definitionen ersetzen keine Bewertung eines Einzelfalls.

Auch Transparenz ist relevant. Die EU-KI-Verordnung enthält Vorgaben für bestimmte künstlich erzeugte oder manipulierte Inhalte. Sie schafft jedoch keine allgemeine Erlaubnis zur Nutzung fremder Bilder. Anbieterregeln, Datenschutzinformationen und Meldewege sollten verständlich dokumentiert sein.

Fehlen sie, ist Zurückhaltung angemessen. Ein bekanntes Schlagwort oder eine überzeugend wirkende Oberfläche ist kein Beleg für Sicherheit, Einwilligung oder Rechtmäßigkeit.

Für die Medienkompetenz hilft es, zwischen Herstellung, Darstellung und Weitergabe zu unterscheiden. Eine Datei kann technisch verändert sein, ohne dass daraus schon alle Folgen des späteren Teilens folgen. Umgekehrt kann gerade eine Weitergabe den Schaden verstärken.

Deshalb behandelt dieses Glossar die Themen nicht als Unterhaltung, sondern als Fragen zu Verantwortung, Schutz und nachvollziehbaren Informationen. Bei Unsicherheit sollten Betroffene oder Beobachtende Hilfe suchen, statt selbst eine Verbreitung zu verstärken.

Bei der Recherche im Netz sollten Suchbegriffe nicht mit einer Zustimmung verwechselt werden. Ein Begriff kann auf historische Berichte, Medienpädagogik, Plattformen oder problematische Werbung verweisen. Für eine verantwortliche Entscheidung lohnt es sich, die Herkunft von Aussagen zu prüfen und zwischen dem Angebot einer Drittpartei und der redaktionellen Einordnung zu unterscheiden.

Diese Seite verlinkt deshalb überwiegend auf Gesetze, Behörden und Bildungsangebote statt auf einzelne technische Dienste.

Datenschutz betrifft nicht nur die Bilddatei selbst. Auch Kontoangaben, Zahlungsinformationen, Gerätekennungen und Kommunikationsdaten können relevant sein. Bevor jemand einen externen Dienst nutzt, sollten dessen aktuelle Hinweise zu Verarbeitung, Aufbewahrung und Beschwerdewegen gelesen werden.

Bei Bildern anderer Personen gilt besonders: Fehlt die eindeutig erklärte Einwilligung eines volljährigen Menschen, sollte keine Nutzung erfolgen. Das ist eine Schutzregel, nicht nur eine Formalität.

Einordnung und nächste Schritte

Bei einer möglichen Verletzung ist Ruhe wichtig. Dokumentieren Sie Fundort, Link, Zeitpunkt und sichtbare Konten, ohne das Material weiterzusenden. Plattformmeldungen können sinnvoll sein; bei einer Bedrohung, Erpressung oder einem Straftatverdacht kommen auch Polizei und qualifizierte Beratung in Betracht. Die hier genannten Rechtsnormen sind keine abschließende Bewertung eines Einzelfalls.

Bei intimen Manipulationen hilft die Einordnung zu NCII. Rechtliche Begriffe werden unter § 201a StGB erläutert. Hinweise zur Prüfung und zum Vorgehen bieten KI-Bilder erkennen, Deepfake von mir: was tun? und NCII melden.

Quellen und Einordnung

Für die rechtliche und medienpädagogische Orientierung nutzt die Redaktion Primärquellen und fachliche Informationsangebote: § 184k StGB, § 201a StGB, EU-KI-Verordnung, KJM, klicksafe und BfDI. Die Links ersetzen keine Prüfung des Einzelfalls.

Verantwortliche Informationsnutzung

Eine gute Einordnung erkennt auch ihre Grenzen. Öffentliche Quellen können Regeln und Hintergründe erklären, aber sie sehen nicht alle Details eines Vorfalls. Das gilt besonders für Aussagen zu Einwilligung, Identifizierbarkeit und möglichem Schaden.

Wer selbst betroffen ist, sollte Unterstützung wählen, die zum konkreten Fall passt, und keine persönlichen Daten oder Bilddateien leichtfertig an unbekannte Stellen übermitteln.

Die Redaktion verfolgt keine technische Anleitung und keine Vermarktung von Bildmanipulation. Ihr Zweck ist die verständliche Trennung von Begriffen, Risiken, Rechtsquellen und Hilfe. Änderungen an Gesetzen oder Standards können die Einordnung verändern. Die verlinkten Originaltexte sind deshalb die geeignetere Grundlage für eine weitergehende Prüfung.

Häufige Fragen