Deepfake-Definition: Was ein Deepfake ist und wann Sie ihn kennzeichnen müssen

Was sind Deepfakes? Die Definition in drei Sätzen

Deepfakes sind Bilder, Töne oder Videos, die mit KI erzeugt oder verändert wurden, echten Personen, Gegenständen, Orten, Lebewesen oder Ereignissen merklich ähneln und auf Betrachter echt wirken könnten. Ob jemand täuschen wollte, spielt keine Rolle. Auch ein echtes Foto wird zum Deepfake, wenn eine KI-Bearbeitung verändert, was der Betrachter für real hält.

So definiert der AI Act den Begriff in Art. 3 Nr. 60:

„einen durch KI erzeugten oder manipulierten Bild-, Ton- oder Videoinhalt, der wirklichen Personen, Gegenständen, Orten, Einrichtungen oder Ereignissen ähnelt und einer Person fälschlicherweise als echt oder wahrheitsgemäß erscheinen würde“

Zwei Wörter brauchen eine Übersetzung. „Ähnelt“ meint nach Erwägungsgrund 134 der Verordnung ein merkliches Ähneln: nicht identisch, aber deutlich erkennbar. „Einrichtungen“ meint keine Behörden. Die Leitlinien der EU-Kommission zu den Transparenzpflichten vom Juli 2026, an denen sich die Aufsichtsbehörden orientieren, verstehen darunter realistische Lebewesen, die keine Menschen sind, etwa Tiere.

Im Alltag hat das Wort Deepfake eine andere Bedeutung als im Gesetz. Gängige Glossare und Behördenseiten, etwa die des Bundesamts für Sicherheit in der Informationstechnik (BSI), stammen oft aus der Zeit vor dem AI Act und beschreiben Deepfakes mit Blick auf Betrug und Desinformation. Der Rechtsbegriff ist nüchterner und anders geschnitten: weiter, weil er keine Täuschungsabsicht verlangt und auch harmlose und werbliche Inhalte erfasst, etwa den KI-Avatar der Geschäftsführung im Mitarbeitervideo; enger, weil Text nicht dazugehört.

Ob ein Bild ein Deepfake ist, ist eine Rechtsfrage; ob man es ihm ansieht, eine technische (Deepfake-Erkennung und ihre Grenzen). Die Rechtsfrage beantwortet die Kommission mit vier Prüfschritten.

Wie prüft die EU-Kommission, ob ein Inhalt ein Deepfake ist?

Die EU-Kommission zerlegt die Deepfake-Definition in ihren Leitlinien in vier Kriterien: Ähnlichkeit mit etwas Realem, plausible Existenz, ein realer Bezug (Personen, Gegenstände, Orte, Lebewesen oder Ereignisse) und ein fälschlich echter Eindruck. Alle vier Punkte müssen zutreffen, sonst ist der Inhalt kein Deepfake.

Die Prüfung ist Sache des Betreibers, also des Unternehmens, das ein KI-System in eigener Verantwortung nutzt und den Inhalt beruflich einsetzt (zur Rollenverteilung mit Agenturen: Wer muss KI-Bilder kennzeichnen?). Die vier Prüfschritte in Alltagssprache:

1. Ähnelt der Inhalt etwas Realem? Hohe Ähnlichkeit reicht, Identität ist nicht nötig; es zählen erkennbare, charakteristische Merkmale.
2. Existiert das Gezeigte, oder könnte es plausibel existieren? Ein Drache oder ein Auto fahrender Elefant scheidet aus.
3. Geht es um Personen, Gegenstände, Orte, Lebewesen oder Ereignisse? Dazu zählen realistische KI-Avatare und geklonte Stimmen, Gebäude, Konsumgüter, Tiere und dargestellte Dienstleistungen.
4. Würde ein Betrachter den Inhalt fälschlich für echt oder wahr halten? Bewertet wird der Gesamteindruck aus Ähnlichkeit, Botschaft, Verwendungskontext, Umgebung und Publikum. Die Absicht des Verwenders spielt keine Rolle.

Schritt vier entscheidet die meisten Alltagsfälle; die Bewertung ist nach den Leitlinien objektiv. Auch ein KI-Bild einer Person, die es nie gab, kann ein Deepfake sein, wenn die Person so existieren könnte und der Inhalt echt wirkt. Maßstab ist kein gedachter Durchschnittsbetrachter. Es zählt das vernünftigerweise vorhersehbare Publikum in seiner ganzen Bandbreite, einschließlich Kindern und Menschen mit wenig KI-Erfahrung; wirkt der Inhalt auf einen Teil davon echt, kann das genügen. Eine unvorhersehbare Weiterverbreitung durch Dritte müssen Sie nicht einkalkulieren.

Merken Sie sich einen Satz: Nicht die Absicht zählt, sondern der Eindruck. Derselbe Satz entscheidet, wo die normale Bildbearbeitung endet.

Wo endet die normale Bildbearbeitung, wo beginnt der Deepfake?

Farbkorrektur, Rauschunterdrückung, Lichtanpassung und übliche Retusche machen aus einem echten Foto keinen Deepfake. Die Grenze liegt dort, wo die Bearbeitung verändert, was der Betrachter für real hält.

Der AI Act erfasst neben erzeugten auch „manipulierte“ Inhalte, also bestehende Inhalte, die ein KI-System verändert hat; ein bearbeitetes echtes Foto kann deshalb ein Deepfake sein. Die Kommission zählt auf, welche KI-Eingriffe dafür unerheblich sein können:

• Hintergrunddetails bereinigen, etwa Passanten entfernen.
• Licht und Belichtung anpassen.
• Tonparameter anpassen, etwa Lautstärke und Klang.
• Farben korrigieren, Bildrauschen reduzieren oder entfernen.
• Barrierefreiheit verbessern oder die Datei komprimieren.
• Kosmetische Korrekturen und übliche Retusche vornehmen.

Was darunterfällt, hängt vom Kontext und der Wirkung im Einzelfall ab. Für Produktwerbung und Verpackungen nennt die Kommission fünf Bearbeitungen mit voraussichtlich nur geringer Auswirkung auf den Eindruck von Anzeige und Produkt: KI-Farbkorrektur, Erweiterung des vorhandenen Hintergrunds, Anpassung oder Austausch des Hintergrunds zu klar ästhetischen Zwecken, Arrangements vorhandener Produkte und Skalierung. Journalistische Bilder unterliegen einem strengeren Maßstab; derselbe Eingriff kann im Produktbild Bagatelle und im Nachrichtenbild Deepfake sein.

Ein Beispiel aus dem Maklerbüro: Wer das Foto eines Wohnzimmers aufhellt und die KI den Mülleimer vor der Terrassentür entfernen lässt, ändert nichts an dem, was Interessenten über die Wohnung erfahren. Erscheint der Raum durch die Bearbeitung größer oder anders eingerichtet, als er ist, kippt das Bild nach unserer Einschätzung zum Deepfake.

Deepfake-Beispiele: Drei Situationen aus dem Unternehmensalltag

Ob ein Bild ein Deepfake ist, hängt davon ab, ob der Betrachter etwas für echt hält, das so nicht existiert. Fotorealismus macht das wahrscheinlicher, ist allein aber nicht entscheidend.

Die Beispiele der Kommission, übertragen auf drei Paare aus dem Unternehmensalltag und einen Grenzfall aus der Produktwerbung:

Beim Mitarbeitervideo ändert der interne Rahmen nichts an der Einordnung, nur an der Form der Offenlegung: Der Code of Practice on Transparency of AI-Generated Content, der Praxisleitfaden der EU zu diesen Pflichten, sieht für seine Unterzeichner bei rein interner Nutzung einen Hinweis vorab vor. Wie Sie Avatare und Stimmen kennzeichnen: Deepfakes kennzeichnen: was sichtbar sein muss.

In allen sieben Zeilen entscheidet dieselbe Frage. Zwei Fallgruppen folgen eigenen Regeln: kreative Werke und Text.

Sonderfälle: Kunst, Satire, Werbung und Text

Offensichtlich künstlerische, kreative, satirische oder fiktionale Werke bleiben kennzeichnungspflichtig, dürfen aber dezenter gekennzeichnet werden. Werbung profitiert davon nur in besonderen Fällen, und Text ist nie ein Deepfake.

Der AI Act sieht für Inhalte, die Teil eines „offensichtlich künstlerischen, kreativen, satirischen, fiktionalen oder analogen Werks oder Programms“ sind, eine abgeschwächte Offenlegung vor: Sie beschränkt sich darauf, den KI-Ursprung „in geeigneter Weise offenzulegen, die die Darstellung oder den Genuss des Werks nicht beeinträchtigt“ (Art. 50 Abs. 4 AI Act). Der Code of Practice der EU nennt dafür etwa ein Label neben dem Bild oder einen Hinweis im Abspann.

Die Kommission legt „offensichtlich“ eng aus: Kreative Werke beruhen auf kreativen Entscheidungen; was vor allem funktionalen oder technischen Zwecken dient, zählt nicht dazu. Ist der Charakter für das Publikum unklar oder ist der Inhalt erkennbar rein informativ, etwa eine Nachricht, oder kommerziell, gilt die abgeschwächte Offenlegung nicht; bei Mischformen geht der informative Charakter vor.

Für Werbung heißt das: in der Regel volle Kennzeichnung; nur in eng umrissenen Situationen gilt eine Anzeige nach den Leitlinien als offensichtlich kreatives Werk. Die Beispiele der Kommission ziehen die Linie: Bei einem Kinofilm mit digital verjüngtem Schauspieler genügt die abgeschwächte Offenlegung, bei einem Teleshopping-Spot mit KI-Menschen oder einem synthetischen Influencer mit gesponsertem Produkt nicht.

Text ist kein Deepfake: Der Begriff erfasst nur Bild-, Ton- und Videoinhalte (Art. 3 Nr. 60 AI Act). Für KI-Texte gilt eine eigene, engere Regel: Sie betrifft veröffentlichte Texte zu Angelegenheiten von öffentlichem Interesse; Werbetexte und Produktbeschreibungen erfasst sie in der Regel nicht. Die Einzelheiten stehen im Überblick zur KI-Kennzeichnungspflicht.

Was folgt aus der Einordnung als Deepfake?

Ist der Inhalt ein Deepfake und setzen Sie ihn beruflich ein, müssen Sie seit dem 2. August 2026 sichtbar offenlegen, dass er KI-erzeugt oder KI-verändert ist. Die maschinenlesbare Markierung durch das KI-Tool ersetzt das nicht.

Im Gesetz heißt es: „Betreiber eines KI-Systems, das Bild-, Ton- oder Videoinhalte erzeugt oder manipuliert, die ein Deepfake sind, müssen offenlegen, dass die Inhalte künstlich erzeugt oder manipuliert wurden“ (Art. 50 Abs. 4 AI Act). Eine Übergangsfrist gibt es nicht; ausgenommen ist allein die gesetzlich zugelassene Aufdeckung, Verhütung, Ermittlung oder Verfolgung von Straftaten.

„Offenlegen“ heißt: für Menschen wahrnehmbar, etwa durch ein sichtbares oder hörbares Label, ohne Werkzeug und ohne Klick, spätestens wenn das Publikum den Inhalt zum ersten Mal wahrnimmt. Auf die maschinenlesbare Markierung, die der Anbieter Ihres KI-Tools (das Unternehmen hinter dem Generator) in die Datei einbettet, können Sie sich nach den Leitlinien nicht stützen; sie dient dessen Pflicht und lässt Ihre offen. Wie das Label aussieht: Deepfakes kennzeichnen: was sichtbar sein muss. Der Ablauf vom ersten Bild bis zum Nachweis: KI-Bilder kennzeichnen: Schritt für Schritt.

Das Label ist kein Urteil über das Bild: Nach dem Code of Practice der EU informiert es über den künstlichen Ursprung, so wie eine Zutatenliste sagt, was drin ist, und nicht, ob es schmeckt. Die Einordnung ist der Schritt, den niemand für Sie erledigt; das Label danach ist Handwerk.

Fazit: Die Deepfake-Definition ist ein Prüfergebnis, kein Vorwurf

Das Problem ist das Wort. Im Alltag klingt „Deepfake“ nach Betrug, im AI Act ist es ein nüchterner Rechtsbegriff, der auch das KI-Model im Onlineshop oder das KI-möblierte Zimmer im Exposé erfasst, während Farbkorrektur und Retusche außen vor bleiben. Die Pflicht dahinter: Wer ein KI-System in eigener Verantwortung nutzt und solche Inhalte beruflich einsetzt, muss seit dem 2. August 2026 sichtbar offenlegen, dass KI im Spiel war. Zu tun ist zweierlei: Prüfen Sie jedes KI-Bild anhand der vier Prüfschritte, und dokumentieren Sie die Entscheidung, auch wenn sie „kein Deepfake“ lautet. Im Zweifel gilt: kennzeichnen. Alle Beiträge der Serie: Überblick zur KI-Kennzeichnungspflicht.

Dafür haben wir mintys gebaut, die KI-Kennzeichnungsapp von on:mint. mintys prüft jedes Bild vor und schlägt vor, ob es überhaupt ein Label braucht, denn gelabelt wird nur, was gelabelt werden muss; die Entscheidung treffen Sie, und für jedes Bild ohne Label ist der Grund festgehalten. Fällt die Entscheidung auf „Ja“, setzt mintys das sichtbare Label ins Bild, trägt dieselbe Kennzeichnung maschinenlesbar nach C2PA in die Datei ein (C2PA ist ein offener Standard für Herkunftsangaben direkt in der Datei) und sichert beides mit einem unsichtbaren Wasserzeichen in den Bildpunkten ab, das Zuschnitt, Kompression und erneutes Hochladen übersteht (KI-Wasserzeichen: was bleibt, wenn die Metadaten verschwinden). So bleibt nachweisbar, wann und von wem gekennzeichnet wurde: ein digitaler Pass für Ihr Bild. Wie mintys im Einzelnen arbeitet: KI-Kennzeichnung mit mintys.

Ob ein Bild im Netz eine Kennzeichnung trägt, zeigt on:mint Verify, eine kostenlose Browser-Erweiterung für Chrome: Sie prüft per Rechtsklick jedes Bild im Netz auf Content Credentials, on:mint-Herkunftsnachweise und KI-Kennzeichnung. on:mint hat den Code of Practice on Transparency of AI-Generated Content unterzeichnet und kennzeichnet nach dessen Verfahren. Die EU-Kommission hat den Code im Juli 2026 als angemessenes Instrument bestätigt, um die Kennzeichnungspflichten zu erfüllen; nach ihren Leitlinien ist er der bislang einzige EU-weit anerkannte praktische Rahmen, um die Einhaltung zu belegen. Wer mit mintys kennzeichnet, kennzeichnet im Einklang mit dem Code und kann mit weniger Auskunftsersuchen der Aufsicht rechnen: Zusätzliche Nachweise erwarten die Leitlinien vor allem von Unternehmen, die ihre Kennzeichnung nicht an einem anerkannten Kodex ausrichten.

Zum Kostenrisiko: Der AI Act sieht für Verstöße gegen die Kennzeichnungspflicht Geldbußen von bis zu 15 Millionen Euro oder, bei Unternehmen, bis zu 3 Prozent des weltweiten Jahresumsatzes vor, je nachdem, welcher Betrag höher ist. Für kleine und mittlere Unternehmen gilt der jeweils niedrigere Betrag. Dazu kommt die Abmahnung: Die Wettbewerbszentrale wertet Verstöße gegen den AI Act als unlauteren Wettbewerb und hat im Juli 2026 eine Beschwerdestelle für KI-Fälle eingerichtet, ausdrücklich auch für fehlende oder falsche Kennzeichnung KI-generierter Werbung. Mit Abmahnungen, also Unterlassungsaufforderungen samt Kostennote, ist deshalb zu rechnen. Was ein Verstoß im Einzelnen kostet: Was ein Verstoß kostet.

Drei Wege im Vergleich. Gegenüber dem Betrachter zählt allein das sichtbare Label; der Nachweis zählt, wenn Dritte Ihr Bild ohne Label weiterverbreiten oder jemand bestreitet, dass es gekennzeichnet war:

Mit mintys erfüllen Sie Ihre Kennzeichnungspflicht nach dem AI Act ganz einfach in einem Durchgang: einordnen, Label ins Bild, Content Credential in die Datei, Wasserzeichen in die Bildpunkte, Nachweis inklusive. Sichtbar kennzeichnen nach Art. 50 AI Act: Jetzt KI-Bilder kennzeichnen.

Häufig gestellte Fragen