PreiseAnmelden

Deepfakes und KI-Avatare.

Geprüft am

Kurzantwort

Ein Deepfake ist nach Artikel 3 Nummer 60 der KI-Verordnung „ein durch KI erzeugter oder manipulierter Bild-, Ton- oder Videoinhalt, der wirklichen Personen, Gegenständen, Orten, Einrichtungen oder Ereignissen ähnelt und einer Person fälschlicherweise als echt oder wahrheitsgemäß erscheinen würde“; wer KI beruflich nutzt und einen Deepfake verbreitet, muss das beim ersten Kontakt deutlich offenlegen. Realistische KI-Avatare zählen dazu: Die Leitlinien der Kommission nennen etwa einen synthetischen Avatar des Firmenchefs und einen KI-generierten Influencer in einer Werbung.

Amtliche Quellen: KI-Verordnung, Artikel 3 Nummer 60 · Leitlinien der Kommission zu Artikel 50

Die vier Merkmale

Die Merkmale eines Deepfakes nach Artikel 3 Nummer 60, wie die Leitlinien der Kommission sie auslegen
MerkmalBedeutungKein Deepfake, etwa
ÄhnlichkeitEine hohe, deutlich wahrnehmbare Ähnlichkeit, im Einzelfall beurteilt; sie muss nicht identisch sein—
WirklichÄhnelt jemandem oder etwas, das existiert, plausibel existieren könnte oder existiert haben könnteMenschen, die ohne Hilfsmittel fliegen; Drachen; Elefanten am Steuer
Personen, Gegenstände, Orte, Einrichtungen oder EreignisseEinschließlich digitaler Nachbildungen, realistischer KI-Avatare und Merkmale wie Stimme oder Verhalten—
Erscheint fälschlich echtBeurteilt nach dem Inhalt als Ganzem, Aussage, Kontext und erwartbarem Publikum; Täuschungsabsicht ist nicht nötigHintergründe oder Spezialeffekte in einer üblichen Filmproduktion

KI-Avatare, digitale Menschen und synthetische Influencer

Eine realistische KI-Person ist für diesen Test eine „Person“, auch wenn es sie nicht gibt, weil sie plausibel existieren könnte. Zu den Beispielen der Leitlinien gehören ein realistischer Avatar des Firmenchefs, der dem Team gratuliert, ein KI-generierter prominenter Influencer in einer Werbung und ein realistischer synthetischer Influencer, der ein gesponsertes Produkt testet.

Kunst, Satire, Fiktion: leichter, aber nicht befreit

Beispiele aus den Leitlinien: vereinfachter Hinweis oder voller Hinweis
Vereinfachter Hinweis (offensichtlich künstlerisch)Voller Hinweis (nicht offensichtlich künstlerisch)
Filme oder Trailer mit verjüngten Schauspielern oder digitalen Nachbildungen verstorbener SchauspielerEin Video im Stil von Teleshopping mit simulierten Kunden, die ein Produkt verkaufen
KI-Musik im individuellen Stil bestehender KünstlerKI-Bilder von Prominenten bei Dingen, die nie geschehen sind, ohne satirischen oder fiktionalen Zweck
Ein manipuliertes Bild eines Politikers in einer Szene, die seine Politik erkennbar humorvoll kritisiertEin realistischer synthetischer Influencer, der ein gesponsertes Produkt testet

Das Werk muss für sein Publikum offensichtlich künstlerisch, kreativ, satirisch oder fiktional sein, und die Leitlinien legen das eng aus: Ist der Inhalt mehrdeutig oder mischt er Information und Kreativität, überwiegt der informierende Charakter, und es gilt der normale Hinweis.

Ab 2. Dezember 2026 verboten, nicht nur kennzeichnungspflichtig

Die Verordnung (EU) 2026/1744 hat Artikel 5 um zwei Verbote ergänzt: KI-Systeme, die realistische Bilder, Videos oder Töne mit intimen Körperteilen oder sexuellen Handlungen einer bestimmbaren Person ohne deren freie Einwilligung erzeugen oder manipulieren, und KI-Systeme, die Darstellungen sexuellen Kindesmissbrauchs erzeugen (verbotene Praktiken).

Plattformregeln für Deepfakes

Was Plattformen auf ihren eigenen Seiten zu Deepfakes verlangen
PlattformRegelQuelle
YouTubeOffenlegung bei realistischen Inhalten, die etwa zeigen, dass eine echte Person verhaftet wird, eine bekannte Person stiehlt oder jemand Ratschläge gibt, die er nie gegeben hatYouTube
Facebook, Instagram, ThreadsKennzeichnet KI-Inhalte und kann einen deutlicheren Hinweis setzen, wenn digital erstellte oder veränderte Bilder, Videos oder Töne die Öffentlichkeit bei wichtigen Themen besonders stark täuschen könntenMeta
TikTokVerlangt Hinweise auf KI-generierte oder stark bearbeitete realistische Szenen oder Personen und lässt Inhalte, die über wichtige öffentliche Angelegenheiten täuschen oder Einzelnen schaden, auch mit Hinweis nicht zuTikTok
Google Ads (Wahlwerbung)Werbetreibende müssen Wahlwerbung mit synthetischen oder digital veränderten Inhalten offenlegen, die echte oder realistisch wirkende Personen oder Ereignisse unecht darstellenGoogle Ads

Fragen

Sind Deepfakes in der EU verboten?
Nach der KI-Verordnung nicht grundsätzlich: Berufliche Betreiber müssen sie offenlegen. Ab dem 2. Dezember 2026 sind zwei Arten verboten, sexuelle Deepfakes bestimmbarer Personen ohne Einwilligung und Darstellungen sexuellen Kindesmissbrauchs; daneben können für jeden Deepfake andere Gesetze greifen, etwa Datenschutz oder Persönlichkeitsrechte.
Braucht eine Parodie einen Hinweis?
Ja, aber einen leichteren, wenn sie für ihr Publikum offensichtlich satirisch ist: Der Hinweis darf das Werk nicht beeinträchtigen. Die Leitlinien nennen ein humorvoll manipuliertes Bild eines Politikers, das seine Politik kritisiert, und legen „offensichtlich“ eng aus.

Quellen

Zuletzt geprüft am von Volkan Çatak, Gründer, Proofcan.

Keine Rechtsberatung. Diese Seite erklärt amtliche Texte in einfachen Worten und verlinkt jeden davon; prüfen Sie die Quellen oder fragen Sie eine Anwältin oder einen Anwalt, bevor Sie eine Entscheidung darauf stützen.