Generative KI wird im AI Act nicht als Hochrisikotechnologie eingestuft – es bleibt also jedem möglich, KI in seinen Workflows umfangreich zu verwenden. Aber ab August gilt eine strenge Kennzeichnungspflicht für realistische „Deepfake“-Inhalte. Das gilt für realistische Darstellungen von Personen genauso wie für generierte Stimmen.
Kennzeichnungspflicht für synthetische Medien: Realistische Bilder, Videos, Audioinhalte und Deepfakes müssen als solche erkennbar sein - für Mensch und Maschine. Computer müssen also z. B. über Metadaten erkennen können, dass ein Inhalt mit KI generiert wurde. Zusätzlich muss eine deutlich erkennbare Kennzeichnung im Bild eingefügt werden, die Menschen klar signalisiert, dass es sich nicht um echte Darsteller handelt. Wie genau diese Kennzeichnung auszusehen hat, steht noch nicht vollständig fest – Vorgaben sollen im Laufe des Jahres folgen. Eine Erwähnung im Abspann oder eine verschwindend kleine Notiz am Bildrand dürfte in den meisten Fällen nicht reichen. Die Tendenz geht eher Richtung der „Dauerwerbesendung“-Einblendung, die wir alle kennen.
Ausnahme für Assistenz-Tools: KI-Tools wie De-Noiser, Upscaler und ähnliche Post-Production-Werkzeuge sind von der Kennzeichnungspflicht ausgenommen. Wer KI für VFX-Arbeit verwendet - z. B. das Austauschen eines Hintergrundes - sollte ebenfalls ohne Kennzeichnung auskommen. Kritisch wird es, wenn die Substanz des Bildes verändert wird oder eine "Täuschungsabsicht" besteht. Wer also z. B. per Motion Sync die Bewegung eines Darstellers auf einen AI-Avatar mit realistischem Aussehen übertragen will, muss das kennzeichnen.
Das Haftungsrisiko bei Trainingsdaten: Anbieter von KI-Modellen werden gesetzlich verpflichtet, Zusammenfassungen über die zum Training verwendeten Inhalte offenzulegen und das EU-Urheberrecht zu respektieren – inklusive Opt-outs für Text- und Data-Mining. Auch wenn diese Verantwortung bei den Anbietern liegt: Wer KI-generierte Arbeiten an Dritte weitergibt, sollte sich absichern und für Kundenarbeit nur Dienste nutzen, die auch angeben, sich an die Richtlinien zu halten.
Je nach Kontext und Inhalt gelten unterschiedliche Pflichten, hier also ein paar Use-Cases:
Realistische KI-Darsteller
Ein Kurzfilm mit vollständig KI-generierten Figuren, die wie echte Menschen aussehen: kennzeichnungspflichtig – sowohl maschinenlesbar (Metadaten) als auch sichtbar im Bild. Das gilt auch dann, wenn klar ist, dass es sich um Fiktion handelt. Ein Hinweiss im Abspann könnte reichen, das steht aber noch nicht ganz fest.
Für Werbe- und Imagefilme gilt dasselbe. Eine KI-generierte realistische Person, muss als solche erkennbar sein – klar und deutlich sichtbar im Bild, nicht versteckt, nicht nur im Abspann - also ähnlich dem "Dauerwerbesendung" Hinweis.
Stilisierte oder unrealistische Darstellungen
Wenn eindeutig unrealistische Darstellungen gewählt werden – z. B. Comic, Anthropomorphismus – fällt das aktuell nicht unter die Kennzeichnungspflicht. Das gilt für fiktive Werke genauso wie für Werbefilme mit klarem Animationslook. Der Gesetzgeber geht offenbar davon aus, dass niemand einem animierten Murmeltier vertrauen würde – das ist schon mal gut.
Eine reale Person ohne vorherige rechtliche Klärung als Comic abzubilden würden wir trotzdem niemandem raten.
KI-gestützte VFX-Arbeit
Hintergrund per KI ausgetauscht, Umgebung erweitert, Himmel ersetzt – das fällt unter die Assistenz-Tool-Ausnahme. Das leere Stadion mit digitalen, realistisch wirkenden Komparsen gefüllt – hier greift die Kennzeichnungspflicht vermutlich, im Zweifel also doch lieber alle Freunde zum Dreh einladen.
KI-generiertes Voice-Over
Das KI-Voice-Over im Imagefilm oder Werbespot wird vermutlich kennzeichnungspflichtig – sofern es nach einem echten Menschen klingt. Eine eindeutig digitale "Roboterstimme“ dürfte ohne Kennzeichnung auskommen – wobei das tief in der Grauzone liegt. Ist die Stimme von KIT eine Roboterstimme, oder klingt sie schon zu sehr nach Mensch? Die von HAL 9000?
AI-Influencer / UGC-Clips
Wer realistische AI-Avatar-Influencer einsetzt, muss das künftig klar kennzeichnen. Böse Stimmen mögen behaupten, Influencer seien inzwischen ohnehin zu häufig Fake – wer das aber wörtlich nimmt, hat ab August ein größeres Problem als "authenticity".
Grundsätzlich gilt die Regelung nur für Inhalte, die nach dem Stichtag veröffentlicht werden. Was zuvor schon veröffentlicht wurde, muss nicht nachträglich gekennzeichnet werden.
Vorsicht: Eine neuerliche Bewerbung, ein Re-Upload oder jede andere Maßnahme, die einer neuen Veröffentlichung gleichkommt, kann die Kennzeichnungspflicht auslösen.
Die Kennzeichnungspflicht für KI-generierte Darsteller und Stimmen in kommerziellen Produktionen dürfte deren Einsatz für viele Projekte unattraktiver machen. Wer einen Werbespot produziert, möchte wohl kaum, dass die KI-Warnung vom eigentlichen Produkt ablenkt.
Ob die Regeln den AI-Slop-Sumpf im Netz trockenlegen können, hängt davon ab, wie konsequent sie durchgesetzt werden und wie greifbar die Ersteller dieser „Meisterwerke“ überhaupt sind.
Pandoras Box ist längst geöffnet und rostet irgendwo im Keller.
KI ist Werkzeug und Gefahr zugleich. In den richtigen Händen ermöglicht sie Projekte, die zuvor nicht realisierbar gewesen wären, und öffnet talentierten Kreativen Türen zu einem Produktionsniveau, das früher schlicht unerschwinglich war. In den falschen Händen produziert sie im besten Fall Slop, im schlimmsten Fall gefährdet sie Arbeitsplätze, Existenzen und sozialen Frieden.
Wir feiern KI dort, wo sie Talent unterstützt – und meiden sie dort, wo sie es ersetzen soll.
Dass die Kennzeichnungspflicht Sprecher:innen und Darsteller:innen schützt, finden wir gut. Gleichzeitig bleibt jedem die Möglichkeit, die eigene Kurzfilmidee mit KI-Darstellern umzusetzen – gekennzeichnet, aber was soll’s. Vielleicht hat man dann später die Gelegenheit, mit echten Menschen richtig zu produzieren.
Animatoren und VFX-Künstler werden die neuen Regeln vielleicht weniger positiv sehen – ihre Arbeit wird hier weniger geschützt. Unsere Hoffnung ist aber klar: Neue KI-Werkzeuge sollten Künstler:innen dieser Bereiche dabei unterstützen, der systembedingt rückwärtsschauenden generierenden KI stets einen Schritt voraus zu sein – und ihre Arbeit auf ein neues Niveau zu heben.
Hinweis: Dieser Beitrag gibt mein Verständnis des EU AI Acts wieder – kein Rechtsbeistand, keine Rechtsberatung, nur ein Filmschaffender der sein Bestes gibt den Inhalt zusammenzufassen. Ich bin kein Anwalt und im Zweifel sollte man immer einen solchen befragen.
Sobald im Juni die konkreten Vorgaben zur Kennzeichnung veröffentlicht werden folgt ein Update.
Und ja, das Titelbild ist (offensichtlich!) KI generiert
