KI-Kennzeichnungspflichten: Große FAQ zu Art. 50 KI-VO

Wann müssen Unternehmen KI-generierte Bilder, Videos und Texte kennzeichnen? Welche Regeln gelten für Chatbots, Deepfakes und KI-Werbung? Dieser Beitrag erklärt die fünf Kennzeichnungspflichten nach Art. 50 KI-VO und zeigt anhand konkreter Praxisbeispiele, wann eine Kennzeichnung erforderlich ist – und wann nicht.

I. Grundlagen

Unternehmen müssen nach Art. 50 KI-Verordnung (kurz „KI-VO“ oder „AI Act“) bestimmte KI-Inhalte bzw. Interaktion mit KI kennzeichnen.

1. Worum geht es bei der KI-Kennzeichnungspflicht?

Die KI-Kennzeichnungspflicht nach Art. 50 KI-VO soll verhindern, dass Menschen durch KI getäuscht werden. Wer mit einer KI kommuniziert, ein KI-generiertes Bild betrachtet oder einen automatisch erzeugten Text liest, soll dies in bestimmten Fällen erkennen können.

Die Vorschrift gilt unabhängig davon, ob ein KI-System als Hochrisiko-System eingestuft ist. Sie betrifft daher auch Unternehmen, die mit der KI-Verordnung sonst wenig zu tun haben.

2. Welche fünf Kennzeichnungspflichten gibt es?

Art. 50 KI-VO regelt Kennzeichnungspflichten bei direkter Interaktion mit KI, der Maschinenlesbarkeit von KI-Content, Emotionserkennung und Biometrie sowie die Kennzeichnung sogenannter Deepfakes und bestimmter KI-Texte.

3. Ab wann gelten die Pflichten?

Die Kennzeichnungspflichten gelten seit dem 2. August 2026 (Art. 113 KI-VO).

Eine Ausnahme gilt für die maschinenlesbare Kennzeichnung von KI-Content nach Art. 50 Abs. 2 KI-VO. Anbieter von KI-Systemen, die bereits vor dem 2. August 2026 in Verkehr gebracht wurden, müssen die erforderlichen technischen Maßnahmen erst bis zum 2. Dezember 2026 umgesetzt haben (Art. 111 Abs. 4 KI-VO in der Fassung der Verordnung (EU) 2026/1744). Für später in Verkehr gebrachte Systeme gilt die Pflicht ohne Übergangsfrist.

Die Verschiebung der Fristen für Hochrisiko-KI-Systeme durch den Digital Omnibus ändert diesen Zeitplan nicht.

4. Was ist ein KI-System?

Ein KI-System ist eine maschinengestützte Software, die aus Eingaben ableitet, wie sie Ergebnisse erzeugt, und dabei ein gewisses Maß an Autonomie aufweist (Art. 3 Nr. 1 KI-VO). Die Ergebnisse können Texte, Bilder, Videos und Töne, aber auch Vorhersagen, Empfehlungen oder Entscheidungen sein.

5. Gilt die Pflicht auch für kleine Unternehmen und Selbstständige?

Ja, die Kennzeichnungspflichten gelten unabhängig von der Größe des Unternehmens. Entscheidend ist allein, dass KI beruflich genutzt wird. Erfasst sind daher Solo-Selbstständige ebenso wie Konzerne, Vereine und Behörden.

Ausgenommen ist nur die ausschließlich persönliche, nicht berufliche Tätigkeit natürlicher Personen (Art. 2 Abs. 10 KI-VO). Unter diese Ausnahme fällt zum Beispiel, wer einen Deepfake oder eine geklonte Stimme erstellt und sie im privaten Rahmen teilt (z.B. im Familienchat oder unter Freunden). Das Teilen auf privaten Social Media Profilen ist dagegen kritisch.

6. Müssen ältere KI-Inhalte nachträglich gekennzeichnet werden?

Nein, eine rückwirkende Kennzeichnungspflicht besteht grundsätzlich nicht. Die EU-Kommission stellt klar, dass vor dem 2. August 2026 erzeugte Inhalte nicht nachträglich gekennzeichnet werden müssen.

• Deepfakes (Bild, Video, Audio): Für vor dem 2. August 2026 erzeugte oder manipulierte Inhalte besteht grundsätzlich keine rückwirkende Kennzeichnungspflicht.
• KI-Texte: Auch vor dem 2. August 2026 erzeugte Texte müssen nach der allgemeinen Aussage der EU-Kommission nicht rückwirkend gekennzeichnet werden. Bei einer erstmaligen Veröffentlichung nach diesem Datum kann die zeitliche Einordnung jedoch Fragen aufwerfen.

Die EU-Kommission empfiehlt, ältere KI-Inhalte nach Möglichkeit freiwillig zu kennzeichnen. Eine allgemeine Pflicht zur rückwirkenden Kennzeichnung folgt daraus nicht.

II. Die Rollen nach dem AI Act

7. Wer ist Anbieter, wer ist Betreiber?

Die KI-Verordnung unterscheidet zwei Rollen:

• Anbieter ist, wer ein KI-System entwickelt oder entwickeln lässt und es unter eigenem Namen oder eigener Marke in Verkehr bringt oder in Betrieb nimmt (Art. 3 Nr. 3 KI-VO). Anbieter in diesem Sinne sind etwa OpenAI mit ChatGPT, aber auch ein Onlineshop, der auf Basis eines fremden Sprachmodells einen eigenen Beratungsbot anbietet.
• Betreiber ist, wer ein KI-System in eigener Verantwortung verwendet (Art. 3 Nr. 4 KI-VO). Betreiber in diesem Sinne sind etwa eine Agentur, die mit Midjourney Kampagnenbilder erstellt, oder eine Behörde, die Texte mit ChatGPT vorbereitet.

Entscheidend für die Anbieterrolle ist nicht allein, wer das zugrundeliegende Modell technisch entwickelt hat. Wer auf dieser Grundlage ein eigenes KI-System unter eigenem Namen oder eigener Marke in Verkehr bringt oder in Betrieb nimmt, kann selbst Anbieter sein. Die bloße technische Einbindung einer fremden KI-Funktion genügt dafür nicht automatisch.

Beide Rollen können zusammentreffen. Ein Softwareunternehmen, das ein eigenes KI-Tool vertreibt und zugleich Midjourney für sein Marketing nutzt, ist zugleich Anbieter und Betreiber.

8. Warum entscheidet die Rolle über meine Pflichten?

Die Rolle ist entscheidend, weil Art. 50 KI-VO die fünf Pflichten nicht einheitlich zuweist. Die Pflichten nach Abs. 1 und Abs. 2 treffen nur Anbieter, die Pflichten nach Abs. 3 und Abs. 4 nur Betreiber. Klären Sie daher stets, in welcher Rolle Sie das KI-System einsetzen bzw. anbieten.

9. Wer ist verantwortlich, wenn eine Agentur oder ein Mitarbeiter den Inhalt erstellt?

• Eigene Mitarbeitende: Erstellen Beschäftigte den Inhalt im Rahmen ihrer Tätigkeit, ist das Unternehmen Betreiber und für die Kennzeichnung verantwortlich. Einzelne Mitarbeitende sind keine eigenständigen Betreiber.
• Beauftragte Dienstleister: Bei externen Dienstleistern kommt es auf die Aufgabenverteilung an. Arbeitet eine Agentur nach inhaltlichen Vorgaben des Auftraggebers, spricht viel dafür, dass auch der Auftraggeber Betreiber ist. Eine ausdrückliche gesetzliche Regelung fehlt allerdings.

Unabhängig von der Betreiberstellung greift die wettbewerbsrechtliche Zurechnung. Nach § 8 Abs. 2 UWG muss sich ein Unternehmen Zuwiderhandlungen seiner Mitarbeiter und Beauftragten zurechnen lassen. Eine fehlende Kennzeichnung durch die Agentur kann daher zu einer Abmahnung des Auftraggebers führen.

10. Muss ich fremde KI-Inhalte kennzeichnen, wenn ich sie weiterverwende?

Nein, fremde KI-Inhalte müssen grundsätzlich nicht gekennzeichnet werden. Die Pflicht aus Art. 50 Abs. 4 KI-VO trifft den Betreiber, der das KI-System zur Erzeugung oder Manipulation des Inhalts einsetzt. Wer einen fremden Inhalt lediglich teilt, einbettet oder zitiert, wird dadurch nicht selbst Betreiber.

Das gilt etwa für das Teilen eines fremden Deepfakes, die Verwendung eines Ausschnitts aus einem fremden KI-Video oder das Zitat eines fremden KI-Textes.

Nicht als fremd gelten dagegen Inhalte eigener Mitarbeitender und, je nach Ausgestaltung, Inhalte beauftragter Dienstleister.

Unabhängig davon können Plattformregeln oder das Irreführungsverbot nach § 5 UWG eine Kennzeichnung erfordern, etwa wenn ein fremdes KI-Bild in der eigenen Werbung eingesetzt wird.

11. Welche Pflichten betreffen mein Unternehmen konkret?

Nicht alle Kennzeichnungspflichten nach Art. 50 KI-VO haben für jedes Unternehmen dieselbe Bedeutung. Die meisten Unternehmen nutzen KI in der Praxis als Betreiber und sollten sich daher vor allem mit den Regeln zu Deepfakes und KI-Texten befassen.

• Die Regeln zu Deepfakes betreffen alle Unternehmen, die Bilder, Videos oder Audioinhalte mit KI erstellen oder bearbeiten.
• Die Pflicht zur Kennzeichnung von KI-Texten betrifft insbesondere Unternehmen, die KI-generierte Informationen zu Themen von öffentlichem Interesse ohne menschliche redaktionelle Kontrolle veröffentlichen, z.B. automatisierte Veröffentlichung ungeprüfter News.
• Die Pflichten zu Chatbots, zur maschinenlesbaren Kennzeichnung und zur Emotionserkennung sind nur für Unternehmen relevant, die solche Systeme anbieten oder einsetzen.

Beachten Sie, dass mehrere Pflichten nebeneinander greifen können.

III. Interaktion mit KI (Art. 50 Abs. 1 KI-VO)

12. Muss mein KI-Chatbot als solcher erkennbar sein?

Ja. Wer unmittelbar mit einem KI-System kommuniziert, muss dies erkennen können (Art. 50 Abs. 1 KI-VO).

Die Pflicht gilt unabhängig von der Leistungsfähigkeit des Systems. Auch ein einfacher Support-Bot fällt darunter, sofern er ein KI-System im Sinne der Verordnung ist.

13. Wen trifft die Pflicht, wenn ich einen fremden Chatbot einbinde?

Die Kennzeichnungspflicht trifft nach Art. 50 Abs. 1 KI-VO den Anbieter des Chatbots. Wer Anbieter ist, hängt von der konkreten Gestaltung ab:

• Eigene Lösung auf fremder Technik: Wer über eine Schnittstelle ein fremdes Sprachmodell nutzt und daraus einen Chatbot unter eigenem Namen entwickelt, ist in der Regel selbst Anbieter und damit zur Kennzeichnung verpflichtet.
• Fertiges Widget eines Dienstleisters: Wird ein KI-Chatbot eines Drittanbieters unter der Marke des Drittanbieters in die Website eingebunden, ist in der Regel der Drittanbieter Anbieter. Das einbindende Unternehmen ist dann Betreiber.

Die Abgrenzung ist allerdings noch nicht abschließend geklärt. Unabhängig von der Anbieterstellung sollte das einbindende Unternehmen sicherstellen, dass der erforderliche Hinweis für die Websitebesucher tatsächlich erscheint. Dies sollte mit dem Dienstleister vertraglich geregelt werden.

14. Gilt die Pflicht auch für Telefon-KI und KI-Agenten?

Ja, die Pflicht erfasst die direkte Interaktion eines KI-Systems mit natürlichen Personen. Eine bloß im Hintergrund eingesetzte KI, deren Ergebnis ein Mensch anschließend selbst übermittelt, fällt dagegen nicht unter diese Interaktionspflicht. Erfasst sind insbesondere:

• KI-Sprachassistenten an der Kundenhotline,
• KI-Agenten, die selbstständig E-Mails beantworten,
• KI-gestützte Messenger- und Social-Media-Antworten.

15. Wann und wie muss der Hinweis erfolgen?

Der Hinweis muss spätestens zum Zeitpunkt der ersten Interaktion erfolgen, und zwar in klarer und eindeutiger Weise sowie barrierefrei (Art. 50 Abs. 1, Abs. 5 KI-VO). Einen bestimmten Wortlaut schreibt das Gesetz nicht vor. In Betracht kommen etwa folgende Gestaltungen:

• Text-Chatbot: Der Hinweis kann in der Begrüßungsnachricht erfolgen, etwa „Hallo, ich bin der KI-Assistent der Muster GmbH.“ Zusätzlich empfiehlt sich ein dauerhaft sichtbarer Hinweis im Chatfenster.
• Telefon-KI: Eine Ansage zu Beginn des Gesprächs informiert den Anrufer, etwa „Sie sprechen mit einem KI-Sprachassistenten.“
• KI-Agent per E-Mail: Der Hinweis wird in jede Nachricht aufgenommen, etwa „Diese Nachricht wurde von einem KI-Agenten erstellt.“

Ungeeignet sind menschliche Vornamen ohne KI-Zusatz. Auch die Formulierung „von KI unterstützt“ ist missverständlich, wenn ausschließlich eine KI antwortet, weil sie den Eindruck erweckt, ein Mensch werde lediglich unterstützt.

16. Reicht ein Hinweis in AGB oder Datenschutzerklärung?

Nein, der Hinweis muss in der Interaktion selbst erscheinen. Versteckte Angaben in AGB, Impressum oder Datenschutzerklärung genügen nicht.

17. Wann ist kein Hinweis nötig?

Ein Hinweis ist entbehrlich, wenn aus Sicht eines durchschnittlichen Nutzers offensichtlich ist, dass er mit einer KI interagiert (Art. 50 Abs. 1 KI-VO).

Bei KI-Chatbots auf Websites greift diese Ausnahme nur selten. Ein technisch klingender Name allein genügt nicht. Im Zweifel sollte daher ein Hinweis erfolgen.

Eine weitere Ausnahme besteht für gesetzlich zugelassene KI-Systeme zur Strafverfolgung. Sie gilt allerdings nicht für öffentlich zugängliche Systeme zur Anzeige von Straftaten.

IV. Maschinenlesbare Kennzeichnung (Art. 50 Abs. 2 KI-VO)

18. Was bedeutet maschinenlesbare Kennzeichnung?

Bei der maschinenlesbaren Kennzeichnung wird die Information über den KI-Ursprung so in den Inhalt eingebettet, dass Software sie automatisch auslesen kann. Für Menschen muss diese Information nicht sichtbar sein.

Auf diese Weise sollen beispielsweise Plattformen, Suchmaschinen und Prüfwerkzeuge KI-Inhalte technisch erkennen können, auch wenn ein sichtbarer Hinweis fehlt oder entfernt wurde.

19. Worin unterscheidet sie sich vom sichtbaren Hinweis „KI-generiert“?

Die maschinenlesbare und die sichtbare Kennzeichnung bestehen nebeneinander und verfolgen unterschiedliche Ziele.

Kriterium	Maschinenlesbare Kennzeichnung	Sichtbare Kennzeichnung
Vorschrift	Art. 50 Abs. 2 KI-VO	Art. 50 Abs. 4 KI-VO
Adressat	Anbieter	Betreiber
Gerichtet an	Maschinen	Menschen
Umfang	KI-generierte oder KI-manipulierte Audio-, Bild-, Video- und Textinhalte	Nur Deepfakes und bestimmte Texte
Form	Metadaten, Wasserzeichen	Hinweis oder Icon im Inhalt

Ein KI-Bild kann daher ein Wasserzeichen des Anbieters tragen und dennoch zusätzlich einen sichtbaren Hinweis des Betreibers erfordern.

20. Welche KI-Inhalte müssen technisch gekennzeichnet werden?

Grundsätzlich müssen Audio-, Bild-, Video- und Textinhalte, die ein KI-System erzeugt oder manipuliert hat, maschinenlesbar gekennzeichnet werden. Die Kommissionsleitlinien nehmen bestimmte Ausgaben aus, etwa Quellcode, kurze Zeichenfolgen oder rein maschinell weiterverarbeitete Ausgaben ohne Kontakt zu Menschen.

21. Wer muss für die maschinenlesbare Kennzeichnung sorgen?

Für die maschinenlesbare Kennzeichnung muss der Anbieter des KI-Systems sorgen. Das sind zum einen die großen Modellanbieter, zum anderen Unternehmen, die eine KI-Funktion unter eigenem Namen bereitstellen.

22. Gilt die Pflicht auch für KI-generierte Texte?

Ja, auch KI-generierte Texte müssen maschinenlesbar gekennzeichnet werden, sie werden in Art. 50 Abs. 2 KI-VO ausdrücklich genannt. Die technische Umsetzung ist allerdings schwieriger als bei Bildern und Videos. Denn wenn ein Text kopiert wird, gehen darin enthaltene Metadaten regelmäßig verloren.

Eine Lösung sind unsichtbare Textwasserzeichen. Dabei hinterlegt das KI-System keine versteckten Zeichen im Text, sondern beeinflusst bereits während der Texterzeugung die Auswahl einzelner Wörter beziehungsweise Textbausteine (Tokens). Dadurch entsteht ein für Menschen unsichtbares statistisches Muster, das eine darauf abgestimmte Prüfsoftware erkennen kann.

Derartige Verfahren haben allerdings Grenzen. Solche Wasserzeichen funktionieren vor allem bei längeren Texten. Bei kurzen Texten, starken Umformulierungen oder Übersetzungen kann die Erkennung unzuverlässig werden. Zudem können spezielle Prüfprogramme nur solche Textwasserzeichen erkennen, die ein KI-System tatsächlich eingebettet hat und auf deren Verfahren die Prüfsoftware abgestimmt ist. Nicht jeder KI-Text lässt sich deshalb zuverlässig als KI-generiert identifizieren.

Der freiwillige EU-Verhaltenskodex zur Transparenz von KI-generierten Inhalten berücksichtigt diese technischen Besonderheiten. Für sehr kurze Texte unterhalb von etwa 200 Tokens sieht er vorerst keine Pflicht zum Einbetten solcher Textwasserzeichen vor.

23. Welche technischen Verfahren kommen in Betracht?

Die eingesetzten Verfahren müssen zuverlässig arbeiten und von anderen Systemen ausgelesen werden können. Der freiwillige Verhaltenskodex empfiehlt zur Umsetzung eine Kombination mehrerer Verfahren:

• Digital signierte Metadaten: In der Datei wird gespeichert, dass der Inhalt mit KI erzeugt oder verändert wurde. Die Signatur macht Herkunft und Unverändertheit dieser Angabe überprüfbar.
• Unsichtbare Wasserzeichen: Eine für Menschen nicht wahrnehmbare Markierung wird direkt in Bildpixel, Audiodaten, Videos oder Texte eingebettet.
• Herkunftsnachweise: Ergänzend können digitale Fingerabdrücke (Fingerprinting) und Protokolldaten (Logging) helfen, KI-Inhalte wiederzuerkennen und ihre Herkunft nachzuvollziehen.

24. Muss die Kennzeichnung nach Bearbeitung oder Weiterverwendung erhalten bleiben?

Die eingesetzten Verfahren sollen so robust sein, dass die Markierung übliche Bearbeitungen wie Komprimierung, Zuschnitt oder Formatwechsel übersteht.

Eine absolute Garantie verlangt das Gesetz allerdings nicht, Art. 50 Abs. 2 KI-VO stellt ausdrücklich auf den allgemein anerkannten Stand der Technik ab. In der Praxis gehen Metadaten beim Hochladen auf Plattformen häufig verloren, Wasserzeichen sind insoweit robuster.

25. Gibt es Ausnahmen für Standardbearbeitungen und unterstützende KI-Funktionen?

Ja, ausgenommen von der Kennzeichnungspflicht sind KI-Systeme, die eine unterstützende Funktion für die Standardbearbeitung ausführen oder die Eingabedaten und die zugrundeliegende Aussage nicht wesentlich abändern (Art. 50 Abs. 2 KI-VO).

26. Muss ich selbst maschinenlesbar kennzeichnen, wenn ich ChatGPT, Midjourney oder Adobe Firefly nutze?

Nein, die Pflicht zur maschinenlesbaren Kennzeichnung trifft den Anbieter des KI-Systems und nicht den Nutzer. Wer ein KI-Tool lediglich einsetzt, ist Betreiber und muss keine Metadaten oder Wasserzeichen hinzufügen.

Etwas anderes gilt, wenn ein Unternehmen ein Modell über eine Schnittstelle in ein eigenes Produkt einbaut und dieses unter eigenem Namen anbietet. Es wird dann selbst Anbieter und muss für die maschinenlesbare Kennzeichnung sorgen.

V. Emotionserkennung und biometrische Kategorisierung (Art. 50 Abs. 3 KI-VO)

27. Was sind Systeme zur Emotionserkennung und biometrischen Kategorisierung?

Die KI-Verordnung unterscheidet zwei Systemarten:

• Emotionserkennungssystem: Dabei handelt es sich um ein KI-System, das Emotionen oder Absichten natürlicher Personen auf Grundlage biometrischer Daten erkennt oder ableitet, etwa anhand von Mimik, Stimme oder Körperhaltung.
• System zur biometrischen Kategorisierung: Dabei handelt es sich um ein KI-System, das Personen anhand biometrischer Daten in Kategorien einordnet, etwa nach Alter, Geschlecht oder anderen Merkmalen.

Nicht erfasst sind Systeme, die lediglich äußerliche Zustände wie Müdigkeit erkennen, ohne daraus auf Emotionen zu schließen, sowie Systeme ohne biometrische Datenverarbeitung.

28. Wann müssen betroffene Personen informiert werden?

Betreiber solcher Systeme müssen die betroffenen Personen über den Betrieb des Systems informieren (Art. 50 Abs. 3 KI-VO). Die Information muss spätestens zu dem Zeitpunkt erfolgen, zu dem die Person dem System erstmals ausgesetzt ist (Art. 50 Abs. 5 KI-VO).

Eine Ausnahme besteht für KI-Systeme, die gesetzlich zur Aufdeckung, Verhütung oder Ermittlung von Straftaten zugelassen sind, sofern geeignete Schutzvorkehrungen für die Rechte Dritter bestehen.

29. Welche Anwendungen in Unternehmen können betroffen sein?

Betroffen sein können etwa folgende Anwendungen:

• digitale Werbedisplays mit Kamera, die Reaktionen der Passanten auswerten,
• Analysewerkzeuge im Einzelhandel, die Alter oder Geschlecht der Kundschaft erfassen,
• Software im Kundenservice, die die Stimmung des Anrufers aus der Stimme ableitet,
• Zugangssysteme, die Personen biometrisch einordnen.

Emotionserkennung am Arbeitsplatz und in Bildungseinrichtungen ist nach Art. 5 Abs. 1 lit. f KI-VO grundsätzlich verboten. Ausnahmen gelten nur aus medizinischen Gründen oder aus Sicherheitsgründen.

30. Wie muss die Information erfolgen?

Die Information muss spätestens erfolgen, wenn die betroffene Person dem KI-System erstmals ausgesetzt ist (Art. 50 Abs. 3, Abs. 5 KI-VO). Eine bestimmte Form schreibt das Gesetz nicht vor.

In der Praxis kommen insbesondere folgende Formen in Betracht:

• gut sichtbare Hinweisschilder am Eingang oder am Gerät selbst,
• eine Ansage zu Beginn eines Telefonats,
• ein Hinweis auf dem Display vor Beginn der Erfassung.

Ein Hinweis in der Datenschutzerklärung allein genügt nicht, weil die betroffene Person ihn nicht rechtzeitig wahrnimmt. Die Information nach Art. 50 Abs. 3 KI-VO tritt neben die Informationspflichten nach Art. 13 DSGVO und ersetzt sie nicht.

VI. Deepfakes (Art. 50 Abs. 4 UAbs. 1 KI-VO)

31. Was ist ein Deepfake?

Ein Deepfake ist ein Bild-, Ton- oder Videoinhalt, der drei Merkmale erfüllt (Art. 3 Nr. 60 KI-VO):

1. Er wurde durch KI erzeugt oder manipuliert.
2. Er ähnelt wirklichen Personen, Gegenständen, Orten, Einrichtungen oder Ereignissen.
3. Er würde einer Person fälschlicherweise als echt oder wahrheitsgemäß erscheinen.

Eine reale Person muss dabei nicht abgebildet sein. Auch eine fiktive Person kann Teil eines Deepfakes sein, etwa wenn ein KI-Bild den Eindruck erweckt, sie habe an einer tatsächlich stattgefundenen Demonstration vor dem Kölner Dom teilgenommen. Ob dagegen bereits eine fotorealistische Darstellung einer frei erfundenen Person genügt, ist umstritten.

Die EU-Kommission versteht den Deepfake-Begriff weit. Danach können auch Darstellungen erfasst sein, die lediglich plausibel existieren könnten. In der juristischen Literatur wird demgegenüber vertreten, dass ein konkreter Realitätsbezug erforderlich ist (Voßberg, GRUR-Prax 2026, 706 ff.). Gerichtlich ist die Abgrenzung bislang nicht abschließend geklärt.

Texte sind dagegen keine Deepfakes. Für sie gelten die Regeln in Teil VII.

32. Muss jedes KI-Bild gekennzeichnet werden?

Nein, nicht jedes KI-Bild ist kennzeichnungspflichtig. Entscheidend sind der Bezug zur Wirklichkeit und die Eignung zur Täuschung. Keiner Kennzeichnung nach der KI-Verordnung bedürfen daher in der Regel:

• Comics, Cartoons und erkennbar gezeichnete Illustrationen,
• abstrakte oder symbolische Motive,
• offensichtlich unrealistische Szenen wie ein Drache über der Stadt oder ein Mensch mit vier Armen,
• Darstellungen, die nach Gestaltung und Kontext klar als fiktiv erkennbar sind.

Auch fotorealistische KI-Bilder sind nicht automatisch Deepfakes. So kann ein vollständig künstlich erzeugtes Model in einer gewöhnlichen Modewerbung ohne Kennzeichnung zulässig sein. Entscheidend ist, ob der Betrachter nach dem Kontext eine authentische Darstellung erwartet oder ob ihm lediglich ein erkennbar werbliches Motiv präsentiert wird.

Die maßgebliche Prüffrage lautet daher: Entsteht nach Gestaltung und Verwendungskontext der falsche Eindruck, der dargestellte Inhalt sei authentisch oder wahrheitsgemäß? Ist das der Fall, liegt die Einordnung als Deepfake nahe.

Unabhängig davon können Plattformregeln eine Kennzeichnung auch dort verlangen, wo das Gesetz sie nicht vorschreibt.

33. Kommt es darauf an, ob ich täuschen will?

Nein, auf eine Täuschungsabsicht kommt es nicht an. Entscheidend ist, ob der Inhalt nach seiner Gestaltung und seinem Verwendungskontext objektiv geeignet ist, fälschlich als authentisch oder wahrheitsgemäß zu erscheinen. Dass ein KI-Bild nur zu Werbe- oder Unterhaltungszwecken erstellt wurde, schließt eine Kennzeichnungspflicht nicht aus.

34. Ab wann ist eine KI-Bearbeitung kennzeichnungspflichtig?

Nicht jede KI-Bearbeitung macht einen Inhalt zum Deepfake. Entscheidend ist, ob die Veränderung für den Eindruck von Echtheit oder Wahrheitsgehalt wesentlich ist. Rein technische oder ästhetische Anpassungen lösen regelmäßig keine Kennzeichnungspflicht aus. Dagegen kann die KI-gestützte Veränderung tatsächlicher Personen, Ereignisse oder relevanter Produkteigenschaften kennzeichnungspflichtig sein.

Regelmäßig keine Kennzeichnung nötig	Kennzeichnung nötig
Helligkeit, Kontrast, Schärfe optimieren	Gesichter austauschen oder einfügen
Kleinere Bildfehler oder störende Passanten entfernen	Eine Person oder einen Gegenstand in ein tatsächlich nicht stattgefundenes Ereignis einfügen
Hintergrund rein ästhetisch verändern, z.B. unscharf machen	Aussagen in Video- oder Audioaufnahmen inhaltlich verändern
Rauschen in Tonaufnahmen reduzieren	Bildkomposition so verändern, dass ein tatsächlich nicht erfolgtes Geschehen vorgetäuscht wird.

35. Müssen KI-generierte Produktbilder gekennzeichnet werden?

KI-generierte Produktbilder können kennzeichnungspflichtig sein. Die Einordnung vieler Werbekonstellationen ist noch nicht gerichtlich geklärt. Zu unterscheiden ist:

• Konkretes Einzelstück: Wer einen bestimmten Gegenstand verkauft oder vermietet (Gebrauchtwagen, Ferienwohnung, Immobilie) und ihn mithilfe von KI realistisch darstellt, muss mit einer Kennzeichnungspflicht rechnen. Entscheidend ist, ob die Darstellung als authentische Aufnahme erscheint.
• Massenware: Unklar ist die Rechtslage bei KI-Bildern, die eine ganze Produktlinie bewerben, etwa ein neues Automodell auf einem Plakat. Gegen eine Kennzeichnungspflicht spricht hier, dass Kunden nicht das konkret abgebildete Exemplar erwarten und Werbebilder seit jeher gerendert oder aufwendig bearbeitet werden.
• Veränderung des Produkts: Verändert die KI das abgebildete Produkt selbst, etwa in Farbe, Größe oder Ausstattung, liegt eine Kennzeichnungspflicht besonders nahe, wenn das Ergebnis als echt erscheint. Zusätzlich droht eine Irreführung nach § 5 UWG.

Die EU-Kommission legt den Deepfake-Begriff in ihren Leitlinien weit aus. Danach können auch realistisch dargestellte Objekte erfasst sein, die in dieser Form existieren könnten.

Kurzfassung: Nicht jedes mit KI erstellte Produktbild muss vorsorglich gekennzeichnet werden. Bei gewöhnlichen Werbemotiven ohne konkreten Authentizitätsanspruch lässt sich eine Kennzeichnungsfreiheit gut vertreten. Werden dagegen konkrete Produkteigenschaften verändert oder Bilder als echte Aufnahmen eines bestimmten Gegenstands präsentiert, empfiehlt sich eine Kennzeichnung.

36. Muss ich kennzeichnen, wenn ich ein echtes Produktfoto vor einen KI-Hintergrund setze?

Ob eine Kennzeichnung erforderlich ist, hängt vom Hintergrund ab. Das Freistellen selbst ist übliche Bildbearbeitung und löst keine Pflicht aus. Der KI-Hintergrund kann das Gesamtbild aber zum Deepfake machen.

Fallgestaltung	Kennzeichnungspflicht?
Echtes Produkt vor neutralem oder grafischem KI-Hintergrund	Regelmäßig nein
Echtes Produkt vor fotorealistischer, rein dekorativer KI-Kulisse	Regelmäßig nein
Produkt vor einem bekannten realen Ort	Abhängig davon, ob eine tatsächlich erfolgte Aufnahme oder ein relevantes Geschehen vorgetäuscht wird
KI-Hintergrund verändert den Eindruck relevanter Produkteigenschaften	Kennzeichnungspflicht naheliegend

Nach dem weiten Verständnis der EU-Kommission können bereits realistisch wirkende, tatsächlich nicht aufgenommene Szenen erfasst sein. Ein fotorealistischer KI-Hintergrund führt aber nicht automatisch zu einer Kennzeichnungspflicht. Nach den Leitlinien der EU-Kommission können rein ästhetische Hintergrundveränderungen und Produktarrangements ohne Kennzeichnung zulässig sein. Entscheidend ist, ob der Betrachter eine authentische Aufnahmesituation erwartet und durch die Veränderung über einen wesentlichen Umstand getäuscht werden kann.

Bei gewöhnlicher Produktwerbung wäre eine Kennzeichnung danach häufig entbehrlich. Anders kann es liegen, wenn ein Bild dokumentarischen Charakter hat, einen tatsächlich nicht erfolgten Vorgang suggeriert oder relevante Eigenschaften des Produkts verfälscht. Gerichtliche Entscheidungen zu diesen Abgrenzungen stehen noch aus.

37. Wie und wo kennzeichne ich Bilder, Videos und Audios richtig?

Die Offenlegung muss klar, erkennbar und barrierefrei erfolgen, und zwar spätestens bei der ersten Interaktion oder beim ersten Kontakt mit dem Inhalt (Art. 50 Abs. 4, Abs. 5 KI-VO). Am sichersten ist es, den Hinweis direkt im Inhalt anzubringen.

• Bild: Der Hinweis oder ein Icon sollte im Bild selbst stehen, gut lesbar und nicht von anderen Elementen verdeckt. Der Verhaltenskodex nennt als Beispiel die obere rechte Ecke. Zusätzlich empfiehlt sich ein Hinweis in Bildunterschrift und Alternativtext, damit auch Screenreader ihn erfassen.
• Video: Der Hinweis sollte bereits zu Beginn eingeblendet und bei längeren oder live übertragenen Videos in regelmäßigen Abständen sowie nach Unterbrechungen wiederholt werden. Ist nur ein Abschnitt KI-generiert, kann die Kennzeichnung auf diesen Abschnitt beschränkt werden.
• Audio: Zu Beginn sollte ein gesprochener Hinweis erfolgen, etwa „Die folgende Stimme wurde mit KI erzeugt.“ Bei längeren Inhalten sollte der Hinweis wiederholt werden. Wird das Audio über ein Gerät mit Bildschirm abgespielt, sollte zusätzlich ein sichtbares Icon erscheinen.

Ein Hinweis allein in der Bildbeschreibung ist riskant, wenn das Bild als Vorschau ohne Beschreibung erscheint, heruntergeladen oder separat geteilt werden kann. Ein Hinweis, der sich nur im Impressum oder in den AGB findet, genügt in keinem Fall.

38. Muss ich die EU-Icons verwenden, und reicht „KI“ statt „AI“?

Nein, die Verwendung der EU-Icons ist freiwillig. Unternehmen können auch eigene Icons oder einen reinen Texthinweis verwenden, etwa „KI-generiert“ oder „KI-manipuliert“. Verbindlich ist nur, dass die Kennzeichnung klar und erkennbar ist.

Die Verwendung der deutschen Abkürzung „KI“ genügt. Der Verhaltenskodex sieht als Hauptelement zwar das englische Akronym „AI“ vor, teils ergänzt um „GENERATED“ oder „MODIFIED“. Für ein deutschsprachiges Publikum ist ein klarer Hinweis wie „KI-generiert“ oder „KI-manipuliert“ aber gut verständlich.

Wer möglichst rechtssicher kennzeichnen möchte, unterscheidet zusätzlich zwischen vollständig erzeugten und lediglich veränderten Inhalten.

39. Gibt es Erleichterungen für Kunst, Satire und Fiktion?

Ja, für solche Werke gelten Erleichterungen. Ist ein Deepfake Teil eines offensichtlich künstlerischen, kreativen, satirischen, fiktionalen oder analogen Werks, bleibt die Offenlegungspflicht zwar bestehen. Die Kennzeichnung darf aber so gestaltet und platziert werden, dass sie die Darstellung und den Genuss des Werks nicht beeinträchtigt (Art. 50 Abs. 4 UAbs. 1 KI-VO).

In Betracht kommen etwa ein Hinweis im Vor- oder Abspann, in einer unmittelbar zugeordneten Beschreibung oder bei Ausstellungen am Eingang und in Begleitmaterialien.

Dabei sind zwei Einschränkungen zu beachten. Humorvoll gestaltete Werbung ist nicht automatisch Satire, denn der künstlerische Charakter muss für die Betrachter offensichtlich sein. Zudem betrifft die Erleichterung nur die Art der Kennzeichnung und nicht die Zulässigkeit des Inhalts (Frage 47).

VII. KI-Texte (Art. 50 Abs. 4 UAbs. 2 KI-VO)

40. Wann müssen KI-generierte Texte gekennzeichnet werden?

Ein KI-Text ist nicht automatisch kennzeichnungspflichtig, sondern nur dann, wenn diese vier Voraussetzungen zusammentreffen (Art. 50 Abs. 4 UAbs. 2 KI-VO):

1. Der Text wurde durch KI erzeugt oder manipuliert.
2. Er wird veröffentlicht.
3. Er dient dem Zweck, die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren.
4. Es fehlt eine menschliche Überprüfung bzw. redaktionelle Kontrolle oder die Übernahme der redaktionellen Verantwortung.

Maßgeblich ist der objektive Informationszweck, nicht die Plattform. Angelegenheiten von öffentlichem Interesse sind etwa Politik, Wirtschaft, Gesundheit, Sicherheit und Verbraucherschutz.

41. Sind Werbetexte, Produktbeschreibungen und Blogbeiträge erfasst?

Reine Werbetexte und gewöhnliche Produktbeschreibungen sind regelmäßig nicht erfasst. Blogbeiträge können dagegen kennzeichnungspflichtig sein, wenn sie Themen von öffentlichem Interesse behandeln und ohne menschliche redaktionelle Kontrolle veröffentlicht werden. Die folgende Übersicht zeigt typische Fälle:

Textart	Kennzeichnung nach KI-VO?
Werbetexte, Anzeigen, Produktbeschreibungen	Nein
Newsletter mit reinen Angeboten	Nein
Interne Kommunikation und Schulungsunterlagen	Nein
Unterhaltende Beiträge ohne Informationsanspruch	Nein
Blogbeitrag oder Social-Media-Post zu aktuellen Themen von öffentlichem Interesse	Ja, wenn ungeprüft
Pressemitteilung mit Produktwarnung oder Rückruf	Ja, wenn ungeprüft
Automatisiert erzeugte Nachrichten-, Markt- oder Bürgerinformationen	Ja, wenn ungeprüft

42. Entfällt die Pflicht, wenn ein Mensch den Text prüft?

Ja, die Kennzeichnungspflicht entfällt, wenn zwei Voraussetzungen zusammentreffen:

1. Der Text wurde einer menschlichen Überprüfung oder redaktionellen Kontrolle unterzogen.
2. Eine natürliche oder juristische Person trägt die redaktionelle Verantwortung für den Textinhalt.

Die Prüfung muss substanziell sein. Sie umfasst Richtigkeit, Vollständigkeit und mögliche Irreführungen. Nicht ausreichend sind eine bloße Plausibilitätsprüfung, ein automatisiertes Gegenlesen oder die Freigabe per Klick ohne inhaltliche Befassung.

43. Müssen KI-Übersetzungen gekennzeichnet werden?

Ob KI-Übersetzungen gekennzeichnet werden müssen, ist noch nicht abschließend geklärt. Im Ausgangspunkt ist eine reine Übersetzung eine technische Bearbeitung, solange Inhalt und Aussage unverändert bleiben.

Für Texte über Angelegenheiten von öffentlichem Interesse spricht nach den Leitlinien der EU-Kommission jedoch mehr dafür, dass eine ungeprüfte KI-Übersetzung gekennzeichnet werden muss.

Eine Kennzeichnung kann insbesondere entfallen, wenn ein Mensch die KI-Übersetzung anschließend inhaltlich überprüft und die redaktionelle Verantwortung für die Veröffentlichung übernimmt.

44. Wie kennzeichne ich einen KI-Text richtig?

Der Hinweis gehört an den Anfang des Textes, damit Leser ihn vor der Lektüre wahrnehmen. Ein Hinweis am Ende, im Impressum oder auf einer separaten Seite genügt nicht.

Eine mögliche Formulierung lautet:

Dieser Beitrag wurde (teilweise) mit Hilfe von künstlicher Intelligenz erstellt.

Alternativ kommen die EU-Icons in Betracht. Bei nur teilweise KI-generierten Texten sollte erkennbar sein, welche Abschnitte betroffen sind.

VIII. Haftung und Rechtsfolgen

45. Welche Bußgelder drohen?

Verstöße gegen Art. 50 KI-VO können mit bis zu 15 Millionen Euro oder 3 Prozent des weltweiten Jahresumsatzes geahndet werden, je nachdem, welcher Betrag höher ist (Art. 99 Abs. 4 lit. g KI-VO).

Für falsche, unvollständige oder irreführende Auskünfte gegenüber Behörden drohen Bußgelder von bis zu 7,5 Millionen Euro oder 1 Prozent des Jahresumsatzes (Art. 99 Abs. 5 KI-VO).

Für kleine und mittlere Unternehmen sowie Start-ups gilt jeweils der niedrigere der beiden Beträge als Obergrenze (Art. 99 Abs. 6 KI-VO).

Bei der Bemessung berücksichtigen die Behörden unter anderem Art, Schwere und Dauer des Verstoßes, die Unternehmensgröße und ob der Verstoß vorsätzlich oder fahrlässig begangen wurde.

46. Können Konkurrenten abmahnen?

Ob Wettbewerber Verstöße gegen Art. 50 KI-VO nach § 3a UWG abmahnen können, ist noch offen. Dafür müsste die jeweils verletzte Transparenzpflicht eine sog. Marktverhaltensregel sein. Die Wettbewerbszentrale hält solche Verstöße für abmahnfähig. Gerichtsentscheidungen zu dieser Frage liegen bislang aber nicht vor.

Unabhängig davon besteht ein eigenständiges wettbewerbsrechtliches Risiko. Wer über den KI-Einsatz täuscht oder mit geschönten KI-Bildern wirbt, handelt unter Umständen irreführend nach § 5 UWG. Das gilt auch dort, wo die KI-Verordnung keine Kennzeichnung verlangt.

47. Schützt eine korrekte Kennzeichnung vor weiteren Ansprüchen?

Nein, eine korrekte Kennzeichnung macht einen rechtswidrigen Inhalt nicht rechtmäßig. Unabhängig von der Kennzeichnung sind insbesondere folgende Rechtsbereiche zu prüfen:

• Persönlichkeitsrecht und Recht am eigenen Bild: Ein Deepfake einer erkennbaren Person ohne deren Einwilligung ist in aller Regel unzulässig. Es drohen Unterlassungs- und Schadensersatzansprüche, bei schweren Eingriffen auch eine Geldentschädigung.
• Datenschutz: Die Darstellung erkennbarer Personen ist eine Verarbeitung personenbezogener Daten und bedarf einer Rechtsgrundlage. Werden biometrische Daten zur eindeutigen Identifizierung verarbeitet, etwa bei biometrischen Zugangssystemen, gilt zudem das grundsätzliche Verarbeitungsverbot des Art. 9 Abs. 1 DSGVO mit engen Ausnahmen.
• Urheber- und Markenrecht: KI-Inhalte können Urheber- oder Markenrechte Dritter verletzen, etwa wenn geschützte Werke unzulässig übernommen oder fremde Kennzeichen markenmäßig verwendet werden.
• Strafrecht: Ehrverletzende Deepfakes können als Beleidigung (§ 185 StGB), üble Nachrede (§ 186 StGB) oder Verleumdung (§ 187 StGB) strafbar sein. Wird mit einem KI-Inhalt im Geschäftsverkehr getäuscht, kommt Betrug (§ 263 StGB) in Betracht.
• Verbotene KI-Praktiken: Ein nach Art. 5 KI-VO verbotenes System bleibt verboten, auch wenn transparent darüber informiert wird.

48. Was droht auf Social Media?

Plattformen wie Instagram, TikTok, YouTube und LinkedIn haben teilweise eigene KI-Regeln. Diese verlangen häufig eine Kennzeichnung aller realistisch wirkenden KI-Inhalte und gehen damit über das Gesetz hinaus. Bei Verstößen drohen insbesondere:

• Löschung einzelner Inhalte,
• Reichweitenbeschränkungen für Beiträge oder den gesamten Account,
• Accountsperrungen, im Wiederholungsfall dauerhaft,
• vertragliche Sanktionen nach den Nutzungsbedingungen.

Eine automatische Kennzeichnung durch die Plattform entbindet nicht von der eigenen Pflicht, denn die Pflicht aus Art. 50 Abs. 4 KI-VO trifft den Betreiber selbst. Zudem sind Plattformkennzeichnungen oft wenig auffällig, funktionieren nicht bei allen KI-Systemen zuverlässig und können jederzeit geändert werden.

Checkliste: Welche KI-Kennzeichnungspflichten gelten für Ihr Unternehmen?

Prüfen Sie anhand dieser fünf Fragen, welche Pflichten nach Art. 50 KI-VO für Ihr Unternehmen relevant sind:

Hinweis: Der Beitrag wurde unter Mitwirkung unseres Referendars Matthias Dicembre erstellt.