KI Recht: Große Rechts-FAQ zu künstlicher Intelligenz

ChatGPT, Midjourney, Dall-E-2 & Co. Aktuell erleben wir live, wie künstliche Intelligenz (KI) Einzug in unser Leben hält. Parallel entsteht eine Vielzahl neuer juristischer Fragen, auf die wir in diesen Rechts-FAQ detailliert eingehen.

A. Urheberrecht

Bei der rechtlichen Auseinandersetzung mit künstlichen Intelligenzen spielt das Urheberrecht häufig eine zentrale Rolle, sowohl was das Training der KI, den Input der Nutzer als auch den von der KI erzeugten Output angeht. In diesem Abschnitt geht es daher als erstes um die wichtigsten urheberrechtlichen Fragestellungen.

1. Welche Schutzrechte kennt das Urheberrechtsgesetz?

Für das urheberrechtliche Verständnis im Kontext von künstlicher Intelligenz ist es wichtig zu verstehen, dass das Urheberrechtsgesetz (UrhG) zwischen Urheberrechten und verwandten Schutzrechten unterscheidet.

a. Urheberrecht: Das Urheberrecht ist ein absolutes subjektives Recht. Als geistiges Eigentum gewährt es dem Urheber Ausschließlichkeitsrechte, die gegenüber jedermann wirken. Ein Urheber kann – abgesehen von wenigen Einschränkungen – frei darüber entscheiden, ob, wem und zu welchen Bedingungen er die Verwertung seines Werkes erlaubt. Das Urheberrecht schützt den Urheber in seinen geistigen und persönlichen Beziehungen zum Werk und dient zugleich der Sicherung einer angemessenen Vergütung für die Nutzung der Werke (vgl. § 11 UrhG).

Zwingende Voraussetzung für das Entstehen eines Urheberrechts ist das Vorliegen eines Werkes. Nach § 2 Abs. 2 UrhG sind Werke persönliche geistige Schöpfungen.

Der unionsrechtlich geprägte Werkbegriff setzt voraus, dass der betreffende Gegenstand ein Original in dem Sinne ist, dass er eine eigene geistige Schöpfung seines Urhebers darstellt, und dass diese Schöpfung in einem mit hinreichender Genauigkeit und Objektivität identifizierbaren Gegenstand zum Ausdruck kommt (EuGH, Urteil vom 12.09.2019, Az. C-683/17 – Cofemel, Rn. 29; EuGH, Urteil vom 13.11.2018, Az. C-310/17 – Levola Hengelo, Rn. 40).

Originalität liegt vor, wenn der Gegenstand die Persönlichkeit seines Urhebers widerspiegelt, indem er dessen freie kreative Entscheidungen zum Ausdruck bringt. Ist die Gestaltung dagegen durch technische Erwägungen, Regeln oder andere Zwänge bestimmt, die keinen Raum für künstlerische Freiheit lassen, fehlt es an der erforderlichen Originalität (EuGH, Urteil vom 12.09.2019, Az. C-683/17 – Cofemel, Rn. 30 f.).

Besonderer Arbeitsaufwand, Sachkenntnis oder bloßer Fleiß rechtfertigt dagegen für sich genommen keinen urheberrechtlichen Schutz (EuGH, Urteil vom 01.03.2012, Az. C-604/10 – Football Dataco).

b. Leistungsschutzrecht: Als Leistungsschutzrechte (auch verwandte Schutzrechte oder Nachbarrechte genannt) bezeichnet man „Rechte, die nicht wie das Urheberrecht die schöpferische Leistung schützen, sondern Leistungen anderer Art, die der schöpferischen Leistung des Urhebers ähnlich sind oder in Zusammenhang mit den Werken der Urheber erbracht werden“ (BT-Drs. 4/270, Seite 33 f.). Leistungsschutzrechte dienen überwiegend dem Schutz einer wirtschaftlichen, organisatorischen oder technischen Leistung. Insoweit bezweckt der Schutz die Absicherung der in der wirtschaftlichen, organisatorischen und technischen Leistung getätigten Investition (Dreier/Schulze/Dreier, 7. Auflage 2022, UrhG Vorb. zu §§ 70 ff. Rn. 2). Daneben dienen sie teilweise aber auch dem Schutz einer persönlich erbrachten Leistung. Schutzvoraussetzung der einzelnen Leistungsschutzrechte ist, anders als beim Urheberrecht, nicht eine persönliche geistige Schöpfung im Sinne von § 2 Abs. 2 UrhG, sondern die Erbringung der gesetzlich umschriebenen Leistung. Da gerade keine persönliche geistige Schöpfung notwendig ist, können auch juristische Personen Inhaber eines Leistungsschutzrechtes sein. Dagegen stehen Leistungsschutzrechte, die ihren Grund in einer persönlichen Leistung haben, allein natürlichen Personen zu. Soweit es jedoch um den Schutz von Investitionen geht, können sowohl natürliche als auch juristische Personen Inhaber eines Leistungsschutzrechts sein (Dreier/Schulze/Dreier, 7. Auflage 2022, UrhG Vorb. zu §§ 70 ff. Rn. 3). Zu den Leistungsschutzrechten zählen:

• Schutz wissenschaftlicher Ausgaben (§ 70 UrhG)
• Schutz nachgelassener Werke (§ 71 UrhG)
• Schutz der Lichtbilder (§ 72 UrhG)
• Schutz des ausübenden Künstlers (§ 73 ff. UrhG)
• Schutz des Veranstalters (§ 81 UrhG)
• Schutz des Tonträgerherstellers (§ 85 f. UrhG)
• Schutz des Sendeunternehmens (§ 87 UrhG)
• Schutz des Datenbankherstellers (§ 87a ff. UrhG)
• Schutz des Presseverlegers (§ 87f ff. UrhG)
• Schutz des Filmherstellers (§ 94 UrhG)
• Schutz der Laufbilder (§ 95 UrhG)

nach oben

2. Kann eine künstliche Intelligenz wie ChatGPT Urheber eines Werkes sein?

Nein, das ist nicht möglich.

Eine künstliche Intelligenz kann nach deutschem Urheberrecht kein Urheber sein. Eine persönliche geistige Schöpfung im Sinne von § 2 Abs. 2 UrhG setzt nach dem in § 7 UrhG geregelten Schöpferprinzip voraus, dass sie von einem Menschen erbracht wurde. Urheber im Sinne des Urheberrechtsgesetzes ist immer der tatsächliche Werkschöpfer, d.h. diejenige natürliche Person, die das Werk durch eine persönliche geistige Leistung im Sinne von § 2 Abs. 2 UrhG selbst geschaffen hat. Erzeugnisse, die ohne menschliches Zutun ausschließlich auf der Tätigkeit eines Computers beruhen, sind nach heutigem Rechtsverständnis nicht als Werk urheberrechtlich schutzfähig (vgl. OLG Hamm, Urteil vom 24.08.2004, Az. 4 U 51/04).

Die wohl überwiegend vertretene Meinung geht deshalb davon aus, dass durch künstliche Intelligenz geschaffene „Werke“ mangels menschlicher Schöpfung nach aktuellem Recht keinen Urheberrechtsschutz genießen und auch in Zukunft keinen Urheberrechtsschutz genießen sollten (Wandtke/Bullinger/Thum, 6. Auflage 2022, UrhG § 7 Rn. 17). Daher sollte richtigerweise auch nicht von KI-generierten „Werken“ gesprochen werden, sondern lediglich von KI-generierten Erzeugnissen oder Output. Dieses Ergebnis deckt sich auch mit der Rechtsprechung im Patentrecht. Wie im Urheberrecht kann auch der Erfinder im Patentrecht nur eine natürliche Person sein (vgl. BPatG, Beschluss vom 11.11.2021, Az. 11 W (pat) 5/21).

Für das Patentrecht wurde zwischenzeitlich entschieden, dass nur eine natürliche Person Erfinder im Sinne von § 37 Abs. 1 PatG sein kann, nicht jedoch eine künstliche Intelligenz (BGH, Beschluss vom 11.06.2024, Az. X ZB 5/22).

nach oben

3. Steht KI-Anbietern ein Urheberrecht am KI-generierten Output zu?

Nein, das ist in der Regel nicht der Fall.

KI-Anbietern – im Falle von ChatGPT dem Unternehmen OpenAI – steht typischerweise kein Urheberrecht an den von ihrer KI generierten Erzeugnissen zu. Wurde die KI von einer juristischen Person oder Personengesellschaft entwickelt, kann sie nach dem in § 7 UrhG geregelten Schöpferprinzip kein Urheber sein.

nach oben

4. Steht KI-Anbietern aufgrund ihrer AGB ein Urheberrecht am KI-generiertem Output zu?

Nein. Es ist nicht möglich, durch vertragliche Vereinbarungen oder Deklaration ein Urheberrecht entstehen zu lassen, da die Werkschöpfung ein Realakt ist.

Das Urheberrecht entsteht im Moment der Schöpfung, unmittelbar kraft Gesetzes und originär in der Person des Werkschöpfers (Wandtke/Bullinger/Thum, 6. Auflage 2022, UrhG § 7 Rn. 5).

nach oben

5. Kann ein Nutzer Urheber von KI-generiertem Output werden?

Ja, das ist grundsätzlich möglich. Voraussetzung ist aber, dass sich im konkreten Output eine eigene menschliche schöpferische Leistung des Nutzers widerspiegelt. Rein autonom erzeugter KI-Output ist nicht urheberrechtlich geschützt.

Der Einsatz eines technischen Hilfsmittels schließt eine persönliche geistige Schöpfung nicht aus. Entscheidend bleibt nach den allgemeinen Grundsätzen des EuGH, ob der Mensch durch freie kreative Entscheidungen seine Persönlichkeit im konkreten Ergebnis zum Ausdruck bringt (EuGH, Urteil vom 12.09.2019, Az. C-683/17 – Cofemel, Rn. 30 f.; EuGH, Urteil vom 01.03.2012, Az. C-604/10 – Football Dataco, Rn. 38).

Wie diese Grundsätze auf generative KI anzuwenden sind, ist noch nicht höchstrichterlich geklärt. In der urheberrechtlichen Literatur wird überwiegend darauf abgestellt, inwieweit trotz des softwaregesteuerten Entstehungsprozesses noch ein menschlicher schöpferischer Einfluss auf den konkreten Output besteht. Ein solcher Einfluss kann insbesondere durch individuelle Vorgaben für den Entstehungsprozess, durch sukzessive gestalterische Eingriffe oder durch eine eigene kreative Weiterbearbeitung entstehen (vgl. Dreyer in Dreyer/Kotthoff/Hentsch, Urheberrecht, 5. Aufl. 2025, § 2 Rn. 32; Leistner, GRUR 2025, 1123, 1132; Olbrich/Bongers/Pampel, GRUR 2022, 870).

Eine erste deutsche Entscheidung hierzu stammt vom Amtsgericht München. Das Gericht hat mit Urteil vom 13.02.2026 (Az. 142 C 9786/25) entschieden, dass der Werkcharakter KI-generierter Erzeugnisse davon abhängt, „inwieweit trotz des softwaregesteuerten Prozessablaufs noch menschlicher schöpferischer Einfluss ausgeübt wird“. Urheberrechtsschutz sei auch infolge eines menschlichen Eingriffs denkbar, der erst sukzessive während des Promptings erfolgt. Erforderlich sei jedoch, dass der menschliche Einfluss den resultierenden Output „hinreichend objektiv und eindeutig identifizierbar prägt“.

Das AG München verlangt dabei, dass die im Prompting enthaltenen kreativen Elemente den Output so stark dominieren, dass dieser insgesamt als eigene originelle Schöpfung des Nutzers angesehen werden kann. Eine bloße Auswahl aus mehreren KI-Vorschlägen reiche für sich genommen nicht aus.

Die Bedeutung der Entscheidung sollte noch nicht überschätzt werden. Es handelt sich um ein amtsgerichtliches Urteil. Eine höchstrichterliche Rechtsprechung speziell zu den Voraussetzungen menschlicher Urheberschaft an generativem KI-Output liegt bislang nicht vor. Das OLG Düsseldorf hat 2026 die vom AG München formulierten Grundgedanken aufgegriffen, musste die Frage menschlicher Urheberschaft im konkreten Fall mangels näherer Angaben zum Entstehungsprozess aber nicht abschließend entscheiden (OLG Düsseldorf, Urteil vom 02.04.2026, Az. 20 W 2/26).

Im Ergebnis kommt es daher weiterhin auf den Einzelfall an: Je stärker der Mensch die konkrete Gestaltung des Outputs durch eigene kreative Entscheidungen bestimmt, desto eher kommt Urheberrechtsschutz in Betracht. Bleibt die konkrete gestalterische Umsetzung dagegen weitgehend dem KI-System überlassen, fehlt es an einer persönlichen geistigen Schöpfung des Nutzers.

nach oben

6. Was ist ein Prompt?

Im Zusammenhang mit der Nutzung von künstlichen Intelligenzen wie ChatGPT meint der Begriff des Prompts die Eingabe des Nutzers in dafür vorgesehene Eingabeaufforderungen der KI, beispielsweise ein Textfeld. Der Prompt (ggf. auch mehrere aufeinanderfolgende Prompts) hat entscheidende Bedeutung für das von der KI erzeugte Ergebnis.

nach oben

7. Wann kann Prompting Urheberrechtsschutz am KI-Output begründen?

Entscheidend ist nicht die Länge eines Prompts. Maßgeblich ist, ob sich die eigenen freien und kreativen Entscheidungen des Nutzers im konkreten KI-Output wiederfinden.

Eine feste Mindestlänge, Zahl von Prompts oder sonstige formale Schwelle gibt es nicht. Auch ein sehr langer und aufwendig formulierter Prompt führt nicht automatisch dazu, dass der Nutzer Urheber des erzeugten Ergebnisses wird. Umgekehrt kann nicht ausgeschlossen werden, dass auch eine kürzere, aber besonders konkrete schöpferische Steuerung des Entstehungsprozesses urheberrechtlich relevant ist.

Für die Anwendung auf generative KI fehlt bislang höchstrichterliche Rechtsprechung. In der Literatur wird insbesondere darauf abgestellt, ob der menschliche Input den resultierenden Output objektiv und hinreichend eindeutig prägt (Leistner, GRUR 2025, 1123, 1132). Bildlich gesprochen muss der Einsatz des KI-Modells einem Hilfsmittel näherstehen als einem selbstständigen Schöpfungsinstrument (Olbrich/Bongers/Pampel, GRUR 2022, 870).

Für einen menschlichen schöpferischen Einfluss können beispielsweise konkrete Vorgaben zur Komposition, Perspektive, Anordnung einzelner Elemente, Farbgestaltung oder sonstigen Ausdrucksform sprechen, sofern sich gerade diese Entscheidungen anschließend im Output wiederfinden. Auch sukzessives Prompting kann berücksichtigt werden, wenn der Nutzer während des Entstehungsprozesses wiederholt eigene gestalterische Entscheidungen trifft und damit das konkrete Ergebnis beeinflusst.

Das AG München hat hierzu entschieden, dass allgemein gehaltene und ergebnisoffene Anweisungen nicht genügen, wenn letztlich die KI die gestalterischen Entscheidungen trifft. Nach Auffassung des Gerichts sind auch die Zahl der Prompts sowie Zeitaufwand und Sorgfalt ihrer Erstellung für sich genommen unerheblich. Das Urheberrecht schütze nicht „Investitionen, Zeitaufwand oder Fleiß, sondern allein das Ergebnis einer kreativen Tätigkeit“ (AG München, Urteil vom 13.02.2026, Az. 142 C 9786/25 unter Hinweis auf Dreier/Schulze/Raue, UrhG, 8. Aufl. 2025, § 2 Rn. 79).

Die Entscheidung liefert damit erste Anhaltspunkte, aber noch keine gefestigte Rechtsprechung. Insbesondere ist bislang nicht höchstrichterlich geklärt, ab welcher Intensität menschlicher Steuerung ein KI-Output dem Nutzer als eigenes Werk zugerechnet werden kann.

nach oben

8. Kann ein Prompt urheberrechtlich geschützt sein?

Ja, ein Prompt kann grundsätzlich urheberrechtlich geschützt sein. Entscheidend ist aber nicht seine Länge oder technische Komplexität, sondern ob seine konkrete sprachliche Gestaltung eine persönliche geistige Schöpfung darstellt.

Prompts kommen insbesondere als Sprachwerke nach § 2 Abs. 1 Nr. 1 UrhG in Betracht. Dafür gelten dieselben allgemeinen urheberrechtlichen Anforderungen wie bei anderen Texten. Der Prompt muss die Persönlichkeit seines Urhebers widerspiegeln, indem er dessen freie kreative Entscheidungen zum Ausdruck bringt (EuGH, Urteil vom 12.09.2019, Az. C-683/17 – Cofemel, Rn. 30).

Nicht geschützt sind demgegenüber die bloße Idee, Aufgabenstellung, Methode oder sonstige inhaltliche Vorgabe als solche. Der urheberrechtliche Schutz kann sich nur auf die konkrete individuelle Ausdrucksform erstrecken.

Die Länge eines Textes kann faktisch Einfluss auf die vorhandenen Gestaltungsmöglichkeiten haben, ist aber keine eigenständige Schutzvoraussetzung. Auch sehr kurze Textbestandteile können geschützt sein, wenn sie Elemente enthalten, die Ausdruck einer eigenen geistigen Schöpfung ihres Urhebers sind (EuGH, Urteil vom 16.07.2009, Az. C-5/08 – Infopaq). Umgekehrt wird ein langer Prompt nicht allein deshalb geschützt, weil seine Erstellung aufwendig war.

Bei Prompts ist zudem zu berücksichtigen, dass sie häufig einem technischen oder praktischen Zweck dienen. Je stärker Form und Inhalt durch die gewünschte Funktion vorgegeben sind und je weniger Raum für freie kreative Entscheidungen bleibt, desto eher fehlt die erforderliche Originalität. Ob ein konkreter Prompt geschützt ist, bleibt deshalb eine Frage des Einzelfalls.

Eine speziell auf die urheberrechtliche Schutzfähigkeit des Prompts selbst bezogene höchstrichterliche oder obergerichtliche Rechtsprechung existiert bislang nicht. Die Entscheidung des AG München vom 13.02.2026 (Az. 142 C 9786/25) betrifft eine andere Frage, nämlich ob das Prompting einen menschlichen schöpferischen Einfluss auf den KI-Output begründen kann. Aus ihr lässt sich daher nicht ohne Weiteres ableiten, wann der Prompt als eigenständiges Sprachwerk geschützt ist.

nach oben

9. Kann KI-generierter Output durch ein Leistungsschutzrecht geschützt sein?

Ob KI-generierter Output durch ein Leistungsschutzrecht geschützt sein kann, hängt von der Art des Erzeugnisses und dem jeweils einschlägigen Leistungsschutzrecht ab. Anders als beim Urheberrecht setzen manche Leistungsschutzrechte keine persönliche geistige Schöpfung voraus.

• KI-generierte Bilder: Rein softwaregenerierte Bilder genießen grundsätzlich keinen Lichtbildschutz nach § 72 UrhG. Das OLG Düsseldorf hat hierzu ausdrücklich entschieden: „Erfolgt die Generierung des Erzeugnisses gänzlich softwaregesteuert, kommt ein Urheber- und auch ein Leistungsschutz für das KI-Erzeugnis nicht in Betracht“ (OLG Düsseldorf, Urteil vom 02.04.2026, Az. I-20 W 2/26). Das Gericht knüpft damit an die Rechtsprechung an, wonach der Lichtbildschutz jedenfalls eine menschliche Leistung voraussetzt. Etwas anderes kann gelten, wenn ein Mensch ein eigenes Foto aufnimmt und KI lediglich zur nachträglichen Bearbeitung einsetzt; dann kann jedenfalls das zugrunde liegende Lichtbild bzw. Lichtbildwerk geschützt bleiben.
• KI-generierte Videos: Für Bild- oder Bild-Ton-Folgen kommt grundsätzlich ein Leistungsschutz nach §§ 94, 95 UrhG in Betracht. Anders als § 72 UrhG setzt der Laufbildschutz kein bestimmtes Aufnahmeverfahren voraus; auch virtuelle Bildfolgen können daher grundsätzlich erfasst sein (vgl. Wandtke/Bullinger/Manegold/Czernik, UrhG § 95 Rn. 5). Rechtsinhaber ist nach §§ 94, 95 UrhG der Film- bzw. Laufbildhersteller. Die das Schutzrecht des Filmherstellers begründende Leistung liegt nach der Rechtsprechung des BGH nicht in einem künstlerisch-schöpferischen Beitrag, sondern in der Übernahme der wirtschaftlichen Verantwortung und der organisatorischen Tätigkeit, die erforderlich sind, um den Film herzustellen. Filmhersteller ist diejenige natürliche oder juristische Person, die tatsächlich in diesem Sinne tätig wird (BGH, Urteil vom 22.10.1992, Az. I ZR 300/90 – Filmhersteller). Wer diese Voraussetzungen bei einem KI-generierten Video erfüllt, ist bislang nicht gerichtlich geklärt. Insbesondere lässt sich aus den hohen Entwicklungs- und Betriebskosten eines KI-Modells nicht ohne Weiteres ableiten, dass dessen Anbieter Hersteller jedes mit dem System erzeugten Videos ist.
• KI-generierte Texte: Für rein KI-generierte Texte besteht kein allgemeines Leistungsschutzrecht. Insbesondere führt die bloße technische oder wirtschaftliche Leistung hinter einem KI-System nicht zu einem eigenen Schutz des einzelnen Textoutputs. Die Voraussetzungen spezieller Leistungsschutzrechte müssen jeweils gesondert erfüllt sein.
• KI-generierte Presseveröffentlichungen: Sofern ein KI-generierter Text Bestandteil einer Presseveröffentlichung im Sinne von § 87f Abs. 1 UrhG ist, kann grundsätzlich das Leistungsschutzrecht des Presseverlegers nach §§ 87f ff. UrhG eingreifen. Dieses schützt nicht die persönliche schöpferische Leistung eines Journalisten, sondern die wirtschaftlich-organisatorische und technische Leistung des Presseverlegers. Dass einzelne Texte unter Einsatz von KI erstellt wurden, schließt den Schutz der Presseveröffentlichung daher nicht ohne Weiteres aus (vgl. Conraths, MMR 2021, 457, 460). Spezifische Rechtsprechung zu KI-generierten Presseveröffentlichungen liegt hierzu bislang nicht vor.
• KI-generierte Musik bzw. Gesang: Ein Leistungsschutzrecht als ausübender Künstler nach § 73 UrhG setzt eine menschliche Darbietung voraus. Eine KI kann daher selbst kein ausübender Künstler sein. Davon zu unterscheiden ist das Leistungsschutzrecht des Tonträgerherstellers nach § 85 UrhG. Dieses schützt die wirtschaftlich-organisatorische Leistung der erstmaligen Festlegung einer Tonfolge und setzt keine persönliche künstlerische Leistung voraus. Deshalb kann auch bei der Aufnahme KI-generierter Musik grundsätzlich ein Tonträgerherstellerrecht in Betracht kommen. Wer bei einem rein KI-generierten Musikstück Tonträgerhersteller ist, ist allerdings bislang nicht gerichtlich geklärt.

nach oben

10. Darf man durch Prompts den Stil berühmter Autoren oder Künstler nachahmen?

Ja, das wird in der Regel zulässig sein.

Ein bestimmter Stil ist urheberrechtlich nicht schutzfähig (vgl. BGH, Urteil vom 18.12.1968, Az. I ZR 85/65 – Hummel III). Schutzfähig ist nur die konkrete, individuelle Werkschöpfung. Im Interesse der Allgemeinheit ist der Stil frei, auch wenn er im Einzelfall auf einen bestimmten Urheber hinweist (Wandtke/Bullinger/Bullinger, 6. Auflage 2022, UrhG § 2 Rn. 40).

Abseits des Urheberrechts ist zu beachten, dass die Anlehnung an Stilmerkmale und Motive eines anderen Künstlers sowie die Verwendung seiner Signatur im Falle von Identitätsverwirrungen zu persönlichkeitsrechtlichen und wettbewerbsrechtlichen Ansprüchen führen kann (BGH, Urteil vom 08.06.1989, Az. I ZR 135/87 – Emil Nolde).

nach oben

11. Darf man bekannte Figuren mittels Prompts in einen KI-Output einbauen?

Das kann eine Urheberrechtsverletzung darstellen, wenn die Figur selbst urheberrechtlich geschützt ist und ihre geschützten charakteristischen Merkmale im KI-Output wiedererkennbar übernommen werden.

Comicfiguren, Zeichentrickfiguren und Literaturfiguren können als Werke urheberrechtlich geschützt sein. Der BGH hat für literarische Figuren entschieden, dass die konkrete Ausformung einer Figur mit ihren unverwechselbaren äußeren Merkmalen, Eigenschaften, Fähigkeiten und typischen Verhaltensweisen urheberrechtlichen Schutz genießen kann (BGH, Urteil vom 17.07.2013, Az. I ZR 52/12 – Pippi-Langstrumpf-Kostüm).

Entscheidend ist deshalb nicht allein, dass ein KI-Output dieselbe Figur oder dasselbe Motiv zeigt. Eine Urheberrechtsverletzung setzt voraus, dass gerade solche Elemente übernommen werden, die Ausdruck der eigenen geistigen Schöpfung des ursprünglichen Urhebers sind. Nach der neueren Rechtsprechung ist zu prüfen, ob diese kreativen Elemente im beanstandeten Inhalt wiedererkennbar übernommen worden sind (EuGH, Urteil vom 04.12.2025, verb. Rs. C-580/23 und C-795/23 – Mio und konektra, Rn. 86; OLG Düsseldorf, Urteil vom 02.04.2026, Az. 20 W 2/26).

Allerdings bedeutet die Übernahme geschützter Merkmale nicht automatisch, dass die Nutzung unzulässig ist. Zu prüfen sind insbesondere die gesetzlichen Schranken des Urheberrechts. Je nach konkreter Gestaltung kann beispielsweise § 51a UrhG für Karikaturen, Parodien und Pastiches eingreifen.

Ob eine konkrete KI-Darstellung einer bekannten Figur zulässig ist, hängt daher vom jeweiligen Output, den übernommenen geschützten Merkmalen und möglichen gesetzlichen Schranken ab.

nach oben

12. Kann man KI-generierten Output gefahrlos nutzen?

Nein. Auch wenn rein KI-generierter Output häufig selbst keinen Urheberrechtsschutz genießt, kann seine Nutzung Rechte Dritter verletzen.

Zu unterscheiden sind zwei Fragen:

• Zum einen kann fraglich sein, ob am KI-Output selbst ein Schutzrecht besteht.
• Zum anderen kann der Output geschützte Elemente bereits existierender Werke enthalten.

Dass der Output selbst möglicherweise nicht geschützt ist, bedeutet deshalb nicht, dass er frei von Rechten Dritter ist.

Für eine Urheberrechtsverletzung kommt es darauf an, ob gerade die kreativen Elemente eines bestehenden Werkes übernommen wurden, die dessen Urheberrechtsschutz begründen, und ob diese Elemente im KI-Output wiedererkennbar sind. Der EuGH hat bestätigt, dass auch die Übernahme eines vergleichsweise kleinen Teils eines Werks ausreichen kann, sofern dieser Teil als solcher die eigene geistige Schöpfung des Urhebers zum Ausdruck bringt (EuGH, Urteil vom 04.12.2025, verb. Rs. C-580/23 und C-795/23 – Mio und konektra, Rn. 85).

Wie diese Prüfung bei KI-generierten Inhalten funktioniert, zeigt das OLG Düsseldorf. Dort war ein urheberrechtlich geschütztes Unterwasserfoto eines Hundes in eine KI-Software hochgeladen und in ein Comicbild umgewandelt worden. Das Gericht verneinte eine Urheberrechtsverletzung, weil das KI-Bild gerade nicht die den Schutz begründenden konkreten Gestaltungselemente des Fotos – insbesondere Bildausschnitt, Perspektive und Lichtführung – übernommen hatte. Das bloße Motiv „Hund unter Wasser mit Ball“ war nicht geschützt (OLG Düsseldorf, Urteil vom 02.04.2026, Az. 20 W 2/26).

Umgekehrt zeigen die Entscheidungen des LG München I in den Verfahren GEMA gegen OpenAI und GEMA gegen Suno, dass KI-Systeme geschützte Inhalte unter bestimmten Umständen in einem Umfang reproduzieren können, der nach Auffassung des Gerichts in das Vervielfältigungsrecht eingreift. Bei OpenAI wurden Liedtexte, bei Suno Bestandteile von Musikwerken in den Outputs wiedergegeben (LG München I, Urteil vom 11.11.2025, Az. 42 O 14139/24; Urteil vom 31.07.2026, Az. 42 O 763/25). Beide Urteile sind nicht rechtskräftig.

Vor allem bei wirtschaftlich bedeutsamen Veröffentlichungen sollte KI-Output daher auf auffällige Übereinstimmungen mit bestehenden Werken, Marken, geschützten Figuren oder Persönlichkeitsmerkmalen geprüft werden. Eine vollständige Rechtssicherheit lässt sich dadurch allerdings nicht gewährleisten.

nach oben

13. Kann man erkennen, ob KI-Output urheberrechtlich geschützte Elemente enthält?

Für den Nutzer ist das häufig nicht zuverlässig erkennbar. Insbesondere kann man nicht generell unterstellen, dass generative KI ausschließlich vollständig neue Inhalte erzeugt.

Die neuere Rechtsprechung zeigt, dass Trainingsinhalte unter bestimmten Umständen in einem KI-Modell memorisiert und anschließend wieder ausgegeben werden können. Das LG München I bezeichnet als Memorisierung den Fall, dass Trainingsdaten nach dem Training reproduzierbar im Modell enthalten sind und sich wieder als Outputs extrahieren lassen.

Im Verfahren GEMA gegen OpenAI ging das LG München I davon aus, dass neun geschützte Liedtexte reproduzierbar in den Sprachmodellen GPT-4 und GPT-4o enthalten waren. Das Gericht stellte fest, dass sich in den nach dem Training spezifizierten Parametern eine vollständige Übernahme von Trainingsdaten befinden könne und wertete die reproduzierbare Festlegung der Texte als Vervielfältigung im Sinne von § 16 UrhG (LG München I, Urteil vom 11.11.2025, Az. 42 O 14139/24).

Das LG München I hat diese Grundsätze im Verfahren GEMA gegen Suno auf Musikwerke übertragen. Nach Überzeugung der Kammer waren die streitgegenständlichen Musikstücke reproduzierbar in den Modellen enthalten; die Memorisierung wurde durch einen Vergleich der Trainingswerke mit den erzeugten Outputs festgestellt (LG München I, Urteil vom 31.07.2026, Az. 42 O 763/25). Auch dieses Urteil ist nicht rechtskräftig.

Für Nutzer bedeutet das praktisch:

• Bilder: Auffällige Übereinstimmungen mit bekannten Bildern, charakteristische Bildelemente, Signaturen oder Wasserzeichen können Anlass für eine nähere Prüfung geben. Eine Reverse-Image-Suche kann helfen, ähnliche Ausgangswerke zu finden.
• Texte: Längere identische oder nahezu identische Passagen können über Suchmaschinen oder Plagiatssoftware überprüft werden.
• Musik: Bei erkennbaren Ähnlichkeiten zu bekannten Melodien, Harmonien, Rhythmen oder Arrangements wird eine urheberrechtliche Prüfung erforderlich sein.

Solche Prüfungen können das Risiko reduzieren, bieten aber keine vollständige Sicherheit. Insbesondere lässt sich allein aus dem Output regelmäßig nicht feststellen, aus welchen Trainingsdaten bestimmte Bestandteile stammen oder ob ein geschütztes Werk im Modell memorisiert wurde.

nach oben

14. Kann man verhindern, dass KI-Systeme meine Texte oder Bilder als Trainingsdaten verwenden?

Rechteinhaber können sich die Nutzung ihrer online zugänglichen Werke für Text und Data Mining (TDM) grundsätzlich vorbehalten. Ob und in welchem Umfang sich damit auch die Nutzung für das Training generativer KI verhindern lässt, ist noch nicht abschließend geklärt.

Das Urheberrechtsgesetz enthält in § 44b UrhG sowie speziell für Zwecke der wissenschaftlichen Forschung in § 60d UrhG allgemeine Schranken des sog. Text und Data Minings. Text und Data Mining ist die automatisierte Analyse von einzelnen oder mehreren digitalen oder digitalisierten Werken, um daraus Informationen insbesondere über Muster, Trends und Korrelationen zu gewinnen (vgl. § 44b Abs. 1 UrhG).

Das OLG Hamburg hat mit Urteil vom 10.12.2025 (Az. 5 U 104/24 – LAION) bestätigt, dass auch die automatisierte Analyse eines Bildes beim Aufbau eines Datensatzes, der später für das Training generativer KI genutzt werden kann, Text und Data Mining im Sinne von § 44b UrhG sein kann. Das Gericht weist aber darauf hin, dass damit nicht entschieden ist, ob auch das spätere Training generativer KI-Modelle selbst die Voraussetzungen des § 44b UrhG erfüllt. Das Verfahren ist beim BGH anhängig (Az. I ZR 281/25). Am 03.09.2026 hat der BGH den Fall verhandelt, er tendiert zu einer Vorlage an den EuGH.

Die beim Text und Data Mining erfolgende automatisierte Auswertung von Daten ist keine urheberrechtlich relevante Handlung (BT-Drs. 18/12329, Seite 40). Urheberrechtlich relevant sind jedoch Handlungen, die zur Vorbereitung der automatisierten Auswertung vorgenommen werden und dabei die Nutzung von geschützten Werken betreffen. Zur Erstellung der Trainingsdaten werden urheberrechtlich geschützte Werke typischerweise in ein analysefähiges Digitalisat umgewandelt, was eine Vervielfältigung im Sinne von § 16 UrhG darstellt (vgl. BeckOK UrhR/Hagemeier, 36. Edition 15.10.2022, UrhG § 44b Rn. 12).

§ 44a UrhG soll nicht eingreifen, da derartige Vervielfältigungen weder flüchtigen noch begleitenden Charakter besitzen (LG Hamburg, Urteil vom 27.09.2024, Az. 310 O 227/23 – LAION). Flüchtig ist eine Vervielfältigung, wenn ihre Lebensdauer auf das für das ordnungsgemäße Funktionieren des betreffenden technischen Verfahrens Erforderliche beschränkt ist, wobei dieses Verfahren derart automatisiert sein muss, dass es diese Handlung automatisch, d.h. ohne Beteiligung einer natürlichen Person löscht, sobald ihre Funktion, die Durchführung eines solchen Verfahrens zu ermöglichen, erfüllt ist (EuGH, Urteil vom 16.07.2009, Az. C-5/08 – Infopaq/DDFInfopaq/DDF zu Art. 5 Abs. 1 DSM-RL). Begleitend ist eine Vervielfältigung, wenn sie gegenüber dem technischen Verfahren, dessen Teil sie ist, weder eigenständig ist noch einem eigenständigen Zweck dient (EuGH, Urteil vom 05.06.2014, Az. C-360/13 – PR Consultants Association Ltd./Newspaper Licensing Agency Ltd.).

Nach § 44b Abs. 2 Satz 1 UrhG sind Vervielfältigungen von rechtmäßig zugänglichen Werken für das Text und Data Mining aber zulässig, wenn der Rechteinhaber keinen Nutzungsvorbehalt erklärt hat (§ 44b Abs. 3 UrhG).

• Rechteinhaber ist typischerweise der Urheber. In Betracht kommen aber auch Inhaber abgeleiteter Rechte (z.B. Lizenznehmer) oder Rechtsnachfolger wie z.B. der Erbe oder ein Erwerber der Nutzungs- und Verwertungsrechte am jeweiligen Content. Nicht nur ausschließliche Lizenznehmer können Rechteinhaber im Sinne von § 44b Abs. 3 Satz 2 UrhG sein, sondern auch einfache Lizenznehmer (vgl. LG Hamburg, Urteil vom 27.09.2024, Az. 310 O 227/23 – LAION Rdnr. 60). Im vorstehenden Verfahren entschied das Landgericht, dass der klagende Urheber „wohl auch berechtigt“ sei, sich auf einen vom einfachen Lizenznehmer erklärten Nutzungsvorbehalt zu berufen, der das betroffene Werk wirtschaftlich verwertete (hier als Bildagentur).
• Bei online zugänglichen Werken ist der Nutzungsvorbehalt nur wirksam, wenn er in maschinenlesbarer Form erfolgt (§ 44b Abs. 3 Satz 2 UrhG). Bei § 44b Abs. 3 UrhG handelt es sich um eine Opt-Out-Lösung, d.h. der Rechteinhaber muss proaktiv werden und einer Nutzung widersprechen. Der Nutzungsvorbehalt wirkt erst ab dem Zeitpunkt seiner Erklärung (BT-Drs. 19/27426, Seite 89). Wie der Begriff der „Maschinenlesbarkeit“ im Sinne des § 44b Abs. 3 Satz 2 UrhG auszulegen ist, ist bislang noch nicht höchstrichterlich geklärt. Das OLG Hamburg hat mit Urteil vom 10.12.2025 (Az. 5 U 104/24 – LAION) offengelassen, ob ein auch der Vorbehalt in natürlicher Sprache erklärt werden kann. Im konkreten Fall konnte der Kläger nicht darlegen, dass der verwendete natürlichsprachige Nutzungsvorbehalt bereits im maßgeblichen Zeitpunkt im Jahr 2021 maschinenlesbar war. Als maschinenlesbare Formen werden insbesondere die Verwendung einer robots.txt-Datei sowie spezielle technische Protokolle für TDM-Nutzungsvorbehalte diskutiert. Eine robots.txt-Datei kann im Stammverzeichnis der Domain festlegen, ob und wie Webseiten von bestimmten Webcrawlern besucht und ausgelesen werden dürfen. Problematisch ist, dass der Name des eingesetzten Webcrawlers bekannt sein muss, um dessen Aktivität durch eine robots.txt-Datei regulieren zu können. Zwar gibt es umfangreiche Listen mit Namen von hunderten Webcrawlern. Praktisch hilft dies aber nur bedingt weiter, weil häufig nicht bekannt sein wird, mit welchen Datensätzen ein KI-System trainiert wurde und welcher Webcrawler den Datensatz erstellt hat. Hinzu kommt, dass neu hinzukommende oder nicht erfasste Crawler von einer entsprechenden Sperre nicht automatisch erfasst werden.
• Die Beweislast für das Fehlen eines Nutzungsvorbehalts trägt grundsätzlich der Nutzer, der sich auf die Schranke beruft (BT-Drs. 19/27426, Seite 89). Das OLG Hamburg hat allerdings klargestellt, dass der Rechteinhaber darlegen und beweisen muss, dass der von ihm gewählte Nutzungsvorbehalt zum Zeitpunkt der angegriffenen Nutzungshandlung maschinenlesbar war (OLG Hamburg, Urteil vom 10.12.2025, Az. 5 U 104/24).

Bei der urheberrechtlichen Bewertung von KI-Training muss nach der neueren Rechtsprechung zwischen folgenden Vorgängen unterschieden werden:

1. der Erstellung des Trainingsmaterials,
2. dem Training des Modells und
3. der späteren Nutzung des trainierten Modells durch Prompts und Outputs.

Für die Erstellung des Trainingsmaterials hat das LG München I ausdrücklich entschieden, dass Vervielfältigungshandlungen zur Vorbereitung des Trainingskorpus grundsätzlich dem Anwendungsbereich des § 44b UrhG unterfallen können (LG München I, Urteil vom 11.11.2025, Az. 42 O 14139/24 – GEMA/OpenAI).

Davon unterscheidet das Gericht aber die Memorisierung geschützter Werke im trainierten Modell. Im Verfahren GEMA/OpenAI waren nach Überzeugung des Gerichts Liedtexte reproduzierbar im Modell enthalten. Die Memorisierung überschreite die bloße Auswertung von Informationen und sei daher „kein bloßes Text und Data Mining“. Die dadurch entstehenden Vervielfältigungen im Modell seien nicht von § 44b UrhG gedeckt.

Diese Linie hat das LG München I mit Urteil vom 31.07.2026 (Az. 42 O 763/25 – GEMA/Suno) für Musikwerke bestätigt. Auch dort unterschied die Kammer ausdrücklich zwischen Vervielfältigungen, die zur Erstellung oder Analyse des Trainingsmaterials erfolgen, und solchen Vervielfältigungen, die im Modell verbleiben. Sind geschützte Musikwerke im Modell reproduzierbar enthalten, stellt dies nach Auffassung des Gerichts eine Vervielfältigung dar, die nicht von § 44b UrhG gedeckt ist.

Beide Entscheidungen sind nicht rechtskräftig. Ob sich diese Unterscheidung höchstrichterlich durchsetzen wird, ist daher offen.

nach oben

15. Haftet ein Nutzer bei Veröffentlichung von KI-generiertem Output für Urheberrechtsverletzungen?

Ja, der Nutzer haftet in diesem Fall als Täter für Urheberrechtsverletzungen, was wir anhand des folgenden Beispiels verdeutlichen.

Nach § 97 UrhG haftet der Nutzer als Verletzer, wenn er in ein geschütztes fremdes Recht eingreift, d.h. eine dem Urheber oder Leistungsschutzrechtinhaber vorbehaltene Verwertungshandlung selbst vornimmt.

Micky Maus und Pippi Langstrumpf sind urheberrechtlich geschützte Figuren. Die Veröffentlichung des KI-generierten Bildes auf X ist eine öffentliche Zugänglichmachung im Sinne von § 19a UrhG und stellt mangels Erlaubnis der Urheber einen Eingriff in deren Verwertungsrecht dar.

Den Urhebern der Figuren steht deshalb gegen den veröffentlichenden Nutzer ein verschuldensunabhängiger Anspruch auf Unterlassung und Beseitigung zu (§ 97 Abs. 1 UrhG). Zusätzlich wird ein Anspruch auf Zahlung von Schadensersatz bestehen. Anders als der Unterlassungsanspruch ist der Schadensersatzanspruch nach § 97 Abs. 2 UrhG nicht verschuldensunabhängig, er erfordert ein vorsätzliches oder fahrlässiges Verhalten. Fahrlässig handelt, wer die im Verkehr erforderliche Sorgfalt außer Acht lässt (§ 276 Abs. 2 BGB). An die Erfüllung der Sorgfaltspflicht werden im Urheberrecht – wie generell im Immaterialgüterrecht – hohe Anforderungen gestellt (BGH, Urteil vom 12.11.2009, Az. I ZR 166/07 – marions-kochbuch.de). Ein Nutzer wird sich in der Regel nicht darauf berufen können, dass er die Urheberrechtslage nicht kannte. Wer ein fremdes Werk nutzen will, muss sich sorgfältig Gewissheit über seine Befugnis dazu verschaffen. Ein ungeprüftes Übernehmen und Veröffentlichen von KI-generiertem Output wird man daher in der Regel als fahrlässige und somit schuldhafte Sorgfaltspflichtverletzung des Nutzers einstufen müssen.

nach oben

16. Haften KI-Unternehmen bei KI-generiertem Output für Urheberrechtsverletzungen?

Diese Frage ist noch nicht höchstrichterlich geklärt. Erste deutsche Gerichte haben aber inzwischen eine eigene urheberrechtliche Verantwortlichkeit von KI-Anbietern für bestimmte KI-generierte Outputs bejaht.

KI-Anbieter versuchen in ihren Nutzungsbedingungen typischerweise, die Verantwortung für den vom Nutzer erzeugten Output weitgehend dem jeweiligen Nutzer zuzuweisen und die eigene Haftung zu begrenzen. So stellt etwa Midjourney in seinen aktuellen Terms of Service klar, dass der Nutzer für die von ihm eingegebenen und generierten Inhalte verantwortlich ist und keine Rechte Dritter verletzen darf. Zugleich wird die Haftung von Midjourney vertraglich erheblich beschränkt (Stand: 27.05.2026).

Ob und in welchem Umfang solche Haftungsbeschränkungen nach deutschem Recht wirksam sind, hängt insbesondere vom anwendbaren Recht, der Einbeziehung der Klauseln und davon ab, ob der Nutzer Verbraucher oder Unternehmer ist. Gegenüber Verbrauchern unterliegen Haftungsklauseln insbesondere der AGB-Kontrolle nach §§ 307 ff. BGB. Eine Haftung für eigenes vorsätzliches Verhalten kann etwa nicht im Voraus erlassen werden (§ 276 Abs. 3 BGB); auch für Schäden aus der Verletzung von Leben, Körper oder Gesundheit sowie für grob fahrlässig verursachte Schäden bestehen besondere Grenzen (§ 309 Nr. 7 BGB).

Von diesen vertraglichen Haftungsbeschränkungen im Verhältnis zwischen KI-Anbieter und Nutzer ist die Frage zu unterscheiden, ob der KI-Anbieter gegenüber einem verletzten Rechteinhaber selbst Täter einer Urheberrechtsverletzung ist. Diese deliktische bzw. urheberrechtliche Verantwortlichkeit kann der Anbieter nicht allein dadurch ausschließen, dass er in seinen AGB die Verantwortung dem Nutzer zuweist.

Ein weiterer Ansatzpunkt ist die Frage, ob es sich bei KI-Angeboten wie ChatGPT oder Midjourney in Bezug auf Urheberrechtsverletzungen um gefahrgeneigte Dienste handelt, die eine (mittelbare) Täterschaft des KI-Unternehmens begründen können.

Inzwischen liegt hierzu erste deutsche Rechtsprechung vor. Das LG München I hat im Verfahren GEMA gegen OpenAI entschieden, dass die Anbieter selbst für die Wiedergabe geschützter Liedtexte in den Outputs verantwortlich seien (LG München I, Urteil vom 11.11.2025, Az. 42 O 14139/24). Das Gericht stellte darauf ab, dass die Outputs durch „einfach gehaltene Prompts“ generiert worden seien. Die Beklagten betrieben die Sprachmodelle, seien für deren Architektur und die Memorisierung der Trainingsdaten verantwortlich und hätten dadurch die ausgegebenen Outputs maßgeblich beeinflusst. Der konkrete Inhalt der Outputs werde von den Sprachmodellen generiert. Hierfür seien die Beklagten und nicht die Nutzer verantwortlich.

Diese Linie hat das LG München I im Verfahren GEMA gegen Suno bestätigt (Urteil vom 31.07.2026, Az. 42 O 763/25). Die dort verwendeten Prompts enthielten nach den Feststellungen des Gerichts lediglich Liedtexte, Musikstil und Werktitel, aber keine Vorgaben zu Melodie, Harmonie, Rhythmus oder Arrangement. Das Gericht bezeichnete sie deshalb als „einfach gehaltene und ergebnisoffene Prompts“. Da die Beklagte die KI-Modelle betrieb und für deren Architektur und die Memorisierung der Trainingsdaten verantwortlich war, hätten die Modelle die ausgegebenen Outputs inhaltlich bestimmt. Auch hier sei daher die Anbieterin und nicht der Nutzer verantwortlich.

Beide Entscheidungen sind nicht rechtskräftig. Eine höchstrichterliche Rechtsprechung zur urheberrechtlichen Verantwortlichkeit generativer KI-Anbieter liegt bislang nicht vor. Die Entscheidungen lassen sich insbesondere nicht dahin verallgemeinern, dass KI-Anbieter für jeden rechtsverletzenden Output haften. Sie betreffen Konstellationen, in denen geschützte Trainingswerke nach Auffassung des Gerichts im Modell memorisiert waren und aufgrund einfacher bzw. ergebnisoffener Prompts wieder ausgegeben wurden.

• Nach Ansicht des EuGH nehmen Betreiber von Plattformen wie YouTube grundsätzlich nicht selbst eine öffentliche Wiedergabe der von Nutzern rechtswidrig hochgeladenen urheberrechtlich geschützten Inhalte vor, wenn sie lediglich die Plattform bereitstellen. Eine eigene urheberrechtliche Verantwortlichkeit kann aber insbesondere in Betracht kommen, wenn der Betreiber von der konkreten rechtswidrigen Zugänglichmachung geschützter Inhalte Kenntnis hat und diese nicht unverzüglich löscht oder den Zugang sperrt, wenn er Werkzeuge bereitstellt, die speziell zum rechtswidrigen Teilen solcher Inhalte bestimmt sind, wenn er ein solches Teilen wissentlich fördert oder wenn sein Geschäftsmodell die Nutzer zum rechtswidrigen Teilen geschützter Inhalte anregt (vgl. EuGH, Große Kammer, Urteil vom 22.06.2021, verb. Rs. C-682/18 und C-683/18 – YouTube und Cyando).
• Eine unmittelbare Übertragung dieses Haftungsmodells auf KI-Angebote ist allerdings zweifelhaft. Anders als ein klassischer Host-Provider stellt ein generatives KI-System nicht lediglich fremde, von Nutzern hochgeladene Inhalte bereit, sondern erzeugt den konkreten Output auf Grundlage des vom Anbieter betriebenen Modells. Das LG München I hat deshalb in den Verfahren GEMA/OpenAI und GEMA/Suno für die dort streitgegenständlichen Outputs eine eigene Verantwortlichkeit der KI-Anbieter angenommen. Welche Bedeutung die Host-Provider-Rechtsprechung daneben für andere Fallgestaltungen generativer KI hat, ist bislang nicht geklärt.
• Es wäre aber zu diskutieren, ob ein KI-Unternehmen verpflichtet werden müsste, Output-Filter zu implementieren, um das Ausspielen bzw. öffentliche Zugänglichmachen rechtswidriger Inhalte zu vermeiden. Solche Output-Filter müssten den Output vor der Ausspielung an den Nutzer überprüfen und – falls eine Urheberrechtsverletzung zu befürchten ist – dafür sorgen, dass der rechtsverletzende Inhalt gar nicht erst von der KI-Anwendung ausgegeben bzw. angezeigt wird.
• Weiter wäre zu fragen, ob das KI-Unternehmen Vorkehrungen schaffen müsste, um den Nutzern die Meldung von rechtswidrigem Output zu ermöglichen (etwa durch ein Flagging-System wie bei YouTube). Würde ein Inhalt vom Nutzer als rechtswidrig geflaggt, müsste der KI-Anbieter den Output prüfen und ggf. die KI so umprogrammieren, dass identischer (und vielleicht sogar sinngemäßer) Output künftig unterbunden wird. Im Vergleich zu Videoplattformen wie YouTube wäre die Komplexität solcher Eingriffe in die Arbeitsweise einer KI freilich massiv höher und auf der Ebene von sinngemäß ähnlichen Inhalten womöglich gar nicht verlässlich umsetzbar. Das würde dafür sprechen, dass die KI (wenn überhaupt) nur dazu verpflichtet werden könnte, identischen rechtswidrigen Output zu unterdrücken.
• Soweit eine KI-Anwendung die Eingabe von Prompts (und/oder sogar den Upload von Dateien) durch den Nutzer erlaubt, wäre zu fragen, ob den KI-Anbieter eine Verkehrssicherungspflicht trifft, woraus sich eine Pflicht zur Implementierung von Prompt-Filtern bzw. Upload-Filtern ergeben könnte. Der EuGH hat im Zusammenhang mit Art. 17 DSM-RL entschieden, dass die dort vorgesehene Pflicht von Online-Inhaltsweitergabediensten zur vorherigen Kontrolle hochgeladener Inhalte unter Berücksichtigung der in Art. 17 vorgesehenen Schutzvorkehrungen mit der Meinungs- und Informationsfreiheit vereinbar ist (EuGH, Große Kammer, Urteil vom 26.04.2022, Az. C-401/19 – Polen/Parlament und Rat). Daraus folgt allerdings keine allgemeine Aussage, dass jede Form automatisierter Upload- oder Inhaltsfilter zulässig ist. In Bezug auf Prompt-Filter wäre es denkbar, dass die KI bestimmte Begriffe oder Inhalte nicht als (Teil von) Prompts zulässt. Solche Filter existieren bei verschiedenen KI-Diensten bereits. Auch Midjourney weist darauf hin, dass Prompts durch seine Moderationssysteme blockiert werden können, wenn sie gegen die geltenden Inhaltsregeln verstoßen.

nach oben

17. Was gilt, wenn nur ein Teil des Contents mit KI erstellt wurde?

Wird Content aus rein KI-generierten Bestandteilen, aber auch urheberrechtlich geschützten Bestandteilen zusammengesetzt, können hinsichtlich der rein KI-generierten Bestandteile keine urheberrechtlichen Ansprüche geltend gemacht werden, sondern nur hinsichtlich der urheberrechtlich geschützten Bestandteile.

nach oben

18. Wer trägt die Beweislast für die Schutzfähigkeit des Contents?

Für die Schutzfähigkeit eines Werks ist grundsätzlich der Urheber darlegungs- und beweisbelastet. Trägt der Gegner konkrete Anhaltspunkte für einen nicht schutzfähigen KI-Output vor, muss der (vermeintliche) Urheber im Einzelnen darlegen, warum die Behauptungen des Gegners unwahr sind, wie sich der Schaffensprozess im konkreten Fall vollzogen hat und – soweit ein KI-System zum Einsatz kam – welche Gestaltungselemente auf menschlicher Aktivität beruhen. In einstweiligen Verfügungsverfahren kann die Glaubhaftmachung auch per eidesstattlicher Versicherung erfolgen (vgl. LG Frankfurt, Urteil vom 17.12.2025, Az. 2-06 O 401/25).

nach oben

B. Vertragsrecht

Neben dem Urheberrecht führt der Einsatz von künstlicher Intelligenz zu arbeitsrechtlichen und vertragsrechtlichen Fragen.

19. Darf ein Arbeitnehmer zur Erbringung seiner Arbeit KI einsetzen?

Diese Frage lässt sich nicht pauschal beantworten. Es kommt insbesondere auf die Ausgestaltung des Arbeitsvertrages sowie Art und Umfang des KI-Einsatzes an.

Aus einem Arbeitsvertrag ergeben sich für Arbeitnehmer und Arbeitgeber jeweils spezielle Rechte und Pflichten (vgl. § 611a BGB). Der Arbeitnehmer ist insbesondere zur Erbringung der versprochenen Leistung und der Arbeitgeber zur Zahlung der vereinbarten Vergütung verpflichtet. Der Arbeitnehmer hat nach § 613 Satz 1 BGB seine Arbeitsleistung im Zweifel in Person zu erbringen. Er ist grundsätzlich nicht berechtigt, die Arbeitsleistung durch Dritte erbringen zu lassen. Die Arbeitsleistung ist eine höchstpersönliche Leistungspflicht des Arbeitnehmers und als solche unübertragbar (ErfK/Preis, 23. Auflage 2023, BGB § 613 Rn. 1). So kann etwa ein Arbeitnehmer, zu dessen geschuldeter Arbeitsleistung die Führung eines Kfz gehört, die Fahrleistung nicht durch eine Ersatzperson erbringen lassen (vgl. LAG Schleswig-Holstein, Urteil vom 16.06.1986, Az. 4 (5) Sa 684/85). Die Höchstpersönlichkeit verhindert jedoch nicht, dass der Arbeitnehmer außerhalb seiner geschuldeten Arbeitsleistung eine Hilfspersonen einsetzen darf (Jauernig/Mansel, 18. Auflage 2021, BGB § 611 Rn. 6). Der konkrete Inhalt und die Art der zu erbringenden Arbeitsleistung ergibt sich in erster Linie aus der im Arbeitsvertrag enthaltenen Tätigkeitsumschreibung. Daneben kann der Arbeitgeber Inhalt, Ort und Zeit der Arbeitsleistung nach billigem Ermessen näher bestimmen, soweit diese Arbeitsbedingungen nicht festgelegt sind (§ 106 Satz 1 GewO, sog. Weisungsrecht).

Aufgrund der Höchstpersönlichkeit der Arbeitsleistung darf der Arbeitnehmer seine Arbeit nicht (vollständig) von der KI erfüllen lassen. Dies käme ansonsten einer Übertragung der Arbeit auf einen Dritten gleich. Verwendet der Arbeitnehmer die KI hingegen nur als Hilfsmittel, um der eigenen Arbeitsleistung den letzten Schliff zu geben (zum Beispiel zur Rechtschreibkontrolle), liegt kein Verstoß gegen das Prinzip der Höchstpersönlichkeit vor. Hat der Arbeitgeber aber im Arbeitsvertrag oder per Weisung jeglichen Einsatz von KI untersagt, ist dies zwingend einzuhalten, da ansonsten eine Pflichtverletzung seitens des Arbeitnehmers vorliegen würde, welche zu einer arbeitsrechtlichen Abmahnung und sogar Kündigung führen kann.

nach oben

20. Dürfen Agenturen oder Freelancer ihre Leistung mit KI-Unterstützung erbringen?

Es ist möglich und ratsam, den Einsatz von KI zur Erbringung der geschuldeten Leistungen vertraglich zwischen Auftraggeber und zuarbeitendem Unternehmen zu regeln. Ohne vertragliche Regelungen ist der Einsatz bei Werkverträgen eher zulässig als im Rahmen von Dienstverhältnissen.

Wer weisungsgebunden oder fremdbestimmt leistet, ist abhängig beschäftigter Arbeitnehmer im Sinne von § 611a BGB. Wer dagegen weder persönlich noch wirtschaftlich abhängig Dienste leistet, ist entweder freier Dienstverpflichteter nach § 611 BGB oder Werkvertragsunternehmer nach § 631 BGB (ErfK/Preis, 23. Auflage 2023, BGB § 611a Rn. 10).

Durch den Dienstvertrag verpflichtet sich der Dienstverpflichtete zur Leistung der versprochenen Dienste (§ 611 Abs. 1 BGB). Durch den Werkvertrag verpflichtet sich der Unternehmer zur Herstellung des versprochenen Werkes (§ 631 Abs. 1). Maßgeblich für die Abgrenzung zwischen Werkvertrag und (freien) Dienstvertrag ist, ob der Unternehmer einen bestimmten Erfolg versprochen hat, weil nach dem im Vertrag zum Ausdruck gekommenen Willen der Parteien nicht lediglich eine Dienstleistung als solche, sondern ein Arbeitsergebnis als deren Erfolg geschuldet wird (BGH, Urteil vom 16.07.2002, Az. X ZR 27/01; OLG Karlsruhe, Urteil vom 24.10.2007, Az. 7 U 214/06). Während beim Dienstvertrag die Dienstleistung als solche geschuldet wird (d.h. das Tätigsein), schuldet der Werkunternehmer das Ergebnis einen Erfolg in Gestalt des Werks (vgl. MüKoBGB/Busche, 9. Auflage 2023, BGB § 631 Rn. 17).

• Handelt es sich bei dem der Tätigkeit zugrunde liegenden Vertrag um einen Dienstvertrag, muss der Dienstverpflichtete seine Dienstleistung im Zweifel persönlich erbringen (§ 613 Satz 1 BGB). Dass der Dienstverpflichtete die Dienste in Person zu leisten hat, gilt jedoch nur im Zweifel. Die Parteien können auch etwas anderes vereinbaren. Eine abweichende Regelung kann auch stillschweigend getroffen werden; sie kann sich aus den Umständen, vor allem aus der Besonderheit des Dienstleistungsversprechens ergeben (Staudinger/Fischinger, 2022, BGB § 613 Rn. 6). Der Einsatz einer KI ist daher grundsätzlich ausgeschlossen, solange keine abweichende Regelung getroffen wurde oder etwa der Einsatz von KI branchenüblich ist.
• Liegt hingegen ein Werkvertrag vor, kann sich der Werkunternehmer zur Erbringung des Erfolges grundsätzlich einer KI bedienen. Er kann seine Arbeit im Zweifel vollständig von der KI erfüllen lassen. Etwas anderes gilt nur dann, wenn es nach dem Vertragsinhalt, wie zum Beispiel bei der Anfertigung eines Gemäldes, gerade auf die persönliche Schöpfung des Werkes durch den Hersteller ankommt (MüKoBGB/Busche, 9. Auflage 2023, BGB § 631 Rn. 74). Der Einsatz einer KI ist daher grundsätzlich gestattet, solange keine abweichende Regelung getroffen wurde oder die Leistungsverpflichtung einen höchstpersönlichen Einschlag aufweist.

nach oben

21. Ist es sinnvoll, KI-Klauseln in eigene Verträge aufzunehmen?

Ja. Unternehmen sollten Klauseln zur Nutzung von KI sowohl in eigene Verträge mit Arbeitnehmern als auch in Verträge mit beauftragten Drittunternehmen aufnehmen. 

Das betrifft insbesondere Dienstverträge bzw. Werkverträge mit Selbstständigen. Nicht zuletzt deshalb, weil die Abgrenzung der Vertragstypen besonders schwer fällt und der Verpflichtete seine Arbeit beim Werkvertrag (anders als beim Dienstvertrag) vollständig von der KI erfüllen lassen kann. Zudem kann von der Auslegungsregel des § 613 Satz 1 BGB auch stillschweigend abgewichen werden. Spätere Streitigkeiten hinsichtlich der Frage, ob eine solche Abweichung getroffen wurde oder nicht, lassen sich am effektivsten durch eindeutige Regelungen zur Nutzung bzw. Unterstützung durch KI vermeiden.

Neben der eigentlichen KI-Klausel sollte der Vertrag auch spezielle Haftungsregelungen enthalten, die die Risiken des KI-Einsatzes gerecht verteilen.

nach oben

22. Welche Möglichkeiten bestehen bei der Ausgestaltung von KI-Klauseln?

Bei der Ausarbeitung einer KI-Klausel bestehen dem Grunde nach drei Gestaltungsmöglichkeiten.

• KI-Einsatz wird generell erlaubt: Diese Variante bietet sich zum Beispiel an, wenn nur das Ergebnis der Arbeit zählt und es dem Auftraggeber gleichgültig ist, ob KI eingesetzt wird oder nicht.
• Regelung, wann und welchem Umfang der Einsatz von KI erlaubt sein soll: Bei der zweiten Variante wird detailliert geregelt, bei welchen Arbeitsschritten und in welchem Umfang KI zum Einsatz kommen darf.
• Verbot mit Erlaubnisvorbehalt: Schließlich ist es möglich, den KI-Einsatz grundsätzlich zu verbieten, sofern vom Auftraggeber/Arbeitgeber zuvor nicht ausdrücklich für den konkreten Fall eine Erlaubnis erteilt wurde. Diese Variante bietet hohe Rechtssicherheit, ohne die Vertragsparteien zu sehr einzuengen. Sie ermöglicht den Parteien eine variable Handhabung des Einzelfalls.

In jeder Variante sollten zusätzlich Haftungsregelungen aufgenommen werden, um klarzustellen, wer inhaltlich für den KI-Output verantwortlich ist.

nach oben

23. Wer haftet im Rahmen einer Beauftragung für KI-basierte Rechtsverletzungen?

Es ist zu unterscheiden zwischen der Haftung im Verhältnis zwischen Auftraggeber und Rechteinhaber auf der einen Seite und der Haftung im Verhältnis zwischen Auftragnehmer und Auftraggeber.

Haftung des Auftraggebers gegenüber dem Rechteinhaber: Der Auftraggeber haftet gegenüber dem Rechteinhaber unmittelbar als Täter einer Urheberrechtsverletzung auf Unterlassung und Beseitigung. Bei vorsätzlichem oder fahrlässigem Verhalten kommt zusätzlich ein Schadensersatzanspruch nach § 97 Abs. 2 UrhG in Betracht. Unter den Voraussetzungen des § 97a UrhG können außerdem Abmahnkosten zu erstatten sein.

Haftung des Auftragnehmers gegenüber dem Auftraggeber: Der Beauftragung liegt in der Regel ein Werk- oder Dienstvertrag zugrunde. Aus dem Vertrag ergibt sich, unter welchen Umständen und in welchem Umfang der Beauftragte haftet. Dabei spielen neben der geschuldeten Leistung ggf. auch Haftungsklauseln eine Rolle.

• Gewährleistungsansprüche des Auftraggebers: Liegt der Beauftragung ein Werkvertrag nach § 631 BGB zugrunde, schuldet der Werkunternehmer die Herstellung des versprochenen Werkes. Nach § 633 Abs. 1 BGB hat der Werkunternehmer dem Besteller das Werk frei von Sach- und Rechtsmängeln zu verschaffen. Das Werk ist frei von Rechtsmängeln, wenn Dritte in Bezug auf das Werk keine oder nur die im Vertrag übernommenen Rechte gegen den Besteller geltend machen können (§ 633 Abs. 3 BGB). Verletzt das KI-generierte Bild des Beauftragten Urheberrechte, ist es nicht frei von Rechtsmängeln und daher mangelhaft. Bei einem mangelhaften Werk stehen dem Besteller die Gewährleistungsrechte aus §§ 634 ff. BGB zu. Der Besteller kann vom Werkunternehmer insbesondere Nacherfüllung gemäß §§ 634 Nr. 1, 635 BGB verlangen. Das heißt, der Beauftragte muss sich entweder die Verwertungsrechte vom Urheber einräumen lassen oder ein neues Bild erstellen, das keine urheberrechtlich geschützten Elemente enthält. Der Beauftragte haftet dem Auftraggeber also zunächst auf Herstellung eines (rechts-)mangelfreien Werks.
• Regressansprüche des Auftraggebers: Darüber hinaus kann der Auftraggeber den Auftragnehmer auch in Regress nehmen (vgl. LG Bochum, Urteil vom 16.8.2016, Az. 9 S 17/16). Führt der Rechtsmangel zu einer Haftung des Auftraggebers (siehe oben), kann er sich beim Auftragnehmer in rechtlich angemessener Höhe schadlos halten. Der Schadensersatzanspruch des Auftraggebers umfasst dabei grundsätzlich alle an den Rechteinhaber gezahlten Beträge sowie die eigenen Anwaltskosten. Eine Regresspflicht des Beauftragten besteht jedoch nur dann, wenn er den Rechtsmangel auch zu vertreten hat. Das Vertretenmüssen wird gemäß § 280 Abs. 1 Satz 2 BGB vermutet. Eine Exkulpation wird dem Beauftragten in der Regel nicht gelingen, da im Urheberrecht hohe Sorgfaltsanforderungen gelten. Der Beauftragte kann sich daher nicht mit der Behauptung verteidigen, dass er die Urheberrechtslage nicht kannte oder dass das Bild von der KI generiert wurde. Um eine Schadensersatzpflicht auszuschließen, muss der Beauftragte das KI-generierte Bild vor der Weitergabe an den Auftraggeber auf seine Rechtskonformität überprüfen.

nach oben

24. Besteht eine Kennzeichnungspflicht für KI-generierte Erzeugnisse?

Ja, in bestimmten Fällen. Seit dem 2. August 2026 gelten insbesondere die Transparenzpflichten aus Art. 50 AI Act. Allerdings muss nicht jeder KI-generierte Inhalt gekennzeichnet werden.

Zunächst muss unterschieden werden zwischen den Pflichten der Anbieter von KI-Systemen und den Pflichten der Betreiber solcher Systeme.

Anbieter von KI-Systemen, die synthetische Audio-, Bild-, Video- oder Textinhalte erzeugen, müssen nach Art. 50 Abs. 2 AI Act sicherstellen, dass die Ausgaben des KI-Systems in einem maschinenlesbaren Format gekennzeichnet und als künstlich erzeugt oder manipuliert erkennbar sind. Die Kennzeichnung soll technisch möglichst wirksam, interoperabel, robust und zuverlässig sein. Die Pflicht gilt insbesondere nicht, soweit das KI-System lediglich eine unterstützende Funktion für eine Standardbearbeitung erfüllt oder die Eingabedaten bzw. deren Bedeutung nicht wesentlich verändert.

Für bereits vor dem 2. August 2026 in Verkehr gebrachte KI-Systeme, einschließlich KI-Systemen mit allgemeinem Verwendungszweck, die synthetische Audio-, Bild-, Video- oder Textinhalte erzeugen, gilt eine Übergangsregelung: Deren Anbieter müssen die Anforderungen des Art. 50 Abs. 2 AI Act erst bis zum 2. Dezember 2026 erfüllen (Art. 111 Abs. 4 AI Act).

Für Nutzer bzw. Betreiber von KI-Systemen enthält Art. 50 Abs. 4 AI Act insbesondere zwei praktisch wichtige Kennzeichnungspflichten:

• Deepfakes: Wer ein KI-System verwendet, um Bild-, Ton- oder Videoinhalte zu erzeugen oder zu manipulieren, die einen Deepfake darstellen, muss grundsätzlich offenlegen, dass der Inhalt künstlich erzeugt oder manipuliert wurde. Ist der Inhalt Teil eines offensichtlich künstlerischen, kreativen, satirischen, fiktionalen oder vergleichbaren Werks oder Programms, genügt eine Offenlegung in geeigneter Weise, welche die Darstellung oder den Genuss des Werks nicht beeinträchtigt.
• KI-generierte Texte: Wer mittels eines KI-Systems einen Text erzeugt oder manipuliert und diesen mit dem Zweck veröffentlicht, die Öffentlichkeit über eine Angelegenheit von öffentlichem Interesse zu informieren, muss grundsätzlich offenlegen, dass der Text künstlich erzeugt oder manipuliert wurde. Die Kennzeichnungspflicht entfällt insbesondere, wenn der KI-generierte Inhalt einer menschlichen Überprüfung oder redaktionellen Kontrolle unterzogen wurde und eine natürliche oder juristische Person die redaktionelle Verantwortung für die Veröffentlichung trägt.

Nicht jeder mit ChatGPT oder einem vergleichbaren KI-System erstellte Text muss deshalb als KI-generiert gekennzeichnet werden. Entscheidend sind Inhalt und Veröffentlichungszweck. Insbesondere löst die bloße Verwendung von KI für gewöhnliche Unternehmenskommunikation, Produktbeschreibungen oder Werbetexte nicht automatisch die Kennzeichnungspflicht für Texte nach Art. 50 Abs. 4 AI Act aus.

nach oben

25. Darf ich KI-generierte Erzeugnisse kommerziell nutzen?

Ob KI-generierte Erzeugnisse kommerziell genutzt werden dürfen, hängt sowohl vom geltenden Recht als auch von den Nutzungsbedingungen des jeweiligen KI-Anbieters ab.

Dabei sind zwei Ebenen zu unterscheiden:

1. Bestehen gesetzliche Rechte am KI-Output oder Rechte Dritter?
2. Was erlauben die Nutzungsbedingungen des eingesetzten KI-Dienstes?

Dass ein KI-Anbieter dem Nutzer vertraglich Rechte am Output zuweist oder dessen kommerzielle Verwendung erlaubt, bedeutet nicht automatisch, dass an dem Output tatsächlich ein Urheberrecht besteht. Ebenso wenig garantiert die vertragliche Nutzungserlaubnis, dass der Output keine Rechte Dritter verletzt.

Nach den aktuellen Nutzungsbedingungen von OpenAI stehen im Verhältnis zwischen Nutzer und OpenAI und soweit nach geltendem Recht zulässig die Rechte am Output dem Nutzer zu. OpenAI tritt dem Nutzer alle eigenen Rechte, Titel und Ansprüche am Output ab, soweit solche Rechte bestehen.

Auch für Nutzer im Europäischen Wirtschaftsraum regeln die OpenAI-Nutzungsbedingungen entsprechend, dass der Nutzer seine Rechte am Input behält und ihm im Verhältnis zu OpenAI die Rechte am Output zustehen. OpenAI weist zugleich darauf hin, dass Output nicht einzigartig sein muss und andere Nutzer ähnliche Ergebnisse erhalten können.

Von ChatGPT oder DALL-E erzeugte Inhalte können daher nach den Nutzungsbedingungen grundsätzlich auch kommerziell verwendet werden. Dadurch wird allerdings weder ein nach deutschem Recht nicht bestehendes Urheberrecht geschaffen noch eine Freiheit von Rechten Dritter garantiert.

Auch Midjourney gestattet nach seinen aktuellen Terms of Service grundsätzlich die kommerzielle Nutzung der selbst erzeugten Inhalte. Midjourney formuliert, dass der Nutzer die von ihm erzeugten Inhalte im größtmöglichen nach dem anwendbaren Recht zulässigen Umfang besitzt. Eine wichtige Ausnahme gilt bei Unternehmen mit einem Jahresumsatz von mehr als einer Million US-Dollar: Diese müssen nach den derzeitigen Midjourney-Bedingungen einen Pro- oder Mega-Tarif nutzen, um die erzeugten Inhalte für ihr Unternehmen kommerziell verwenden zu können.

Bei wirtschaftlich bedeutsamen KI-Inhalten empfiehlt es sich deshalb, die zum Zeitpunkt der Erstellung geltenden Nutzungsbedingungen, den verwendeten Tarif und möglichst auch den Entstehungszeitpunkt des Outputs zu dokumentieren. Zusätzlich sollte geprüft werden, ob der konkrete Output Rechte Dritter verletzt.

nach oben

26. Wie wirken sich vertragliche Nutzungsbeschränkungen aus?

Vertragliche Beschränkungen sind grundsätzlich rechtlich verbindlich, wirken aber zunächst nur zwischen den Parteien des jeweiligen Vertrages.

Verträge wirken inter partes (lat. „zwischen den Parteien“). Absolute Schutzrechte wie das Urheberrecht oder Leistungsschutzrechte gelten hingegen gegenüber jedermann. Sie wirken inter omnes bzw. erga omnes.

Verstößt ein Nutzer gegen die Nutzungsbedingungen eines KI-Anbieters, kann dies deshalb vertragliche Folgen im Verhältnis zwischen dem Nutzer und dem Anbieter haben. Daraus folgt aber nicht automatisch, dass auch ein außenstehender Dritter gegen diese Nutzungsbedingungen verstößt. Umgekehrt lässt sich daraus auch nicht ableiten, dass Dritte KI-generierten Output stets frei verwenden dürfen. Entscheidend ist vielmehr, ob an dem betreffenden Inhalt gesetzliche Schutzrechte bestehen oder ob der Dritte aufgrund einer Lizenz zur Nutzung berechtigt ist.

Davon zu unterscheiden ist die urheberrechtliche Rechtslage außerhalb der Plattform. Besteht an einem KI-Output mangels ausreichender menschlicher Schöpfung kein Urheberrecht und greift auch kein sonstiges Schutzrecht ein, kann der Inhalt grundsätzlich frei verwendbar sein. Ist der Output dagegen aufgrund eines hinreichenden menschlichen schöpferischen Einflusses urheberrechtlich geschützt, benötigt ein Dritter für eine Nutzung grundsätzlich eine entsprechende Berechtigung.

Die Aussage eines KI-Anbieters, wonach der Nutzer seinen Output „besitzt“ oder kommerziell verwenden darf, darf deshalb nicht mit der Aussage verwechselt werden, der Output sei urheberrechtlich geschützt, exklusiv oder frei von Rechten Dritter.

nach oben

C. Persönlichkeitsrecht und Datenschutz

Die Nutzung von künstlichen Intelligenzen berührt in vielerlei Hinsicht auch Persönlichkeitsrechte (zum Beispiel von Prominenten) als auch datenschutzrechtliche Fragen.

27. Ist die Erstellung von Deepfakes erlaubt?

Diese Frage lässt sich nicht pauschal beantworten. Es hängt von den konkreten Umständen des Einzelfalls ab, ob die Erstellung eines Deepfakes zulässig ist. Hiervon zu unterscheiden ist die Frage, ob ein Deepfake anschließend veröffentlicht werden darf.

Der Begriff des Deepfakes ist inzwischen im AI Act gesetzlich definiert. Nach Art. 3 Nr. 60 AI Act handelt es sich um einen durch KI erzeugten oder manipulierten Bild-, Ton- oder Videoinhalt, der bestehenden Personen, Gegenständen, Orten, Einrichtungen oder Ereignissen ähnelt und einer Person fälschlicherweise als authentisch oder wahr erscheinen würde.

Der AI Act verbietet die Erstellung von Deepfakes nicht per se. Art. 50 Abs. 4 AI Act enthält vielmehr Transparenzpflichten für deren Verwendung. Ob die Erstellung selbst rechtmäßig ist, richtet sich deshalb weiterhin insbesondere nach dem Datenschutzrecht und den Persönlichkeitsrechten der betroffenen Personen.

Da KI-Systeme Daten verarbeiten, ist stets zu klären, ob und unter welchen Voraussetzungen diese Datenverarbeitung datenschutzrechtlich zulässig ist. Die Zulässigkeit einer Datenverarbeitung richtet sich insbesondere nach der Datenschutzgrundverordnung (DSGVO) sowie ergänzend dem Bundesdatenschutzgesetz (BDSG).

Der sachliche Anwendungsbereich der DSGVO ergibt sich aus Art. 2 Abs. 1 DSGVO. Hiernach gilt die DSGVO für die ganz oder teilweise automatisierte Verarbeitung personenbezogener Daten sowie für die nichtautomatisierte Verarbeitung personenbezogener Daten, die in einem Dateisystem gespeichert sind oder gespeichert werden sollen. In Art. 2 Abs. 2 DSGVO sind Ausnahmen vom sachlichen Anwendungsbereich normiert. Hiernach unterfallen insbesondere ausschließlich persönliche oder familiäre Tätigkeiten einer natürlichen Person nicht dem Anwendungsbereich der DSGVO (Art. 2 Abs. 2 lit. c DSGVO, sog. Haushaltsprivileg).

Hinweis: Ein häufiger Irrtum ist die Annahme, dass die DSGVO nur von Unternehmern, nicht aber von Privatpersonen zu beachten ist. Grundsätzlich können auch Privatpersonen dem Anwendungsbereich der DSGVO unterliegen. Ausgenommen ist lediglich eine ausschließlich persönliche oder familiäre Tätigkeit. Hierunter fällt etwa die Anfertigung einer Fotografie auf einer Familienfeier. Der persönlich-familiäre Bereich wird jedoch bereits verlassen, wenn die angefertigte Fotografie auf einer öffentlichen Fanpage bei Facebook veröffentlicht wird (vgl. LG Frankfurt, Urteil vom 13.09.2018, Az. 2-03 O 283/18).

Personenbezogene Daten sind gemäß Art. 4 Nr. 1 DSGVO alle Informationen, die sich auf eine identifizierte oder identifizierbare natürliche Person beziehen. Bilder von Personen sind personenbezogene Daten, sofern die betroffene Person erkennbar ist. Als Verarbeitung im Sinne von Art. 4 Nr. 2 DSGVO gilt praktisch jede Tätigkeit in Zusammenhang mit diesen Daten, insbesondere die Erhebung, Speicherung, Verwendung oder Übermittlung.

Daher stellt bereits der Upload eines Bildes einer anderen Person in ein KI-System eine Verarbeitung personenbezogener Daten dar.

Der datenschutzrechtlich Verantwortliche muss für die Einhaltung der Regeln der DSGVO sorgen. Nach Art. 4 Nr. 7 DSGVO ist Verantwortlicher, wer allein oder gemeinsam mit anderen über Zwecke und Mittel der Verarbeitung personenbezogener Daten entscheidet. Beim Einsatz von KI-Systemen hängt die Rollenverteilung von der konkreten Ausgestaltung des Dienstes ab. Der KI-Anbieter kann insbesondere eigener Verantwortlicher oder – etwa bei bestimmten Unternehmensdiensten – Auftragsverarbeiter des Nutzers sein.

Verbot mit Erlaubnisvorbehalt: Eine Verarbeitung personenbezogener Daten ist nach der DSGVO nur zulässig, wenn hierfür eine Rechtsgrundlage besteht. In Betracht kommen je nach Sachverhalt insbesondere eine Einwilligung des Betroffenen nach Art. 6 Abs. 1 lit. a DSGVO oder eine Verarbeitung aufgrund berechtigter Interessen nach Art. 6 Abs. 1 lit. f DSGVO. Bei besonderen Kategorien personenbezogener Daten sind zusätzlich die strengeren Anforderungen des Art. 9 DSGVO zu beachten.

Ob das Haushaltsprivileg des Art. 2 Abs. 2 lit. c DSGVO eingreift, richtet sich nach dem Zweck und den Umständen der konkreten Nutzung. Eine ausschließlich private oder familiäre Erstellung eines Deepfakes kann vom Anwendungsbereich der DSGVO ausgenommen sein. Wird der Deepfake dagegen einem unbeschränkten Personenkreis zugänglich gemacht, etwa durch eine öffentliche Veröffentlichung im Internet, ist der persönliche oder familiäre Bereich regelmäßig verlassen.

Allein der Umstand, dass für die Erstellung ein cloudbasiertes KI-System wie ChatGPT, DALL-E oder Midjourney verwendet wird, schließt das Haushaltsprivileg für die Verarbeitung durch den Nutzer nicht automatisch aus. Die Datenverarbeitung durch den KI-Anbieter ist vielmehr gesondert datenschutzrechtlich zu beurteilen.

Die eigenmächtige Herstellung von Bildnissen oder Filmaufnahmen kann daneben das Recht am eigenen Bild bzw. das allgemeine Persönlichkeitsrecht des Betroffenen verletzen (vgl. BGH, Urteil vom 25.04.1995, Az. VI ZR 272/94).

nach oben

28. Dürfen Deepfakes (im Internet) veröffentlicht werden?

Die Veröffentlichung eines Deepfakes ist nicht generell verboten. Sie kann aber insbesondere Persönlichkeitsrechte der dargestellten Person verletzen und unterliegt seit dem 2. August 2026 zusätzlich den Transparenzpflichten des Art. 50 Abs. 4 AI Act.

Bei Bild- und Videoinhalten ist insbesondere das Recht am eigenen Bild als besondere Ausprägung des allgemeinen Persönlichkeitsrechts zu beachten. Denn das allgemeine Persönlichkeitsrecht schützt auch vor der Verbreitung technisch manipulierter Bilder, die den unzutreffenden Anschein erwecken, ein authentisches Abbild einer Person zu sein (vgl. BVerfG, Beschluss vom 14.02.2005, Az. 1 BvR 240/04).

Wir folgen hier dem abgestuften Schutzkonzept der Rechtsprechung zum Kunsturhebergesetz. Danach darf das Bildnis einer Person grundsätzlich nur mit Einwilligung des Abgebildeten verbreitet oder öffentlich zur Schau gestellt werden (§ 22 Satz 1 KUG). Fehlt eine Einwilligung, kann die Veröffentlichung insbesondere dann zulässig sein, wenn ein Ausnahmetatbestand des § 23 Abs. 1 KUG eingreift und keine berechtigten Interessen des Abgebildeten im Sinne von § 23 Abs. 2 KUG verletzt werden.

• Ein Bildnis im Sinne von § 22 Satz 1 KUG ist die Darstellung einer Person, die deren äußere Erscheinung in einer für Dritte erkennbaren Weise wiedergibt (BGH, Urteil vom 01.12.1999, Az. I ZR 226/97). Soweit ein Deepfake eine erkennbare reale Person darstellt, kann daher ein Bildnis im Sinne des KUG vorliegen. Dass die konkrete Darstellung vollständig oder teilweise mittels KI erzeugt wurde, steht dem nicht entgegen.
• Der Begriff der Zurschaustellung umfasst jede Art der Sichtbarmachung und damit auch die Wiedergabe im Internet. Das Einstellen eines Bildnisses in ein soziales Netzwerk kann daher eine öffentliche Zurschaustellung sein.
• Verbreiten bedeutet die Weitergabe eines Bildnisses an Dritte. Nach der Rechtsprechung kann bereits die Weitergabe an einzelne Personen in den Schutzbereich des Rechts am eigenen Bild eingreifen (vgl. BGH, Urteil vom 27.02.2018, Az. VI ZR 86/16).
• Eine Einwilligung zur Nutzung des ursprünglichen Fotos umfasst nicht ohne Weiteres auch die Erstellung und Veröffentlichung eines manipulierten Deepfakes. Reichweite und Zweck einer erteilten Einwilligung sind jeweils konkret zu bestimmen.
• Ob ein Ausnahmetatbestand des § 23 Abs. 1 KUG einschlägig ist und berechtigte Interessen des Abgebildeten im Sinne von § 23 Abs. 2 KUG entgegenstehen, hängt vom konkreten Einzelfall ab. Insbesondere können Meinungs-, Presse-, Kunst- und Satirefreiheit in die erforderliche Abwägung einzubeziehen sein.

Sofern nicht lediglich unbedeutende Veränderungen vorgenommen werden, können Manipulationen das Persönlichkeitsrecht des Betroffenen berühren, weil mit der bildlichen Darstellung unzutreffende Aussagen über die Realität verbunden sein können. Das Bundesverfassungsgericht hat hierzu entschieden, dass Bildmanipulationen unabhängig davon persönlichkeitsrechtlich relevant sein können, ob sie in guter oder verletzender Absicht vorgenommen werden oder vom Betrachter positiv oder negativ bewertet werden (BVerfG, Beschluss vom 14.02.2005, Az. 1 BvR 240/04).

Eine generelle Aussage, wonach an Deepfakes niemals ein schutzwürdiges Veröffentlichungsinteresse bestehen kann, lässt sich allerdings nicht treffen. Insbesondere bei Satire, Kunst, politischer Auseinandersetzung oder sonstigen Beiträgen zur öffentlichen Meinungsbildung kann eine Veröffentlichung nach Abwägung der betroffenen Rechte zulässig sein.

nach oben

29. Darf man den Namen oder sonstige Daten anderer Personen als Prompt verwenden?

Diese Frage lässt sich nicht pauschal beantworten. Die Eingabe personenbezogener Daten in ein KI-System ist eine Datenverarbeitung und benötigt grundsätzlich eine datenschutzrechtliche Rechtsgrundlage.

Personenbezogene Daten sind nach Art. 4 Nr. 1 DSGVO alle Informationen, die sich auf eine identifizierte oder identifizierbare natürliche Person beziehen. Hierzu zählen beispielsweise:

• Vorname und/oder Nachname, sofern die Person hierüber identifiziert werden kann
• Anschrift, sofern eine Bezugnahme auf die Person möglich ist
• Fotos, sofern die Person erkennbar ist
• Telefonnummer
• E-Mail-Adresse
• Zahlungsdaten
• Geburtsdatum

Bereits die Eingabe personenbezogener Daten in einen Prompt oder der Upload einer Datei mit personenbezogenen Daten stellt grundsätzlich eine Verarbeitung im Sinne von Art. 4 Nr. 2 DSGVO dar. Die Verarbeitung ist nur zulässig, wenn hierfür eine Rechtsgrundlage besteht. In Betracht kommen je nach Sachverhalt insbesondere eine Einwilligung nach Art. 6 Abs. 1 lit. a DSGVO, die Erforderlichkeit zur Vertragserfüllung nach Art. 6 Abs. 1 lit. b DSGVO oder ein berechtigtes Interesse nach Art. 6 Abs. 1 lit. f DSGVO.

Bei besonderen Kategorien personenbezogener Daten im Sinne von Art. 9 Abs. 1 DSGVO – etwa Gesundheitsdaten, Angaben zur politischen Meinung, Religion oder sexuellen Orientierung – gelten strengere Anforderungen. Ihre Verarbeitung ist grundsätzlich untersagt, sofern nicht zusätzlich eine Ausnahme nach Art. 9 Abs. 2 DSGVO eingreift.

Ob personenbezogene Daten in ein KI-System eingegeben werden dürfen, hängt außerdem davon ab, wie der jeweilige KI-Dienst mit den eingegebenen Daten umgeht. Zu prüfen ist insbesondere,

• ob der KI-Anbieter die Daten ausschließlich im Auftrag des Nutzers oder für eigene Zwecke verarbeitet,
• ob ein Auftragsverarbeitungsvertrag nach Art. 28 DSGVO erforderlich ist,ob und wie lange Eingaben gespeichert werden,
• ob die Daten zur Verbesserung oder zum Training von KI-Modellen verwendet werden,
• an welche Unterauftragnehmer Daten übermittelt werden und
• ob Übermittlungen in Staaten außerhalb des Europäischen Wirtschaftsraums stattfinden.

Die Bedingungen unterscheiden sich dabei erheblich zwischen privaten Endnutzerangeboten und Unternehmenslösungen. OpenAI weist beispielsweise für ChatGPT darauf hin, dass Inhalte von privaten Nutzern grundsätzlich zur Verbesserung und zum Training seiner Modelle verwendet werden können, wobei der Nutzer dieser Verwendung in den Datenschutzeinstellungen widersprechen kann. Bei einem Temporary Chat werden die betreffenden Gespräche nicht zum Training verwendet.

Für ChatGPT Business, Enterprise und die API gilt demgegenüber nach den aktuellen Angaben von OpenAI, dass Eingaben und Outputs standardmäßig nicht zum Training oder zur Verbesserung der Modelle verwendet werden. Auch bei anderen KI-Anbietern können je nach Produkt und Tarif unterschiedliche Regelungen gelten.

Gerade im Unternehmensbereich sollte deshalb nicht allein danach gefragt werden, ob die Eingabe eines Namens oder sonstiger personenbezogener Daten inhaltlich erforderlich ist. Nach dem Grundsatz der Datenminimierung aus Art. 5 Abs. 1 lit. c DSGVO sollten nur diejenigen personenbezogenen Daten in einen Prompt aufgenommen werden, die für den konkreten Zweck tatsächlich erforderlich sind. Wo eine Identifizierung der betroffenen Person nicht notwendig ist, sollten Daten möglichst anonymisiert oder pseudonymisiert werden.

Bei sensiblen, vertraulichen oder umfangreichen personenbezogenen Daten empfiehlt sich der Einsatz eines hierfür freigegebenen KI-Dienstes mit geeigneten vertraglichen und technischen Schutzmaßnahmen. Für Unternehmen sollte der Umgang mit personenbezogenen Daten in KI-Systemen außerdem Bestandteil einer internen KI-Richtlinie sein.

nach oben

30. Ist der Klang der menschlichen Stimme geschützt?

Ein „Recht an der eigenen Stimme“, das den Klang der menschlichen Stimme schützt, ist nach geltendem Urheberrecht nicht anerkannt. Ein entsprechender Schutz dürfte sich aber aus dem allgemeinen Persönlichkeitsrecht ergeben.

Neben Bild- oder Videoinhalten lassen sich mithilfe von KI-Systemen auch Toninhalte manipulieren bzw. generieren. KI-Systeme wie Synthesia oder D-ID erzeugen Toninhalte, die einer menschlichen Stimme in nichts nachstehen. Die Unterscheidung, ob eine Stimme künstlich erzeugt oder von einem echten Menschen stammt, fällt zunehmend schwerer. Der technische Fortschritt der Sprachsynthese birgt das Risiko, dass Personen Äußerungen untergeschoben werden, die sie nicht getätigt haben.

In der Rechtsprechung des Bundesverfassungsgerichts ist anerkannt, dass das allgemeine Persönlichkeitsrecht neben dem Recht am eigenen Bild auch das Recht am gesprochenen Wort schützt (BVerfG, Beschluss vom 09.10.2002, Az. 1 BvR 1611/96). Letzteres gewährleistet die Selbstbestimmung über die eigene Darstellung der Person in der Kommunikation mit anderen. Das Recht am gesprochenen Wort sichert die Befugnis, selbst zu bestimmen, ob der Kommunikationsinhalt einzig dem Gesprächspartner, einem bestimmten Personenkreis oder der Öffentlichkeit zugänglich sein soll (BGH, Urteil vom 18.02.2003, Az. XI ZR 165/02).

Die Rechtsfigur des allgemeinen Persönlichkeitsrechts soll Lücken im Persönlichkeitsschutz schließen. Diese Notwendigkeit besteht gerade auch im Blick auf moderne Entwicklungen und die mit ihnen verbundenen neuen Gefährdungen für den Schutz der menschlichen Persönlichkeit (BVerfG, Urteil vom 03.06.1980, Az. 1 BvR 185/77 – Eppler). Zur menschlichen Persönlichkeit zählt auch die Stimme. Sie ist durch charakteristische Elemente wie Klangfarbe, Stimmlage, Akzent oder Sprechweise gekennzeichnet und hat einen besonders hohen Wiedererkennungswert (Salagean: Sampling im deutschen, schweizerischen und US-amerikanischen Urheberrecht, S. 197). Die Stimme wirkt insoweit wie ein akustischer Fingerabdruck. Die menschliche Stimme dürfte daher unter das allgemeine Persönlichkeitsrecht fallen, das ein „sonstiges Recht“ im Sinne des § 823 Abs. 1 BGB darstellt (Salagean: Sampling im deutschen, schweizerischen und US-amerikanischen Urheberrecht, S. 197). Hat ein Durchschnittshörer den Eindruck, eine Äußerung stamme von einer bestimmten Person, liegt eine Identitätstäuschung und damit ein rechtswidriger Eingriff in das allgemeine Persönlichkeitsrecht vor (Salagean: Sampling im deutschen, schweizerischen und US-amerikanischen Urheberrecht, S. 197).

Update: Ein Gericht in Peking hat ein wegweisendes Urteil gefällt, wonach die Nachahmung der Stimme einer Person durch KI ohne deren Erlaubnis eine Verletzung ihrer Persönlichkeitsrechte darstellt.

nach oben

Hinweis: Dieser Beitrag wurde unter Mitwirkung unseres Referendars Thorsten Simons erstellt.