Suche Kostenlose Ersteinschätzung

Künstliche Intelligenz: Große Rechts-FAQ zu ChatGPT und Co.

ki recht

ChatGPT, Midjourney, Dall-E-2 & Co. Aktuell erleben wir live, wie künstliche Intelligenz (KI) Einzug in unser Leben hält. Parallel entsteht eine Vielzahl neuer juristischer Fragen, auf die wir in diesen Rechts-FAQ detailliert eingehen.

Rechtsanwalt Niklas Plutte
Fachanwalt für gewerblichen Rechtsschutz

rechtsanwalt oliver wolf

Rechtsanwalt Oliver Wolf, LL.M.
Fachanwalt für Urheber- und Medienrecht

Unsere Kanzlei ist spezialisiert und IT-Recht, Urheberrecht und Persönlichkeitsrecht. Wir beraten Unternehmen bei Rechtsfragen rund um die Nutzung von künstlicher Intelligenz. Nutzen Sie unsere kostenlose Erstberatung.

Inhaltsübersicht

A. Urheberrecht

1. Welche Schutzrechte kennt das Urheberrechtsgesetz?
2. Kann eine künstliche Intelligenz wie ChatGPT Urheber eines Werkes sein?
3. Steht KI-Anbietern ein Urheberrecht an KI-generiertem Output zu?
4. Steht KI-Anbietern aufgrund ihrer AGB ein Urheberrecht an KI-generiertem Output zu?
5. Steht ChatGPT-Nutzern ein Urheberrecht an KI-generiertem Output zu?
6. Was ist ein Prompt?
7. Wie umfangreich müsste ein Prompt sein, damit zugunsten des Nutzers ein Urheberrecht am KI-generierten Output entsteht?
8. Kann ein Prompt urheberrechtlich geschützt sein?
9. Kann KI-generierter Output durch ein Leistungsschutzrecht geschützt sein?
10. Darf man durch Prompts den Stil berühmter Autoren oder Künstler nachahmen?
11. Darf man bekannte Figuren mittels Prompts in einen KI-Output einbauen?
12. Kann man KI-generierten Output gefahrlos nutzen?
13. Kann man erkennen, ob KI-Output urheberrechtlich geschützte Elemente enthält?
14. Kann man verhindern, dass KI-Systeme meine Texte oder Bilder als Trainingsdaten verwenden?
15. Haftet der Nutzer bei Veröffentlichung von KI-generiertem Output für Urheberrechtsverletzungen?
16. Haftet das KI-Unternehmen bei KI-generiertem Output für Urheberrechtsverletzungen?

B. Vertragsrecht

17. Darf ein Arbeitnehmer zur Erbringung seiner Arbeit KI einsetzen?
18. Dürfen Agenturen oder Freelancer ihre Leistung mit KI-Unterstützung erbringen?
19. Ist es sinnvoll, KI-Klauseln in eigene Verträge aufzunehmen?
20. Welche Möglichkeiten bestehen bei der Ausgestaltung von KI-Klauseln?
21. Wer haftet im Rahmen einer Beauftragung für KI-basierte Rechtsverletzungen?
22. Besteht eine Kennzeichnungspflicht für KI-generierte Erzeugnisse?
23. Darf ich KI-generierte Erzeugnisse kommerziell nutzen?
24. Wie wirken sich vertragliche Nutzungsbeschränkungen aus?

C. Persönlichkeitsrecht

25. Ist die Erstellung von Deepfakes erlaubt?
26. Dürfen Deepfakes (im Internet) veröffentlicht werden?
27. Darf man den Namen oder sonstige Daten anderer Personen als Prompt verwenden?
28. Ist der Klang der menschlichen Stimme geschützt?

Hinweis: Im Zusammenhang mit künstlichen Intelligenzen existiert keine gefestigte Rechtsprechung. Viele Praxisfragen sind ungeklärt. Diese FAQ haben daher experimentellen Charakter und bilden unsere Meinung ab. Wir werden den Beitrag laufend aktualisieren und an die Entwicklung anpassen.

A. Urheberrecht

Bei der rechtlichen Auseinandersetzung mit künstlichen Intelligenzen spielt das Urheberrecht häufig eine zentrale Rolle, sowohl was das Training der KI, den Input der Nutzer als auch den von der KI erzeugten Output angeht. In diesem Abschnitt geht es daher als erstes um die wichtigsten urheberrechtlichen Fragestellungen.

1. Welche Schutzrechte kennt das Urheberrechtsgesetz?

Für das urheberrechtliche Verständnis im Kontext von künstlicher Intelligenz ist es wichtig zu verstehen, dass das Urheberrechtsgesetz (UrhG) zwischen Urheberrechten und verwandten Schutzrechten unterscheidet.

a. Urheberrecht: Das Urheberrecht ist ein absolutes subjektives Recht. Als geistiges Eigentum gewährt es dem Urheber Ausschließlichkeitsrechte, die gegenüber jedermann wirken. Ein Urheber kann – abgesehen von wenigen Einschränkungen – frei darüber entscheiden, ob, wem und zu welchen Bedingungen er die Verwertung seines Werkes erlaubt. Das Urheberrecht schützt den Urheber in seinen geistigen und persönlichen Beziehungen zum Werk und dient zugleich der Sicherung einer angemessenen Vergütung für die Nutzung der Werke (vgl. § 11 UrhG).

Zwingende Voraussetzung für das Entstehen eines Urheberrechts ist das Vorliegen eines Werkes. Als Werk geschützt sind persönliche geistige Schöpfungen, soweit sie ein ausreichendes Maß an Individualität aufweisen und eine gewisse Schöpfungshöhe erreicht haben (auch Gestaltungshöhe oder Werkhöhe genannt, vgl. § 2 Abs. 2 UrhG). Kernelement der Individualität ist das Bestehen und Ausnutzen eines Gestaltungsspielraums, in dem sich die Persönlichkeit des Schöpfers frei entfalten kann. Bereits Schöpfungen mit geringer Individualität genießen Urheberrechtsschutz (sog. „kleine Münze“). Bei der Anwendung des Werkbegriffs steht den nationalen Gerichten ein umfassender Beurteilungsspielraum zu (LG Köln, Urteil vom 09.06.2022, Az. 14 O 283/20).

b. Leistungsschutzrecht: Als Leistungsschutzrechte (auch verwandte Schutzrechte oder Nachbarrechte genannt) bezeichnet man „Rechte, die nicht wie das Urheberrecht die schöpferische Leistung schützen, sondern Leistungen anderer Art, die der schöpferischen Leistung des Urhebers ähnlich sind oder in Zusammenhang mit den Werken der Urheber erbracht werden“ (BT-Drs. 4/270, Seite 33 f.). Leistungsschutzrechte dienen überwiegend dem Schutz einer wirtschaftlichen, organisatorischen oder technischen Leistung. Insoweit bezweckt der Schutz die Absicherung der in der wirtschaftlichen, organisatorischen und technischen Leistung getätigten Investition (Dreier/Schulze/Dreier, 7. Auflage 2022, UrhG Vorb. zu §§ 70 ff. Rn. 2). Daneben dienen sie teilweise aber auch dem Schutz einer persönlich erbrachten Leistung. Schutzvoraussetzung der einzelnen Leistungsschutzrechte ist, anders als beim Urheberrecht, nicht eine persönliche geistige Schöpfung im Sinne von § 2 Abs. 2 UrhG, sondern die Erbringung der gesetzlich umschriebenen Leistung. Da gerade keine persönliche geistige Schöpfung notwendig ist, können auch juristische Personen Inhaber eines Leistungsschutzrechtes sein. Dagegen stehen Leistungsschutzrechte, die ihren Grund in einer persönlichen Leistung haben, allein natürlichen Personen zu. Soweit es jedoch um den Schutz von Investitionen geht, können sowohl natürliche als auch juristische Personen Inhaber eines Leistungsschutzrechts sein (Dreier/Schulze/Dreier, 7. Auflage 2022, UrhG Vorb. zu §§ 70 ff. Rn. 3). Zu den Leistungsschutzrechten zählen:

nach oben

2. Kann eine künstliche Intelligenz wie ChatGPT Urheber eines Werkes sein?

Nein, das ist nicht möglich.

Eine künstliche Intelligenz kann nach deutschem Urheberrecht kein Urheber sein. Eine persönliche geistige Schöpfung im Sinne von § 2 Abs. 2 UrhG setzt nach dem in § 7 UrhG geregelten Schöpferprinzip voraus, dass sie von einem Menschen erbracht wurde. Urheber im Sinne des Urheberrechtsgesetzes ist immer der tatsächliche Werkschöpfer, d.h. diejenige natürliche Person, die das Werk durch eine persönliche geistige Leistung im Sinne von § 2 Abs. 2 UrhG selbst geschaffen hat. Erzeugnisse, die ohne menschliches Zutun ausschließlich auf der Tätigkeit eines Computers beruhen, sind nach heutigem Rechtsverständnis nicht als Werk urheberrechtlich schutzfähig (vgl. OLG Hamm, Urteil vom 24.08.2004, Az. 4 U 51/04).

Die wohl überwiegend vertretene Meinung geht deshalb davon aus, dass durch künstliche Intelligenz geschaffene „Werke“ mangels menschlicher Schöpfung nach aktuellem Recht keinen Urheberrechtsschutz genießen und auch in Zukunft keinen Urheberrechtsschutz genießen sollten (Wandtke/Bullinger/Thum, 6. Auflage 2022, UrhG § 7 Rn. 17). Daher sollte richtigerweise auch nicht von KI-generierten „Werken“ gesprochen werden, sondern lediglich von KI-generierten Erzeugnissen oder Output. Dieses Ergebnis deckt sich auch mit der Rechtsprechung im Patentrecht. Wie im Urheberrecht kann auch der Erfinder im Patentrecht nur eine natürliche Person sein (vgl. BPatG, Beschluss vom 11.11.2021, Az. 11 W (pat) 5/21).

nach oben

3. Steht KI-Anbietern ein Urheberrecht am KI-generiertem Output zu?

Nein, das ist in der Regel nicht der Fall.

KI-Anbietern – im Falle von ChatGPT dem Unternehmen OpenAI – steht typischerweise kein Urheberrecht an den von ihrer KI generierten Erzeugnissen zu. Wurde die KI von einer juristischen Person oder Personengesellschaft entwickelt, kann sie nach dem in § 7 UrhG geregelten Schöpferprinzip kein Urheber sein.

nach oben

4. Steht KI-Anbietern aufgrund ihrer AGB ein Urheberrecht am KI-generiertem Output zu?

Nein. Es ist nicht möglich, durch vertragliche Vereinbarungen oder Deklaration ein Urheberrecht entstehen zu lassen, da die Werkschöpfung ein Realakt ist.

Das Urheberrecht entsteht im Moment der Schöpfung, unmittelbar kraft Gesetzes und originär in der Person des Werkschöpfers (Wandtke/Bullinger/Thum, 6. Auflage 2022, UrhG § 7 Rn. 5).

nach oben

5. Steht ChatGPT-Nutzern ein Urheberrecht an KI-generiertem Output zu?

Nutzern von ChatGPT steht grundsätzlich kein Urheberrecht an KI-generiertem Output zu.

Zwar widerspricht es dem Schöpferprinzip aus § 7 UrhG nicht, wenn im Rahmen der Werkschöpfung eine Maschine oder ein Computer eingesetzt wird. Das Schöpferprinzip verlangt aber, dass der Mensch nicht von der Maschine beherrscht wird. Die Maschine darf nur als Hilfsmittel dienen. Die schöpferische Leistung muss vom Menschen erbracht werden.

Damit trotz des Einsatzes einer Maschine von einer persönlichen geistigen Schöpfung im Sinne des § 2 Abs. 2 UrhG gesprochen werden kann, muss der Mensch die Maschine zum einen so beherrschen, dass er den maschinellen Umsetzungsprozess unmittelbar beeinflusst. Zum anderen muss das aufgrund der technischen Beherrschung hervorgebrachte Produkt das Ergebnis einer schöpferischen Gestaltung sein (vgl. BeckOK UrhR/Ahlberg/Lauber-Rönsberg, 36. Edition 15.10.2022, UrhG § 7 Rn. 8; BeckOK UrhR/Ahlberg, 36. Edition 15.10.2022, UrhG § 2 Rn. 55).

Sofern eine künstliche Intelligenz wie ChatGPT nur als ein solches Hilfsmittel zur Erzeugung einer persönlichen geistigen Schöpfung eingesetzt wird, kommt Urheberrechtsschutz in Betracht (vgl. Wandtke/Bullinger/Thum, 6. Auflage 2022, UrhG § 7 Rn. 20). Allerdings ist es einer künstlichen Intelligenz gerade immanent, dass sie eigenständige Entscheidungen trifft. Die Entscheidungsfindung ist dabei oft so komplex, dass selbst die Entwickler sie nicht mehr nachvollziehen können. Es scheint daher sehr fraglich, ob bei einer derartigen Verselbstständigung noch von einer Beherrschung durch den Menschen gesprochen werden kann. Je autonomer eine künstliche Intelligenz arbeitet, desto weniger kommt urheberrechtlicher Schutz der erzeugten Ergebnisse in Betracht. Es wird insoweit jeweils anhand sämtlicher Umstände des Einzelfalls zu beurteilen sein, ob eine urheberrechtlich geschützte, mit künstlicher Intelligenz als bloßem Hilfsmittel geschaffene, persönliche geistige Schöpfung eines Menschen vorliegt oder ein urheberrechtlich nicht geschütztes KI-Erzeugnis (vgl. Wandtke/Bullinger/Thum, 6. Auflage 2022, UrhG § 7 Rn. 20).

Denkbar wäre in diesem Zusammenhang, dass der Nutzer die künstliche Intelligenz durch gezielte Prompts als Hilfsmittel für seine schöpferische Tätigkeit einsetzt. Denn wenn der Nutzer der künstlichen Intelligenz z.B. konkrete Vorgaben hinsichtlich Stil, Länge und Inhalt des zu erstellenden Inhalts macht und die künstliche Intelligenz dann nur innerhalb dieser gesetzten Grenzen tätig wird, ließe sich der Output der künstlichen Intelligenz der natürlichen Person als Schöpfer zuordnen (vgl. Conraths: Künstliche Intelligenz in der Medienproduktion, MMR 2021, 457, 459; Lauber-Rönsberg: Autonome „Schöpfung“ – Urheberschaft und Schutzfähigkeit, GRUR 2019, 244, 247).

Als weltweit wohl erstes Gericht urteilte das chinesische Internetgericht im November 2023, dass ein mithilfe von künstlicher Intelligenz erstelltes Bild urheberrechtlich geschützt sein kann. Die KI selbst könne zwar kein Urheber sein, wohl aber der KI-Nutzer, wenn er ausreichend an der Erzeugung des Bildes mitgewirkt habe. Im Fall hatte der Kläger die Parameter seiner detaillierten Prompts immer wieder nach eigenen Vorstellungen und Vor­lieben angepasst und verfeinert, bis die KI schließlich das gewünschte Ergebnis erzeugte. In diesem Anpassungsprozess erkannte das chinesische Gericht die nötige geistige Schöpfung. Ob sich dieser Ansatz durchsetzen wird, ist noch völlig offen.

nach oben

6. Was ist ein Prompt?

Im Zusammenhang mit der Nutzung von künstlichen Intelligenzen wie ChatGPT meint der Begriff des Prompts die Eingabe des Nutzers in dafür vorgesehene Eingabeaufforderungen der KI, beispielsweise ein Textfeld. Der Prompt (ggf. auch mehrere aufeinanderfolgende Prompts) hat entscheidende Bedeutung für das von der KI erzeugte Ergebnis.

chatgpt recht

nach oben

7. Wie umfangreich müsste ein Prompt sein, damit zugunsten des Nutzers ein Urheberrecht am KI-generierten Output entsteht?

Wann ein Prompt urheberrechtlich geschützt ist, lässt sich nicht pauschal beantworten. Es kommt auf den jeweiligen Einzelfall an.

Aktuell entwickelt sich im Internet eine eigene KI-Ökonomie. Vor allem in sozialen Netzwerken werden täglich neue Tipps veröffentlicht, mit welchen Prompts noch treffenderer Output erzeugt werden kann. Die Prompts bzw. Prompt-Abfolgen werden dabei immer komplexer.

Entscheidend wird die Arbeitsweise bzw. der Autonomiegrad der künstlichen Intelligenz sowie die Länge und Qualität des Prompts sein, gerade wenn der Output wie bei ChatGPT nicht nur durch einen Einzel-Prompt gesteuert wird, sondern durch mehrere aufeinanderfolgende Prompts im Rahmen eines Chatverlaufs mit der KI.

Grundsätzlich gilt: Je länger ein Text ist, desto größer sind die Gestaltungsmöglichkeiten, so dass umso eher eine hinreichende eigenschöpferische Prägung erkannt werden kann (vgl. OLG Köln, Beschluss vom 30.09.2011, Az. 6 U 82/11).

Übertragen auf Prompts bedeutet dies, dass allenfalls sehr lange, detaillierte Prompts einen Urheberrechtsschutz des Outputs begründen könnten. Um die künstliche Intelligenz nur als Hilfsmittel ansehen und den Output dem Nutzer als Schöpfer zuordnen zu können, müsste der Prompt sehr detailliert sein und ausgesprochen konkrete Vorgaben enthalten, durch welche die künstliche Intelligenz in ihrer Arbeitsweise so stark eingegrenzt würde, dass die schöpferische Leistung aus dem Prompt des Nutzers herrührt und nicht als von der künstlichen Intelligenz erbracht anzusehen wäre (vgl. Lauber-Rönsberg: Autonome „Schöpfung“ – Urheberschaft und Schutzfähigkeit, GRUR 2019, 244, 247).

Ein solches Szenario wird in der Praxis die Ausnahme darstellen.

nach oben

8. Kann ein Prompt urheberrechtlich geschützt sein?

Ob ein Prompt urheberrechtlich schutzfähig ist, lässt sich nicht pauschal beantworten. Es bleibt letztlich den Gerichten vorbehalten zu klären, unter welchen Umständen ein konkreter Prompt urheberrechtlich geschützt ist.

Es ist grundsätzlich denkbar, dass ein Prompt als Sprachwerk im Sinne von § 2 Abs. 1 Nr. 1 UrhG urheberrechtlich geschützt ist. Voraussetzung wäre, dass der Prompt selbst (nicht der daraus von der KI erzeugte Output) eine persönliche geistige Schöpfung darstellt und eine gewisse Schöpfungshöhe erreicht (vgl. § 2 Abs. 2 UrhG). Erforderlich wäre das Bestehen und Ausnutzen eines Gestaltungsspielraums. Im Prompt müsste sich die Individualität des Nutzers widerspiegeln. Für die Schutzfähigkeit kommt es dabei sowohl auf die Art, als auch den Umfang an. Ist der Stoff des Sprachwerkes frei erfunden, erlangt es leichter Urheberrechtsschutz als solche Texte, bei denen der Stoff durch organisatorische Zwecke oder andere Themen wie wissenschaftliche Zusammenhänge vorgegeben ist.

Zu berücksichtigen ist auch die Länge des Textes. Je länger ein Text ist, desto größer ist der ihm zu Grunde liegende Spielraum für eine individuelle Wortwahl und Gedankenführung; je kürzer die Formulierung, desto mehr muss sie sich durch eine fantasievolle Wortwahl oder Gedankenführung von üblichen Formulierungen abheben (LG Stuttgart, Urteil vom 04.11.2010, Az. 17 O 525/10). Allerdings ist auch die sogenannte „kleine Münze“ urheberrechtlich geschützt, so dass bereits ein Textauszug aus elf Wörtern urheberrechtlich geschützt ist (vgl. EuGH, Urteil vom 16.07.2009, Az. C-5/08Infopaq). Soweit die Texte jedoch Gebrauchszwecken dienen, ist grundsätzlich ein deutliches Überragen des Alltäglichen, des Handwerksmäßigen sowie der mechanisch-technischen Aneinanderreihung des Materials zu verlangen (BGH, Urteil vom 10.10.1991, Az. I ZR 147/89Bedienungsanweisung).

Kurze einfache Prompts werden die erforderliche Schöpfungshöhe nicht erreichen. Da ein Prompt einem Gebrauchszweck dient, bedarf es eines deutlichen Überragens des Alltäglichen und Handwerksmäßigen. Schutzfähig könnten allenfalls lange komplexe Prompts sein, da sich nur in diesen die Persönlichkeit des Nutzers widerspiegeln kann. Ein Beispiel für einen sehr umfangreichen Prompt – ohne dabei dessen Schutzfähigkeit einschätzen zu können – finden Sie bei Twitter.

nach oben

9. Kann KI-generierter Output durch ein Leistungsschutzrecht geschützt sein?

Ob KI-Output durch ein Leistungsschutzrecht geschützt sein kann, hängt von der zu erbringenden Leistung bzw. der Art des generierten Erzeugnisses ab.

  • KI-generierte Bilder: Mit KI-Systemen wie Dell-E-2 oder Midjourney können Bilder generiert werden, die echten Fotos in Nichts nachstehen. Man könnte meinen, dass derartige Bilder Schutz als Lichtbild nach § 72 Abs. 1 UrhG genießen. Nach dieser Vorschrift werden Lichtbilder und Erzeugnisse, die ähnlich wie Lichtbilder hergestellt werden, durch ein Leistungsschutzrecht geschützt. Lichtbilder und auf ähnliche Weise hergestellte Erzeugnisse sind Abbildungen, die durch Licht oder andere strahlende Energie erzeugt wurden (vgl. BeckOK UrhR/Lauber-Rönsberg, 37. Edition 15.10.2022, UrhG § 72 Rn. 11, 12). Diese Anforderungen erfüllen KI-generierte Bilder aber gerade nicht, da sie nicht unter Benutzung strahlender Energie, sondern mittels Prompts erzeugt werden, also durch elektronische Befehle (vgl. Kammergericht, Urteil vom 16.01.2022, Az. 2 U 12/16 Kart). Hinzu kommt, dass der Schutz als Lichtbild ein Mindestmaß an – zwar nicht schöpferischer, aber doch – persönlicher geistiger Leistung erfordert (BGH, Urteil vom 08.11.1989, Az. I ZR 14/88Bibelreproduktion). Lichtbildner kann deshalb nach aktueller deutscher Rechtslage nur eine natürliche Person sein (BeckOK UrhR/Lauber-Rönsberg, 37. Edition 15.10.2022, UrhG § 72 Rn. 20).
  • KI-generierte Videos: Für KI-generierte Videos kommt dagegen ein Schutz als Laufbilder nach § 95 UrhG in Betracht. Hiernach werden Bildfolgen und Bild- und Tonfolgen, die nicht als Filmwerk geschützt sind, durch ein Leistungsschutzrecht geschützt. Wesentliche Voraussetzung des Laufbildschutzes ist die Aneinanderreihung von Einzelbildern, so dass beim Betrachter der Eindruck bewegter Bilder entsteht (Wandtke/Bullinger/Manegold/Czernik, 6. Auflage 2022, UrhG § 95 Rn. 4). Anders als beim Lichtbildschutz nach § 72 UrhG ist das verwendete Aufnahmeverfahren unerheblich. Für den Schutz als Laufbild ist es also gerade nicht erforderlich, dass die Einzelbilder unter Benutzung strahlender Energie erzeugt werden, sodass auch virtuelle Laufbilder vom Anwendungsbereich des § 95 UrhG erfasst sind (Wandtke/Bullinger/Manegold/Czernik, 6. Auflage 2022, UrhG § 95 Rn. 5). KI‑generierte Videos sind daher grundsätzlich als Laufbilder nach § 95 UrhG schutzfähig. Das Leistungsschutzrecht steht nach §§ 95, 94 UrhG dem Film- bzw. Laufbildhersteller zu. Die Rechtsprechung definiert den Filmhersteller als diejenige natürliche oder juristische Person, die bei wertender Gesamtbetrachtung die Herstellung der Erstfixierung eines Filmträgers inhaltlich und organisatorisch steuert und wirtschaftlich verantwortet (BGH, Urteil vom 22.10.1992, Az. I ZR 300/90Filmhersteller). Durch das Leistungsschutzrecht soll die „erhebliche organisatorische und wirtschaftliche Leistung“ honoriert werden (BT-Drs. 4/270, Seite 102). Im Computerbereich werden wegen der erheblichen Investitionskosten die Entwicklungsstudios als Filmhersteller angesehen (Wandtke/Bullinger/Manegold/Czernik, 6. Auflage 2022, UrhG § 94 Rn. 47). Das Leistungsschutzrecht dürfte somit den Unternehmen zustehen, die die KI entwickelt haben und den Service anbieten, zumal beispielsweise für ChatGPT die monatlichen Betriebskosten bei geschätzt ca. drei Millionen US-Dollar liegen. Es bleibt abzuwarten, ob der Gesetzgeber perspektivisch Gleichlauf zwischen KI-Bildern und KI-Laufbildern herbeiführt.
  • KI-generierte Texte: Ein Leistungsschutzrecht für Texte, die durch ein KI-System wie ChatGPT generiert werden, ist fernliegend. Allenfalls könnte man an § 70 Abs. 1 UrhG denken. Ein derartiger Schutz scheitert jedoch an der Rechtsinhaberschaft. Das Leistungsschutzrecht steht nach § 70 Abs. 2 UrhG dem Verfasser als demjenigen zu, der eine wissenschaftliche Leistung erbringt (BeckOK UrhR/Lauber-Rönsberg, 36. Edition 15.10.2022, UrhG § 70 Rn. 17). Geschützt werden soll die persönlich erbrachte Leistung des Verfassers. Verfasser wäre die KI selbst. Diese verfügt jedoch über keine eigene Rechtspersönlichkeit und kann daher nicht Inhaber eines Leistungsschutzrechts sein. KI-generierte Texte sind nicht durch ein Leistungsschutzrecht nach § 70 Abs. 1 UrhG geschützt.
  • KI-generierte Presseveröffentlichungen: Sofern ein KI-generierter Text als Presseveröffentlichung im Sinne von § 87f Abs. 1 Satz 1 UrhG einzustufen wäre, käme das Leistungsschutzrecht des Presseverlegers (§ 87f ff. UrhG) in Betracht. Da durch das Leistungsschutzrecht nicht die persönliche Leistung eines Journalisten, sondern die wirtschaftliche, technische und organisatorische Leistung des Presseverlegers geschützt wird, ist es unerheblich, dass die Presseveröffentlichung durch eine KI generiert wird (Conraths: Künstliche Intelligenz in der Medienproduktion, MMR 2021, 457, 460). Die Nachrichten- und Presseagentur Associated Press etwa setzt bereits seit 2014 KI zur Erfassung, Produktion und Verbreitung von Nachrichten ein. Inhaber des Leistungsschutzrechts ist der Presseverleger als Hersteller der Presseveröffentlichung (§ 87f Abs. 2 Satz 1 UrhG). Presseverleger ist derjenige, der die wirtschaftlich-organisatorische und technische Leistung erbringt, die für die Publikation einer Presseveröffentlichung erforderlich ist (BT-Drs. 19/27426, Seite 111). Ist die Presseveröffentlichung in einem Unternehmen hergestellt worden, so gilt der Inhaber des Unternehmens als Hersteller (§ 87f Abs. 2 Satz 2 UrhG). Maßgeblich ist dann, wer den wirtschaftlichen Erfolg verantwortet und wem dieser zuzurechnen ist (BT-Drs. 19/27426, Seite 111).
  • KI-generierte Musik bzw. Gesang: Dass eine KI singt, klingt im ersten Moment nach Zukunftsmusik, ist aber längst Realität. So singt zum Beispiel auf dem Album „Proto“ von der Künstlerin Holly Herndon eine KI namens „Spawn“ (vgl. YouTube-Video). KI‑generierter Gesang könnte durch das Leistungsschutzrecht des ausübenden Künstlers nach § 73 UrhG geschützt sein. Ausübender Künstler im Sinne des UrhG ist, wer ein Werk oder eine andere Ausdrucksform der Volkskunst aufführt, singt, spielt oder auf eine andere Weise darbietet oder an einer solchen Darbietung künstlerisch mitwirkt (§ 73 UrhG). Schutzgegenstand ist die persönliche Leistung des ausübenden Künstlers. Die Definition stellt klar, dass nur die Darbietung einer natürlichen Person mit dem Leistungsschutzrecht des ausübenden Künstlers belohnt wird (vgl. Wandtke/Bullinger/Büscher, 6. Aufl. 2022, UrhG § 73 Rn. 15). Da eine KI keine natürliche Person ist, scheidet ein Leistungsschutzrecht nach § 73 UrhG aus.

nach oben

10. Darf man durch Prompts den Stil berühmter Autoren oder Künstler nachahmen?

Ja, das wird in der Regel zulässig sein.

Ein bestimmter Stil ist urheberrechtlich nicht schutzfähig (vgl. BGH, Urteil vom 18.12.1968, Az. I ZR 85/65Hummel III). Schutzfähig ist nur die konkrete, individuelle Werkschöpfung. Im Interesse der Allgemeinheit ist der Stil frei, auch wenn er im Einzelfall auf einen bestimmten Urheber hinweist (Wandtke/Bullinger/Bullinger, 6. Auflage 2022, UrhG § 2 Rn. 40).

Beispiel: Es ist zulässig, den Prompt „Schreibe eine Kurzgeschichte im Stil von Stephen King“ oder „Erstelle ein Bild im Stil von Disney“ zu verwenden, solange man den Output nicht fälschlicherweise dem nachgeahmten Künstler zuschreibt. Aber: Würde die Imitation des Stils dazu führen, dass ein Bild erzeugt wird, das einem vorbestehenden Original sehr ähnlich ist, könnte dies eine Urheberrechtsverletzung darstellen. Beachten Sie zum urheberrechtlichen Figurenschutz Punkt 11 dieser FAQ.

Abseits des Urheberrechts ist zu beachten, dass die Anlehnung an Stilmerkmale und Motive eines anderen Künstlers sowie die Verwendung seiner Signatur im Falle von Identitätsverwirrungen zu persönlichkeitsrechtlichen und wettbewerbsrechtlichen Ansprüchen führen kann (BGH, Urteil vom 08.06.1989, Az. I ZR 135/87Emil Nolde).

nach oben

11. Darf man bekannte Figuren mittels Prompts in einen KI-Output einbauen?

Nein, das würde häufig eine Urheberrechtsverletzung darstellen.

Comicfiguren, Zeichentrickfiguren oder Literaturfiguren können urheberrechtlich geschützt sein. Derartiger Schutz beschränkt sich nicht nur auf die konkrete Zeichnung bzw. Darstellung. Geschützt sind auch die charakteristischen Züge der Figur und deren „Gestalt“ als solche (vgl. Wandtke/Bullinger/Manegold/Czernik, 6. Auflage 2022, UrhG § 88 Rn. 33). Virtuelle oder literarische Persönlichkeiten sind jedoch nur dann geschützt, wenn es sich bei ihnen um fiktionale Figuren handelt, welche ausgeprägte Charaktereigenschaften und besondere äußere Merkmale aufweisen (vgl. BGH, Urteil vom 17.07.2013, Az. I ZR 52/12Pippi-Langstrumpf-Kostüm). Unverwechselbare Kombinationen äußerer Merkmale und Eigenschaften können daher als Schutzgegenstand in Betracht kommen. Solange die charakteristischen Züge der übernommenen Gestalt erkennbar sind, ist der urheberrechtliche Schutzbereich betroffen (vgl. EuGH, Urteil vom 29.07.2019, Az. C-476/17Pelham/Hütter; BGH, Urteil vom 07.04.2022, Az. I ZR 222/20Porsche 911).

Beispiel: Die Erstellung und vor allem Veröffentlichung eines KI-generierten Bildes mit einem Prompt wie „Pippi Langstrumpf reitet auf einem Pferd“ ist kritisch. Grund ist, dass eine KI bei der Nachahmung einer bekannten Figur gerade die charakteristischen Züge übernehmen bzw. zugrunde legen wird, die urheberrechtlich geschützt sind bzw. geschützt sein könnten.

nach oben

12. Kann man KI-generierten Output gefahrlos nutzen?

Die Frage lässt sich nicht pauschal beantworten. In den meisten Fällen wird man KI-Output zwar gefahrlos verwenden können, aber nicht immer.

An KI-generierten Erzeugnissen bestehen in der Regel keine Urheber- oder Leistungsschutzrechte. Sie können daher grundsätzlich von jedem frei genutzt werden. Etwas anderes gilt, wenn die Erzeugnisse ausnahmsweise urheberrechtlich geschützte Elemente enthalten, die in den Schutzbereich eines Urheber- oder Leistungsschutzrechts eingreifen. Dabei ist ein Eingriff in das Urheberrecht nur dann anzunehmen, wenn gerade die den Urheberrechtsschutz begründenden Merkmale wiedererkennbar sind (BGH, Urteil vom 07.04.2022, Az. I ZR 222/20Porsche 911). Geschützt sind nämlich nur diejenigen Elemente des Werks, die eine persönliche geistige Schöpfung darstellen.

Demgegenüber genügt für die Verletzung eines Leistungsschutzrechts bereits jede noch so geringe Übernahme, sofern die übernommenen Elemente wiederzuerkennen sind (EuGH, Urteil vom 29.07.2019, Az. C-476/17Pelham/Hütter). Denn der für eine organisatorische, technische und wirtschaftliche Leistung gewährte Schutz schlägt sich auch auf den kleinsten Teil nieder (BGH, Urteil vom 07.04.2022, Az. I ZR 222/20Porsche 911). Beachten Sie, dass die Rechtsprechung hier seit Jahren im Wandel ist. Es ist möglich, dass die Gerichte unter dem Eindruck der neuen KI-Technologie in der Zukunft zu abweichenden Ergebnissen kommen werden.

Dass auch beim Einsatz einer KI eine wiedererkennbare Übernahme nicht gänzlich ausgeschlossen ist, haben Forscher unlängst bestätigt. Demnach genügt unter Umständen bereits die Eingabe eines Eigennamens als Prompt, um ein bestimmtes Bild zu reproduzieren, das als Trainingsdatum verwendet wurde (Studie).

nach oben

13. Kann man erkennen, ob KI-Output urheberrechtlich geschützte Elemente enthält?

Ob KI-generierter Output urheberrechtlich geschützte Elemente enthält, ist für Nutzer in der Regel nicht feststellbar.

  • Bilder: Eine Übernahme geschützter Elemente dürfte die Ausnahme bleiben, da KIs Bilder nicht aus bestehenden Werken zusammensetzen, sondern aus ausgewerteten Trainingsdaten gänzliche neue Bilder erzeugen. Es kommt jedoch nicht selten vor, dass KI-generierte Bilder Wasserzeichen oder Signaturen enthalten (vgl. auch eine Klage von Getty Images gegen Stability AI, das Unternehmen hinter Stable Diffusion). In diesen Fällen liegt die Vermutung nahe, dass der KI-generierte Output urheberrechtlich geschützte Elemente enthält und daher nicht gemeinfrei ist. Allerdings dürfte die Wasserzeichen bzw. Signaturen vielmehr ein Hinweis darauf sein, dass die KI mit urheberrechtlich geschützten Daten trainiert wurde. In einer Klageschrift behauptete die Bildagentur Getty beispielsweise, dass Stability AI ohne Erlaubnis mehr als 12 Millionen Bilder einschließlich der dazugehörigen Metadaten kopiert habe. Die kopierten Bilder seien als Trainingsdaten für die KI Stable Diffusion verwendet worden, was sich an den verzerrten Versionen des Wasserzeichens von Getty zeige. In der Tat enthält die Klageschrift zahlreiche Bilder, auf denen das Getty-Wasserzeichen eindeutig zu erkennen ist. Auf Basis ihres Trainings dürfte die KI gelernt haben, dass ein gewisser Bildtyp in der Regel ein Getty-Wasserzeichen trägt, weshalb sie ihren KI-generierten Bildern des gleichen Typs ebenfalls ein solches Wasserzeichen einfügte. Enthält ein KI-generiertes Bild ein fremdes Wasserzeichen oder eine Signatur, bedeutet dies allerdings nicht zwangsläufig, dass der Output urheberrechtlich geschützte Elemente enthält. Denn KI-Systeme wie Dall-E-2 oder Midjourney setzen wie erwähnt nicht einfach bestehende Bildschnipsel zusammen. KI-generierte Bilder sind keine Collagen aus Bildern, mit denen die KI trainiert wurde. Die KI-Systeme greifen bei der Generierung der Bilder lediglich auf die aus den Trainingsdaten „gelernten“ Informationen zurück und generieren etwas Neues, nie Dagewesenes.
  • Texte: Bei KI-generierten Texten besteht die Möglichkeit, den Inhalt mithilfe einer Plagiatssoftware zu überprüfen. Auch hier gilt das oben zu den KI-Bildgeneratoren gesagte. Dienste wie ChatGPT setzte keine bestehenden Satzschnipsel zusammen, sondern generieren auf Grundlage von Trainingsdaten vollkommen neue Texte anhand einer Wahrscheinlichkeitsverteilung. Auf Basis von gelernten Mustern berechnet die KI, welches Wort am wahrscheinlichsten auf das vorherige Wort folgt. Dieser Vorgang wiederholt sich so oft, bis ein Text entsteht, anschaulich verdeutlicht in einem Beitrag von Helmut Linde. Daneben existieren diverse Programme wie AI DETECTOR, GPTZero oder GPT-2 Output Detector, mit denen Texte auf KI-generierte Inhalte überprüft werden können.

nach oben

14. Kann man verhindern, dass KI-Systeme meine Texte oder Bilder als Trainingsdaten verwenden?

Ja, theoretisch kann man verhindern, dass Webcrawler Informationen von einer Website abrufen, die später als Trainingsdaten verwendet werden.

Zunächst einmal enthält das Urheberrechtsgesetz in § 44b UrhG eine allgemeine Schranke für das sog. Text und Data Mining. Unter Text und Data Mining versteht das Gesetz die automatisierte Analyse von einzelnen oder mehreren digitalen oder digitalisierten Werken (vgl. § 44b Abs. 1 UrhG).

Die beim Text und Data Mining erforderliche automatisierte Auswertung von Daten ist keine urheberrechtlich relevante Handlung (BT-Drs. 18/12329, Seite 40). Urheberrechtlich relevant sind jedoch solche Handlungen, die zur Vorbereitung der automatisierten Auswertung vorgenommen werden und dabei die Nutzung von geschützten Werken betreffen. Zur Erstellung der Trainingsdaten werden oftmals auch urheberrechtlich geschützte Werke in ein analysefähiges Digitalisat umgewandelt, was üblicherweise durch eine Vervielfältigung im Sinne von § 16 UrhG erfolgt (vgl. BeckOK UrhR/Hagemeier, 36. Edition 15.10.2022, UrhG § 44b Rn. 12).

Nach § 44b Abs. 2 Satz 1 UrhG sind Vervielfältigungen von rechtmäßig zugänglichen Werken für das Text und Data Mining zulässig, sofern der Rechtsinhaber sich seine Nutzungsrechte nicht nach § 44b Abs. 3 UrhG vorbehalten hat. Der Rechtsinhaber kann mittels eines Nutzungsvorbehalts festlegen, dass sein Werk nicht für das Text und Data Mining zu kommerziellen Zwecken vervielfältigt werden darf. Bei online zugänglichen Werken ist der Nutzungsvorbehalt nur dann wirksam, wenn er in maschinenlesbarer Form erfolgt (§ 44b Abs. 3 Satz 2 UrhG). Bei § 44b Abs. 3 UrhG handelt es sich um eine Opt-Out-Lösung, d.h. der Rechteinhaber muss proaktiv werden und einer Nutzung explizit widersprechen. Dabei wirkt der Nutzungsvorbehalt immer erst ab dem Zeitpunkt seiner Erklärung (BT-Drs. 19/27426, Seite 89).

Für Websitebetreiber besteht die Möglichkeit, im Stammverzeichnis der Domain (auch „Hauptverzeichnis“ oder „root“ genannt) eine robots.txt-Datei zu erstellen bzw. eine bereits bestehende robots.txt zu erweitern. In dieser Datei kann festgelegt werden, ob und wie die Webseiten der Internetpräsenz von einem Webcrawler besucht (und ausgelesen) werden dürfen. Die Beweislast für das Fehlen eines Nutzungsvorbehalts trägt der Nutzer, der sich auf die Schranke beruft (BT-Drs. 19/27426, Seite 89). Damit die Aktivität eines Webcrawlers durch eine robots.txt-Datei reguliert werden kann, muss allerdings der Name des eingesetzten Webcrawlers bekannt sein. Zwar gibt es umfangreiche Listen mit Namen von hunderten Webcrawlern. Praktisch hilft dies aber nur bedingt weiter, weil in den seltensten Fällen bekannt sein wird, mit welchen Datensätzen ein KI-System trainiert wurde und welcher Webcrawler den Datensatz erstellt hat. Hinzu kommt, dass es technisch vergleichsweise leicht möglich ist, einen beliebigen Botnamen zu verwenden.

Beispiel ChatGPT

Laut einer Forschungsarbeit bildet im Fall von ChatGPT ein Datensatz namens Common Crawl mit 60% den überwiegenden Teil der Trainingsdaten (vgl. Table 2.2: Datasets used to train CPT-3). Der Datensatz wurde von der gleichnamigen Non-Profit-Organisation erstellt, die es sich zur Aufgabe gemacht hat, Internetforschern, Unternehmen und Einzelpersonen kostenlos eine Kopie des Internets zum Zwecke der Forschung und Analyse zur Verfügung zu stellen. Der Webcrawler von Common Crawl trägt die Bezeichnung CCBot. Mit den folgenden Befehlen würde dem Webcrawler CCBot von Common Crawl ein Crawling der kompletten Website verboten:

User-agent: CCBot
Disallow: /

User-agent: *
Disallow:

nach oben

15. Haftet ein Nutzer bei Veröffentlichung von KI-generiertem Output für Urheberrechtsverletzungen?

Ja, der Nutzer haftet in diesem Fall als Täter für Urheberrechtsverletzungen, was wir anhand des folgenden Beispiels verdeutlichen.

Beispiel: Der Nutzer generiert mithilfe einer KI wie zum Beispiel Midjourney oder Dall‑E 2 ein Bild, auf dem leicht erkennbar Micky Maus und Pippi Langstrumpf Karten spielen. Das generierte Bild postet der Nutzer anschließend bei Twitter, natürlich ohne dass vorab eine Erlaubnis von den Schöpfern der Figuren eingeholt wurde.

Nach § 97 UrhG haftet der Nutzer als Verletzer, wenn er in ein geschütztes fremdes Recht eingreift, d.h. eine dem Urheber oder Leistungsschutzrechtinhaber vorbehaltene Verwertungshandlung selbst vornimmt.

Micky Maus und Pippi Langstrumpf sind urheberrechtlich geschützte Figuren. Die Veröffentlichung des KI-generierten Bildes auf Twitter ist eine öffentliche Zugänglichmachung im Sinne von § 19a UrhG und stellt mangels Erlaubnis der Urheber einen Eingriff in deren Verwertungsrecht dar.

Den Urhebern der Figuren steht deshalb gegen den veröffentlichenden Nutzer ein verschuldensunabhängiger Anspruch auf Unterlassung und Beseitigung zu (§ 97 Abs. 1 UrhG). Zusätzlich wird ein Anspruch auf Zahlung von Schadensersatz bestehen. Anders als der Unterlassungsanspruch ist der Schadensersatzanspruch nach § 97 Abs. 2 UrhG nicht verschuldensunabhängig, er erfordert ein vorsätzliches oder fahrlässiges Verhalten. Fahrlässig handelt, wer die im Verkehr erforderliche Sorgfalt außer Acht lässt (§ 276 Abs. 2 BGB). An die Erfüllung der Sorgfaltspflicht werden im Urheberrecht – wie generell im Immaterialgüterrecht – hohe Anforderungen gestellt (BGH, Urteil vom 12.11.2009, Az. I ZR 166/07marions-kochbuch.de). Ein Nutzer wird sich in der Regel nicht darauf berufen können, dass er die Urheberrechtslage nicht kannte. Wer ein fremdes Werk nutzen will, muss sich sorgfältig Gewissheit über seine Befugnis dazu verschaffen. Ein ungeprüftes Übernehmen und Veröffentlichen von KI-generiertem Output wird man daher in der Regel als fahrlässige und somit schuldhafte Sorgfaltspflichtverletzung des Nutzers einstufen müssen.

nach oben

16. Haften KI-Unternehmen bei KI-generiertem Output für Urheberrechtsverletzungen?

Diese Frage ist noch nicht geklärt.

Sämtliche KI-Anbieter schließen ihre Haftung für von Nutzern mittels der KI erzeugten Output pauschal aus und verweisen für den Fall von Rechtsverletzungen auf die Eigenverantwortlichkeit des jeweiligen Nutzers. So schreibt etwa Midjourney in seinen Terms of service:

“We provide the service as is, and we make no promises or guarantees about it. You understand and agree that we will not be liable to You or any third party for any loss of profits, use, goodwill, or data, or for any incidental, indirect, special, consequential or exemplary damages, however they arise. You are responsible for Your use of the service. If You harm someone else or get into a dispute with someone else, we will not be involved.” (Stand: 10.02.2023; zuletzt aufgerufen am 15.03.2023).

Fraglich ist allerdings, ob derartige pauschale Haftungsausschlüsse der KI-Anbieter in Deutschland wirksam sind. Die vorstehende Klausel könnte beispielsweise gegen § 309 Nr. 7 lit. b BGB verstoßen, da jegliche Haftung ausgeschlossen wird, auch wenn sie auf Vorsatz oder grober Fahrlässigkeit beruht. Das deutsche Recht erlaubt in AGB jedoch nur eine Freizeichnung von der Haftung für leichte Fahrlässigkeit, sofern es um die Verletzung nichtwesentlicher Pflichten geht. Pauschale Haftungsausschlüsse, die jegliche Haftung ausschließen, sind nach deutschem Recht gegenüber Verbrauchern unwirksam.

Ein weiterer Ansatzpunkt ist die Frage, ob es sich bei KI-Angeboten wie ChatGPT oder Midjourney in Bezug auf Urheberrechtsverletzungen um gefahrgeneigte Dienste handelt, die eine (mittelbare) Täterschaft des KI-Unternehmens begründen können.

  • Nach Ansicht des EuGH haften Plattformen wie YouTube als Host-Provider grundsätzlich nicht für von Nutzern hochgeladene urheberrechtsverletzende Inhalte. Eine täterschaftliche Haftung der Plattform für die öffentliche Zugänglichmachung von urheberrechtlich geschützten Inhalten entsteht aber, wenn sie einen konkreten Hinweis auf eine offensichtliche Verletzungshandlung erhält und den Inhalt daraufhin nicht unverzüglich löscht. Erst recht haftet ein Host-Provider, wenn er selbst an der Auswahl illegal hochgeladener Inhalte beteiligt ist (vgl. EuGH, Urteil vom 22.06.2021, Az. C‑682/18 und C‑683/18). In gewissem Umfang muss eine Plattform darüber hinaus auch dafür sorgen, dass es nicht zu erneuten identischen (bzw. kerngleichen) rechtswidrigen Uploads durch die Nutzer kommt.
  • Würde man dieses Haftungsmodell auf KI-Angebote übertragen, bestünde grundsätzlich keine Haftung der KI-Anbieter für nutzergenerierte Inhalte, die im Falle einer Veröffentlichung durch den Nutzer oder Dritte eine Urheberrechtsverletzung darstellen.
  • Es wäre aber zu diskutieren, ob ein KI-Unternehmen verpflichtet werden müsste, Output-Filter zu implementieren, um das Ausspielen bzw. öffentliche zugänglich machen rechtswidriger Inhalte zu vermeiden. Solche Output-Filter müssten den Output vor der Ausspielung an den Nutzer überprüfen und – falls eine Urheberrechtsverletzung zu befürchten ist – dafür sorgen, dass der rechtsverletzende Inhalt gar nicht erst von der KI-Anwendung ausgegeben bzw. angezeigt wird.
  • Weiter wäre zu fragen, ob das KI-Unternehmen Vorkehrungen schaffen müsste, um den Nutzern die Meldung von rechtswidrigem Output zu ermöglichen (etwa durch ein Flagging-System wie bei YouTube). Würde ein Inhalt vom Nutzer als rechtswidrig geflaggt, müsste der KI-Anbieter den Output prüfen und ggf. die KI so umprogrammieren, dass identischer (und vielleicht sogar sinngemäßer) Output künftig unterbunden wird. Im Vergleich zu Videoplattformen wie YouTube wäre die Komplexität solcher Eingriffe in die Arbeitsweise einer KI freilich massiv höher und auf der Ebene von sinngemäß ähnlichen Inhalten womöglich gar nicht verlässlich umsetzbar. Das würde dafür sprechen, das die KI (wenn überhaupt) nur dazu verpflichtet werden könnte, identischen rechtswidrigen Output zu unterdrücken.
  • Soweit eine KI-Anwendung die Eingabe von Prompts (und/oder sogar den Upload von Dateien) durch den Nutzer erlaubt, wäre zu fragen, ob den KI-Anbieter eine Verkehrssicherungspflicht trifft, woraus sich eine Pflicht zur Implementierung von Prompt-Filtern bzw. Upload-Filtern ergeben könnte. Jedenfalls in Bezug auf Upload-Filter hat der EuGH entschieden, dass deren Einsatz grundsätzlich zulässig ist. Eine vom Diensteanbieter durchgeführte Vorabkontrolle der hochzuladenden Inhalte schränke die Meinungs- und Informationsfreiheit des Nutzers nicht in unverhältnismäßiger Weise ein (vgl. EuGH, Große Kammer, Urteil vom 26.4.2022, Az. C-401/19Polen/Parlament und Rat). In Bezug auf Prompt-Filter wäre es denkbar, dass die KI bestimmte Begriffe nicht als (Teil von) Prompts zulässt. Teilweise existieren solche Prompt-Filter bereits. So blockiert Dall-E 2 Prompts, die gegen die Content Policy des KI-Anbieters verstoßen. Gibt man zum Beispiel als Prompt “Trump in Florida” ein, lautet der Output von Dall-E-2: “It looks like this request may not follow our content policy.

Einen speziellen Fall stellt Midjourney dar. Anders als bei ChatGPT oder Dall-E 2 wird der Output bei Midjourney standardmäßig für alle User sichtbar im Discord-Chat von Midjourney veröffentlicht. Durch die Veröffentlichung der generierten Bilder bei Discord ermöglicht Midjourney anderen Nutzern Zugang zum ggf. rechtsverletzendem Output. Der Discord-Channel von Midjourney ist öffentlich, da sich die Wiedergabe an eine große und unbestimmte Zahl potentieller Adressaten richtet, was quantitativ ausreicht, um von “Öffentlichkeit” zu sprechen. Die Veröffentlichung bei Discord richtet sich auch an ein “neues Publikum” im Sinne der Cordoba-Rechtsprechung des EuGH, da eine neue Zugangsquelle geschaffen wird, auf die der Rechteinhaber keinen Einfluss nehmen kann (siehe auch Art. 17 DSM-RL, § 1 Abs. 1 UrhDaG).

nach oben

B. Vertragsrecht

Neben dem Urheberrecht führt der Einsatz von künstlicher Intelligenz zu arbeitsrechtlichen und vertragsrechtlichen Fragen.

17. Darf ein Arbeitnehmer zur Erbringung seiner Arbeit KI einsetzen?

Diese Frage lässt sich nicht pauschal beantworten. Es kommt insbesondere auf die Ausgestaltung des Arbeitsvertrages sowie Art und Umfang des KI-Einsatzes an.

Aus einem Arbeitsvertrag ergeben sich für Arbeitnehmer und Arbeitgeber jeweils spezielle Rechte und Pflichten (vgl. § 611a BGB). Der Arbeitnehmer ist insbesondere zur Erbringung der versprochenen Leistung und der Arbeitgeber zur Zahlung der vereinbarten Vergütung verpflichtet. Der Arbeitnehmer hat nach § 613 Satz 1 BGB seine Arbeitsleistung im Zweifel in Person zu erbringen. Er ist grundsätzlich nicht berechtigt, die Arbeitsleistung durch Dritte erbringen zu lassen. Die Arbeitsleistung ist eine höchstpersönliche Leistungspflicht des Arbeitnehmers und als solche unübertragbar (ErfK/Preis, 23. Auflage 2023, BGB § 613 Rn. 1). So kann etwa ein Arbeitnehmer, zu dessen geschuldeter Arbeitsleistung die Führung eines Kfz gehört, die Fahrleistung nicht durch eine Ersatzperson erbringen lassen (vgl. LAG Schleswig-Holstein, Urteil vom 16.06.1986, Az. 4 (5) Sa 684/85). Die Höchstpersönlichkeit verhindert jedoch nicht, dass der Arbeitnehmer außerhalb seiner geschuldeten Arbeitsleistung eine Hilfspersonen einsetzen darf (Jauernig/Mansel, 18. Auflage 2021, BGB § 611 Rn. 6). Der konkrete Inhalt und die Art der zu erbringenden Arbeitsleistung ergibt sich in erster Linie aus der im Arbeitsvertrag enthaltenen Tätigkeitsumschreibung. Daneben kann der Arbeitgeber Inhalt, Ort und Zeit der Arbeitsleistung nach billigem Ermessen näher bestimmen, soweit diese Arbeitsbedingungen nicht festgelegt sind (§ 106 Satz 1 GewO, sog. Weisungsrecht).

Aufgrund der Höchstpersönlichkeit der Arbeitsleistung darf der Arbeitnehmer seine Arbeit nicht (vollständig) von der KI erfüllen lassen. Dies käme ansonsten einer Übertragung der Arbeit auf einen Dritten gleich. Verwendet der Arbeitnehmer die KI hingegen nur als Hilfsmittel, um der eigenen Arbeitsleistung den letzten Schliff zu geben (zum Beispiel zur Rechtschreibkontrolle), liegt kein Verstoß gegen das Prinzip der Höchstpersönlichkeit vor. Hat der Arbeitgeber aber im Arbeitsvertrag oder per Weisung jeglichen Einsatz von KI untersagt, ist dies zwingend einzuhalten, da ansonsten eine Pflichtverletzung seitens des Arbeitnehmers vorliegen würde, welche zu einer arbeitsrechtlichen Abmahnung und sogar Kündigung führen kann.

nach oben

18. Dürfen Agenturen oder Freelancer ihre Leistung mit KI-Unterstützung erbringen?

Es ist möglich und ratsam, den Einsatz von KI zur Erbringung der geschuldeten Leistungen vertraglich zwischen Auftraggeber und zuarbeitendem Unternehmen zu regeln. Ohne vertragliche Regelungen ist der Einsatz von bei Werkverträgen eher zulässig als im Rahmen von Dienstverhältnissen.

Wer weisungsgebunden oder fremdbestimmt leistet, ist abhängig beschäftigter Arbeitnehmer im Sinne von § 611a BGB. Wer dagegen weder persönlich noch wirtschaftlich abhängig Dienste leistet, ist entweder freier Dienstverpflichteter nach § 611 BGB oder Werkvertragsunternehmer nach § 631 BGB (ErfK/Preis, 23. Auflage 2023, BGB § 611a Rn. 10).

Die Abgrenzung von Werkvertrag und (freien) Dienstvertrag bereitet in der Praxis häufig Schwierigkeiten. Sie ist für die Beantwortung der Frage jedoch unerlässlich, ob ein Selbstständiger bei der Erbringung seiner Arbeit KI einsetzen darf. Denn die in § 613 BGB enthaltene Grundregel, wonach die Arbeitsleistung höchstpersönlich zu erbringen ist, gilt sowohl im Arbeits- als auch im Dienstvertragsrecht (ErfK/Preis, 23. Auflage 2023, BGB § 613 Rn. 1). Im Werkvertragsrecht fehlt dagegen eine entsprechende Norm. Daraus ergibt sich im Umkehrschluss, dass es beim Werkvertrag grundsätzlich keine persönliche Leistungspflicht des Werkunternehmers gibt (vgl. MüKoBGB/Busche, 9. Auflage 2023, BGB § 631 Rn. 74). Da der Leistungsverpflichtung ein höchstpersönlicher Einschlag fehlt, braucht der Werkunternehmer das Werk nicht in Person zu erstellen (MüKoBGB/Busche, 9. Auflage 2023, BGB § 631 Rn. 75).

Durch den Dienstvertrag verpflichtet sich der Dienstverpflichtete zur Leistung der versprochenen Dienste (§ 611 Abs. 1 BGB). Durch den Werkvertrag verpflichtet sich der Unternehmer zur Herstellung des versprochenen Werkes (§ 631 Abs. 1). Maßgeblich für die Abgrenzung zwischen Werkvertrag und (freien) Dienstvertrag ist, ob der Unternehmer einen bestimmten Erfolg versprochen hat, weil nach dem im Vertrag zum Ausdruck gekommenen Willen der Parteien nicht lediglich eine Dienstleistung als solche, sondern ein Arbeitsergebnis als deren Erfolg geschuldet wird (BGH, Urteil vom 16.07.2002, Az. X ZR 27/01; OLG Karlsruhe, Urteil vom 24.10.2007, Az. 7 U 214/06). Während beim Dienstvertrag die Dienstleistung als solche geschuldet wird (d.h. das Tätigsein), schuldet der Werkunternehmer das Ergebnis einen Erfolg in Gestalt des Werks (vgl. MüKoBGB/Busche, 9. Auflage 2023, BGB § 631 Rn. 17).

  • Handelt es sich bei dem der Tätigkeit zugrunde liegenden Vertrag um einen Dienstvertrag, muss der Dienstverpflichtete seine Dienstleistung im Zweifel persönlich erbringen (§ 613 Satz 1 BGB). Dass der Dienstverpflichtete die Dienste in Person zu leisten hat, gilt jedoch nur im Zweifel. Die Parteien können auch etwas anderes vereinbaren. Eine abweichende Regelung kann auch stillschweigend getroffen werden; sie kann sich aus den Umständen, vor allem aus der Besonderheit des Dienstleistungsversprechens ergeben (Staudinger/Fischinger, 2022, BGB § 613 Rn. 6). Der Einsatz einer KI ist daher grundsätzlich ausgeschlossen, solange keine abweichende Regelung getroffen wurde oder etwa der Einsatz von KI branchenüblich ist.
  • Liegt hingegen ein Werkvertrag vor, kann sich der Werkunternehmer zur Erbringung des Erfolges grundsätzlich einer KI bedienen. Er kann seine Arbeit im Zweifel vollständig von der KI erfüllen lassen. Etwas anderes gilt nur dann, wenn es nach dem Vertragsinhalt, wie zum Beispiel bei der Anfertigung eines Gemäldes, gerade auf die persönliche Schöpfung des Werkes durch den Hersteller ankommt (MüKoBGB/Busche, 9. Auflage 2023, BGB § 631 Rn. 74). Der Einsatz einer KI ist daher grundsätzlich gestattet, solange keine abweichende Regelung getroffen wurde oder die Leistungsverpflichtung einen höchstpersönlichen Einschlag aufweist.

nach oben

19. Ist es sinnvoll, KI-Klauseln in eigene Verträge aufzunehmen?

Ja. Unternehmen sollten Klauseln zur Nutzung von KI sowohl in eigene Verträge mit Arbeitnehmern als auch in Verträge mit beauftragten Drittunternehmen aufnehmen. 

Das betrifft insbesondere Dienstverträge bzw. Werkverträge mit Selbstständigen. Nicht zuletzt deshalb, weil die Abgrenzung der Vertragstypen besonders schwer fällt und der Verpflichtete seine Arbeit beim Werkvertrag (anders als beim Dienstvertrag) vollständig von der KI erfüllen lassen kann. Zudem kann von der Auslegungsregel des § 613 Satz 1 BGB auch stillschweigend abgewichen werden. Spätere Streitigkeiten hinsichtlich der Frage, ob eine solche Abweichung getroffen wurde oder nicht, lassen sich am effektivsten durch eindeutige Regelungen zur Nutzung bzw. Unterstützung durch KI vermeiden.

Neben der eigentlichen KI-Klausel sollte der Vertrag auch spezielle Haftungsregelungen enthalten, die die Risiken des KI-Einsatzes gerecht verteilen.

nach oben

20. Welche Möglichkeiten bestehen bei der Ausgestaltung von KI-Klauseln?

Bei der Ausarbeitung einer KI-Klausel bestehen dem Grunde nach drei Gestaltungsmöglichkeiten.

  • KI-Einsatz wird generell erlaubt: Diese Variante bietet sich zum Beispiel an, wenn nur das Ergebnis der Arbeit zählt und es dem Auftraggeber gleichgültig ist, ob KI eingesetzt wird oder nicht.
  • Regelung, wann und welchem Umfang der Einsatz von KI erlaubt sein soll: Bei der zweiten Variante wird detailliert geregelt, bei welchen Arbeitsschritten und in welchem Umfang KI zum Einsatz kommen darf.
  • Verbot mit Erlaubnisvorbehalt: Schließlich ist es möglich, den KI-Einsatz grundsätzlich zu verbieten, sofern vom Auftraggeber/Arbeitgeber zuvor nicht ausdrücklich für den konkreten Fall eine Erlaubnis erteilt wurde. Diese Variante bietet hohe Rechtssicherheit, ohne die Vertragsparteien zu sehr einzuengen. Sie ermöglicht den Parteien eine variable Handhabung des Einzelfalls.

In jeder Variante sollten zusätzlich Haftungsregelungen aufgenommen werden, um klarzustellen, wer inhaltlich für den KI-Output verantwortlich ist.

nach oben

21. Wer haftet im Rahmen einer Beauftragung für KI-basierte Rechtsverletzungen?

Es ist zu unterscheiden zwischen der Haftung im Verhältnis zwischen Auftraggeber und Rechteinhaber auf der einen Seite und der Haftung im Verhältnis zwischen Auftragnehmer und Auftraggeber.

Beispiel: Im Rahmen einer Beauftragung erstellt der Beauftragte mithilfe einer KI ein Bild, das nicht nur den Stil des Künstlers X verwendet, sondern urheberrechtlich geschützte Elemente aus dessen Kunstwerken übernimmt. Weder der Beauftragte noch der Auftraggeber sind sich der Urheberrechtsverletzung bewusst. Der Auftragnehmer verwendet das KI-generierte Bild auf seiner Internetseite. Auf diese Nutzung wird der Künstler später aufmerksam.

Haftung des Auftraggebers gegenüber dem Rechteinhaber: Der Auftraggeber haftet gegenüber dem Rechteinhaber unmittelbar als Täter einer Urheberrechtsverletzung auf Unterlassung, Beseitigung, wohl auch Schadensersatz sowie Erstattung von Rechtsverfolgungskosten wie Abmahnkosten.

Haftung des Auftragnehmers gegenüber dem Auftraggeber: Der Beauftragung liegt in der Regel ein Werk- oder Dienstvertrag zugrunde. Aus dem Vertrag ergibt sich, unter welchen Umständen und in welchem Umfang der Beauftragte haftet. Dabei spielen neben der geschuldeten Leistung ggf. auch Haftungsklauseln eine Rolle.

  • Gewährleistungsansprüche des Auftraggebers: Liegt der Beauftragung ein Werkvertrag nach § 631 BGB zugrunde, schuldet der Werkunternehmer die Herstellung des versprochenen Werkes. Nach § 633 Abs. 1 BGB hat der Werkunternehmer dem Besteller das Werk frei von Sach- und Rechtsmängeln zu verschaffen. Das Werk ist frei von Rechtsmängeln, wenn Dritte in Bezug auf das Werk keine oder nur die im Vertrag übernommenen Rechte gegen den Besteller geltend machen können (§ 633 Abs. 3 BGB). Verletzt das KI-generierte Bild des Beauftragten Urheberrechte, ist es nicht frei von Rechtsmängeln und daher mangelhaft. Bei einem mangelhaften Werk stehen dem Besteller die Gewährleistungsrechte aus §§ 634 ff. BGB zu. Der Besteller kann vom Werkunternehmer insbesondere Nacherfüllung gemäß §§ 634 Nr. 1, 635 BGB verlangen. Das heißt, der Beauftragte muss sich entweder die Verwertungsrechte vom Urheber einräumen lassen oder ein neues Bild erstellen, das keine urheberrechtlich geschützten Elemente enthält. Der Beauftragte haftet dem Auftraggeber also zunächst auf Herstellung eines (rechts-)mangelfreien Werks.
  • Regressansprüche des Auftraggebers: Darüber hinaus kann der Auftraggeber den Auftragnehmer auch in Regress nehmen (vgl. LG Bochum, Urteil vom 16.8.2016, Az. 9 S 17/16). Führt der Rechtsmangel zu einer Haftung des Auftraggebers (siehe oben), kann er sich beim Auftragnehmer in rechtlich angemessener Höhe schadlos halten. Der Schadensersatzanspruch des Auftraggebers umfasst dabei grundsätzlich alle an den Rechteinhaber gezahlten Beträge sowie die eigenen Anwaltskosten. Eine Regresspflicht des Beauftragten besteht jedoch nur dann, wenn er den Rechtsmangel auch zu vertreten hat. Das Vertretenmüssen wird gemäß § 280 Abs. 1 Satz 2 BGB vermutet. Eine Exkulpation wird dem Beauftragten in der Regel nicht gelingen, da im Urheberrecht hohe Sorgfaltsanforderungen gelten. Der Beauftragte kann sich daher nicht mit der Behauptung verteidigen, dass er die Urheberrechtslage nicht kannte oder dass das Bild von der KI generiert wurde. Um eine Schadensersatzpflicht auszuschließen, muss der Beauftragte das KI-generierte Bild vor der Weitergabe an den Auftraggeber auf seine Rechtskonformität überprüfen.

nach oben

22. Besteht eine Kennzeichnungspflicht für KI-generierte Erzeugnisse?

Für einen Dritten ist es (häufig) nicht erkennbar, ob und in welchem Umfang eine KI eingesetzt wurde. Trotzdem besteht nach aktuellen Rechtslage nur in wenigen Fällen eine Kennzeichnungspflicht für KI-generierte Erzeugnisse.

Nach dem Medienstaatsvertrag sind beispielsweise die Anbieter von Telemedien in sozialen Netzwerken verpflichtet, bei mittels eines Computerprogramms automatisiert erstellten Inhalten oder Mitteilungen den Umstand der Automatisierung kenntlich zu machen (§ 18 Abs. 3 MStV).

Eine Kennzeichnungspflicht könnte sich zudem aus dem Wettbewerbsrecht ergeben. Bei KI-generierten Bildern oder Gemälden könnte zum Beispiel eine Hinweispflicht dergestalt notwendig sein, dass es sich bei dem Erzeugnis um „künstliche Kunst“ handelt, die als solche gekennzeichnet und nicht als Original verkauft werden darf, um nicht als irreführend im Sinne von § 5 Abs. 2 Nr. 1 UWG eingestuft zu werden (Ory/Sorge: Schöpfung durch Künstliche Intelligenz?, NJW 2019, 710, 713; vgl. Ohly/Sosnitza/Sosnitza, 8. Auflage 2023, UWG § 5 Rn. 281).

Die Nutzungsbedingungen der KI-Anbieter statuieren in der Regel keine Kennzeichnungspflicht. In seiner Content Policy empfiehlt OpenAI den Nutzern von ChatGPT und vor allem Dall-E 2 lediglich, die KI-Nutzung offenzulegen und Dritte nicht über den Einsatz der KI zu täuschen. Dall-E 2 markiert darüber hinaus zwar alle KI-generierten Bilder mit einer Signatur am unteren rechten Bildrand. Gleichzeitig erlaubt OpenAI es dem Nutzer aber auch, die Dall-E-Signatur zu entfernen.

“Don’t mislead your audience about AI involvement. When sharing your work, we encourage you to proactively disclose AI involvement in your work. You may remove the DALL·E signature if you wish, but you may not mislead others about the nature of the work. For example, you may not tell people that the work was entirely human generated or that the work is an unaltered photograph of a real event.“ (Stand 19.09.2022; zuletzt aufgerufen am 15.03.2023).

nach oben

23. Darf ich KI-generierte Erzeugnisse kommerziell nutzen?

Ob der Nutzer die von der KI generierten Erzeugnisse kommerziell nutzen darf, hängt vom verwendeten KI-System und den jeweiligen Nutzungsbedingung ab.

In den Terms of use von OpenAI steht hierzu unter Ziffer 3. Content:

“As between the parties and to the extent permitted by applicable law, you own all Input. Subject to your compliance with these Terms, OpenAI hereby assigns to you all its right, title and interest in and to Output. This means you can use Content for any purpose, including commercial purposes such as sale or publication, if you comply with these Terms.” (Stand 14.03.2023; zuletzt aufgerufen am 15.03.2023).

Von ChatGPT und Dall-E 2 generierte Erzeugnisse dürfen demnach für kommerzielle Zwecke genutzt werden.

Midjourney differenziert in seinen Terms of service hingegen zwischen zahlenden und nicht zahlenden Nutzern.

“If You are not a Paid Member, You don’t own the Assets You create. Instead, Midjourney grants You a license to the Assets under the Creative Commons Noncommercial 4.0 Attribution International License (the “Asset License”).” (Stand: 10.02.2023; zuletzt aufgerufen am 15.03.2023).

Demnach ist nur zahlenden Nutzern die kommerzielle Nutzung gestattet.

nach oben

24. Wie wirken sich vertragliche Nutzungsbeschränkungen aus?

Vertragliche Beschränkungen sind zwar rechtlich verbindlich, sie gelten aber nur gegenüber demjenigen, der den Vertrag geschlossen hat.

Verträge wirken nur inter partes (lat. „zwischen den Parteien“). Absolute Schutzrechte wie das Urheberrecht oder Leistungsschutzrecht gelten hingegen gegenüber jedermann. Sie wirken inter omnes (lat. „unter allen“) bzw. erga omnes (lat. „gegenüber allen“).

Beispiel: Nach den Nutzungsbedingungen von Midjourney ist die kommerzielle Nutzung von KI-generierten Bilder zahlenden Nutzern vorbehalten. Midjourney räumt den nicht zahlende Nutzer lediglich eine eingeschränkte Creative Commons Lizenz ein.

Der nicht zahlende Nutzer darf seine generierten Bilder nicht kommerziell nutzen. Tut er es doch, verstößt er gegen seine vertragliche Verpflichtung. Was überraschen mag: Dritte dürfen die KI-generierten Erzeugnisse ohne vertragliche Einschränkungen frei verwenden, insbesondere zu kommerziellen Zwecken. Denn die vertragliche Verpflichtung besteht gerade nur zwischen dem Nutzer und Midjourney, sie wirkt dagegen nicht gegenüber Dritten. Nur die am Vertrag beteiligten Parteien werden berechtigt und verpflichtet (sog. Relativität der Schuldverhältnisse). Einschränkungen für Dritte können sich nur aus absoluten Schutzrechten ergeben. Wenn aber an den KI-generierten Erzeugnissen keine Urheber- oder Leistungsschutzrechte bestehen, was regelmäßig der Fall sein dürfte, sind sie gemeinfrei und dürfen vollkommen frei von Dritten verwendet werden.

nach oben

C. Persönlichkeitsrecht und Datenschutz

Die Nutzung von künstlichen Intelligenzen berührt in vielerlei Hinsicht auch Persönlichkeitsrechte (zum Beispiel von Prominenten) als auch datenschutzrechtliche Fragen.

25. Ist die Erstellung von Deepfakes erlaubt?

Diese Frage lässt sich nicht pauschal beantworten. Es dürfte von den konkreten Umständen des Einzelfalls abhängen, ob die Erstellung eines Deepfakes zulässig ist oder nicht. Hiervon losgelöst ist die Frage, ob Deepfakes veröffentlicht werden dürfen.

Der Begriff „Deepfake“ ist bislang nicht einheitlich definiert. Der AI-Act-Entwurf vom 21.04.2021 definiert Deepfakes in Art. 52 Abs. 3 als mithilfe eines KI-Systems erzeugte oder manipulierte Bild-, Ton- oder Videoinhalte, die wirklichen Personen, Gegenständen, Orten oder anderen Einrichtungen oder Ereignissen merklich ähneln und einer Person fälschlicherweise als echt oder wahrhaftig erscheinen würden.

Da KI-Systeme Daten verarbeiten, ist stets zu klären, ob und unter welchen Voraussetzungen diese Datenverarbeitung datenschutzrechtlich zulässig ist. Die Zulässigkeit einer Datenverarbeitung richtet sich nach den geltenden Datenschutzvorschriften, insbesondere nach der Datenschutzgrundverordnung (DSGVO) sowie dem Bundesdatenschutzgesetz (BDSG).

  • Der sachliche Anwendungsbereich der DSGVO ergibt sich aus Art. 2 Abs. 1 DSGVO. Hiernach gilt die DSGVO für die ganz oder teilweise automatisierte Verarbeitung personenbezogener Daten sowie für die nichtautomatisierte Verarbeitung personenbezogener Daten, die in einem Dateisystem gespeichert sind oder gespeichert werden sollen. In Art. 2 Abs. 2 DSGVO sind Ausnahmen vom sachlichen Anwendungsbereich normiert. Hiernach unterfallen insbesondere ausschließlich persönliche oder familiäre Tätigkeiten einer natürlichen Person (Art. 2 Abs. 2 lit. c) DSGVO) nicht dem Anwendungsbereich der DSGVO (sog. Haushaltsprivileg).

Hinweis: Ein häufiger Irrtum ist die Annahme, dass die DSGVO nur von Unternehmern, nicht aber von Privatpersonen zu beachten ist. Grundsätzlich unterliegen auch Privatpersonen dem Anwendungsbereich der DSGVO. Ausgenommen ist lediglich eine ausschließlich persönliche oder familiäre Tätigkeit einer natürlichen Person. Hierunter fällt etwa die Anfertigung einer Fotografie auf einer Familienfeier. Der persönlich-familiäre Bereich wird jedoch bereits verlassen, wenn die angefertigte Fotografie auf einer öffentlichen Fanpage bei Facebook veröffentlicht wird (vgl. LG Frankfurt, Urteil vom 13.09.2018, Az. 2-03 O 283/18).

  • Personenbezogene Daten sind gemäß Art. 4 Nr. 1 DSGVO alle Informationen, die sich auf eine identifizierte oder identifizierbare natürliche Person beziehen. Der Begriff ist weit zu verstehen und erfasst alle Informationen, die irgendwie einem bestimmten Menschen zugeordnet werden können, ggf. auch erst mithilfe Dritter. Bilder von Personen sind personenbezogene Daten, sofern die betroffene Person erkennbar ist.
  • Als Verarbeitung im Sinne von Art. 4 Nr. 2 DSGVO gilt praktisch jede Tätigkeit in Zusammenhang mit diesen Daten. Insbesondere die Erhebung, Speicherung, Verwendung oder Übermittlung. Daher ist bereits der Upload eines Bildes einer anderen Person bei einem KI-System als Verarbeitung personenbezogener Daten zu qualifizieren.
  • Der datenschutzrechtlich Verantwortliche muss für die Einhaltung der Regeln der DSGVO sorgen. Nach Art. 4 Nr. 7 Hs. 1 DSGVO ist Verantwortlicher, wer allein oder gemeinsam mit anderen über die Zwecke und Mittel der Verarbeitung von personenbezogenen Daten entscheidet. Beim Einsatz von KI-Systemen ist die Zuweisung der Verantwortlichkeit nicht immer einfach. Als Verantwortlicher kommt sowohl der KI-Nutzer, als auch der KI-Anbieter in Betracht (vgl. Conraths: Künstliche Intelligenz in der Medienproduktion, MMR 2021, 457, 459). Der KI-Anbieter könnte jedoch auch Auftragsverarbeiter im Sinne von Art. 4 Nr. 8 DSGVO sein, sofern er die personenbezogenen Daten lediglich im Auftrag des Verantwortlichen verarbeitet. Der KI-Nutzer ist in jedem Fall Verantwortlicher, da er den Zweck der Verarbeitung, die Manipulierung bzw. Erzeugung der Bild-, Ton- oder Videoinhalte, bestimmt.

Verbot mit Erlaubnisvorbehalt: Nach der DSGVO ist eine Verarbeitung von personenbezogenen Daten grundsätzlich verboten, sofern sich der Verantwortliche nicht auf einen Erlaubnistatbestand nach Art. 6 Abs. 1 lit. a) – f) DSGVO berufen kann. Als Erlaubnistatbestand kommt insbesondere die Einwilligung des Betroffenen nach Art. 6 Abs. 1 lit. a) DSGVO in Betracht. Eine Einwilligung muss freiwillig, informiert, für eine konkrete Verarbeitung und einen konkreten Zweck sowie unmissverständlich abgegeben werden (vgl. Art. 4 Nr. 11 DSGVO).

Sofern der Deepfake hingegen von einer natürlichen Person, auf dem eigenen Computer mithilfe eines KI-Systems, das keine Internetverbindung hat, erstellt wird, dürfte wohl das Haushaltsprivileg aus Art. 2 Abs. 2 lit. c) DSGVO eingreifen. Eine derartige Erstellung oder Manipulation von Bild-, Ton- oder Videoinhalten wäre nicht vom Anwendungsbereich der DSGVO erfasst, da die Tätigkeit ausschließlich im persönlichen Bereich erfolgt. Sobald der Deepfake jedoch einem unbeschränkten Personenkreis zugänglich gemacht wird, etwa durch Veröffentlichung im Internet, handelt es sich nicht mehr um eine ausschließlich persönliche oder familiäre Tätigkeit.

Die eigenmächtige Herstellung von Bildnissen oder Filmaufnahmen kann aber auch das Recht am eigenen Bild des Abgebildeten verletzen (vgl. BGH, Urteil vom 25.04.1995, Az. VI ZR 272/94). Das Recht am eigenen Bild ist eine besondere Ausprägung des allgemeinen Persönlichkeitsrechts aus Art. 2 Abs. 1 i.V.m. Art. 1 Abs. 1 Grundgesetz (GG) und besagt, dass grundsätzlich jeder Mensch selbst darüber bestimmen darf, ob und in welchem Zusammenhang Bildnisse von ihm erstellt und veröffentlicht werden.

Ist die DSGVO im Hinblick auf die Herstellung des Deepfakes nicht einschlägig (etwa weil das Haushaltsprivileg greift), müsste deren Rechtmäßigkeit am allgemeinen Persönlichkeitsrecht zu messen sein. Ob und in welchem Umfang bereits die Anfertigung von Deepfakes rechtswidrig und unzulässig ist oder aber vom Betroffenen hinzunehmen ist, kann nur unter Würdigung aller Umstände des Einzelfalls und durch Vornahme einer die (verfassungs-)rechtlich geschützten Positionen der Beteiligten berücksichtigenden Güter- und Interessenabwägung ermittelt werden.

Bei KI-Systemen wie ChatGPT, Dall-E-2 oder Midjourney dürfte das Haushaltsprivileg aus Art. 2 Abs. 2 lit. c) DSGVO nicht eingreifen, da diese KI-Systeme eine Internetverbindung benötigen und die im Prompt bzw. als Prompt verwendeten Daten an die KI-Anbieter übermittelt werden. Die Datenverarbeitung findet daher nicht ausschließlich im persönlichen oder familiären Bereich statt.

nach oben

26. Dürfen Deepfakes (im Internet) veröffentlicht werden?

Nein, grundsätzlich dürfen Deepfakes nicht (im Internet) veröffentlicht werden.

Bei Bild- und Videoinhalten ist insbesondere das Recht am eigenen Bild als spezielle Ausprägung des allgemeinen Persönlichkeitsrechts zu beachten. Denn das allgemeine Persönlichkeitsrecht schützt auch vor der Verbreitung eines technisch manipulierten Bildes, das den Anschein erweckt, ein authentisches Abbild einer Person zu sein (vgl. BVerfG, Beschluss vom 14.02.2005, Az. 1 BvR 240/04). Die Frage, ob sich das Recht am eigenen Bild aus der Datenschutzgrundverordnung oder dem Kunsturhebergesetz ergibt (§§ 22, 23 KUG), ist dabei weitestgehend akademischer Natur. Wir folgen hier dem abgestuften Schutzkonzept der Rechtsprechung zum Kunsturhebergesetz.

Danach darf das Bildnis einer Person grundsätzlich nur mit Einwilligung des Abgebildeten verbreitet oder öffentlich zur Schau gestellt werden (§ 22 Satz 1 KUG). Fehlt eine solche Einwilligung, ist die Verbreitung oder Zurschaustellung des Bildnisses nur zulässig, wenn sie einem der Ausnahmetatbestände des § 23 Abs. 1 KUG zugeordnet werden kann und berechtigte Interessen des Abgebildeten im Sinne von § 23 Abs. 2 KUG nicht verletzt werden. Die Darlegungs- und Beweislast für die Erteilung der Einwilligung oder das Vorliegen der Voraussetzungen der Ausnahmen in § 23 Abs. 1 KUG liegt bei demjenigen, der das Bildnis veröffentlicht bzw. verbreitet.

  • Ein Bildnis im Sinne von § 22 Satz 1 KUG ist die Darstellung einer Person, die deren äußere Erscheinung in einer für Dritte erkennbaren Weise wiedergibt (BGH, Urteil vom 01.12.1999, Az. I ZR 226/97). Da ein Deepfake gerade die erkennbare Wiedergabe des äußeren Erscheinungsbildes einer Person bezweckt (vgl. Definition gem. Art. 52 Abs. 3 AI-Act-Entwurf), dürfte es sich bei einem Deepfake um ein Bildnis im Sinne von § 22 Satz 1 KUG handeln.
  • Der Begriff der Zurschaustellung umfasst jede Art der Sichtbarmachung und damit auch die Wiedergabe im Internet. Das Einstellen eines Bildnisses in ein soziales Netzwerk ist als Zurschaustellung zu qualifizieren (BeckOK UrhR/Engels, 37. Edition 01.02.2023, KunstUrhG § 22 Rn. 54.2). Ob diese Zurschaustellung öffentlich erfolgt, hängt davon ab, für welchen Personenkreis das Bildnis sichtbar ist. Denn eine Zurschaustellung ist öffentlich, wenn sie gegenüber einer Mehrzahl von Personen erfolgt, es sei denn, dass der Kreis der Personen bestimmt abgegrenzt ist und die Personen durch gegenseitige Beziehungen verbunden sind (BeckOK UrhR/Engels, 37. Edition 01.02.2023, KunstUrhG § 22 Rn. 54). Das Posting eines Deepfakes in eine öffentliche Gruppe oder ein Forum dürfte eine öffentliche Zurschaustellung sein.
  • Verbreiten bedeutet jede Art der Weitergabe körperlicher Exemplare an Dritte, wobei auch die Weitergabe digitaler Kopien etwa per E-Mail erfasst wird (vgl. BGH, Urteil vom 27.02.2018, Az. VI ZR 86/16). Auf eine Verbreitung in die Öffentlichkeit kommt es nicht an, denn schon die Verbreitung an Einzelpersonen führt zu einem der Kontrolle und dem Selbstbestimmungsrecht des Abgebildeten vorbehaltenen Übergang des Bildnisses in die Verfügungsgewalt eines anderen (BGH, Urteil vom 27.02.2018, Az. VI ZR 86/16). Dementsprechend dürfte eine Verbreitung bereits dann vorliegen, wenn der Deepfake über einen Messenger versendet wird.
  • Eine Einwilligung zur Verbreitung oder öffentlichen Zurschaustellung dürfte bei Deepfakes nur in den seltensten Fällen vorliegen. Dabei ist insbesondere die Zweckübertragungslehre zu beachten, so dass die Einwilligung in die Erstellung der Originalaufnahme oder des Deepfakes nicht ohne weiteres auch die Verbreitung bzw. Zurschaustellung des Deepfakes umfasst (Hartmann: Der persönlichkeitsrechtliche Schutz vor Deepfakes, K&R 2020, 350, 354). Zu beachten ist weiterhin, dass eine Einwilligung im Sinne des KUG – anders als im Anwendungsbereich der DSGVO – grundsätzlich nicht frei widerruflich ist.
  • Ob ein Ausnahmetatbestand des § 23 Abs. 1 KUG einschlägig ist und berechtigte Interessen des Abgebildeten im Sinne von § 23 Abs. 2 KUG nicht verletzt werden, ist vom konkreten Einzelfall abhängig.

Sofern nicht lediglich unbedeutende Veränderungen vorgenommen werden, berühren Manipulationen stets das Persönlichkeitsrecht des Betroffenen, denn die in der bildhaften Darstellung mitschwingenden Tatsachenbehauptungen über die Realität des Abgebildeten werden unzutreffend wiedergegeben (BVerfG, Beschluss vom 14.02.2005, Az. 1 BvR 240/04). Dies gilt unabhängig davon, ob sie in guter oder in verletzender Absicht vorgenommen werden oder ob Betrachter die Veränderung als vorteilhaft oder nachteilig für den Abgebildeten bewerten (BVerfG, Beschluss vom 14.02.2005, Az. 1 BvR 240/04). Grundsätzlich wird an Deepfakes kein schutzwürdiges Interesse bestehen, das einen Eingriff in das allgemeine Persönlichkeitsrecht des Abgebildeten rechtfertigen könnte (Hartmann: Der persönlichkeitsrechtliche Schutz vor Deepfakes, K&R 2020, 350, 354).

nach oben

27. Darf man den Namen oder sonstige Daten anderer Personen als Prompt verwenden?

Diese Frage lässt sich nicht pauschal beantworten.

Im Ausgangspunkt sollte ein Prompt keine personenbezogenen Daten enthalten, da deren Verarbeitung grundsätzlich verboten ist, sofern kein Erlaubnistatbestand nach Art. 6 Abs. 1 lit. a) – f) DSGVO einschlägig ist. Zu den personenbezogenen Daten zählen insbesondere:

  • Vorname und/oder Nachname, sofern die Person hierüber identifiziert werden kann
  • Anschrift, sofern eine Bezugnahme auf die Person möglich ist (etwa durch namentliche Nennung)
  • Fotos, sofern die Person erkennbar ist
  • Telefonnummer
  • E-Mail-Adresse
  • Zahlungsdaten
  • Geburtsdatum

Da KI-Systeme nicht explizit programmiert, sondern durch Daten trainiert werden, ist ihre Arbeitsweise weitgehend unbekannt und für den Menschen nicht mehr ohne weiteres nachvollziehbar. Dies betrifft insbesondere die Art und Weise, wie die eingegebenen Daten verarbeitet werden. Man spricht in diesem Zusammenhang auch von einer „Blackbox“. Es lässt sich daher nicht ausschließen, dass die eingegebenen Daten der KI-Nutzer gespeichert und selbst Teil des KI-Systems werden. Vor diesem Hintergrund sollten keine sensiblen Informationen in ein KI-System eingegeben werden. ChatGPT selbst weist bereits bei der Anmeldung daraufhin, dass die Dialoge ggf. ausgewertet werden, um das KI-System zu verbessern. In diesem Zusammenhang wird auch ausdrücklich davor gewarnt, sensible Daten preiszugeben.

In Italien wurde der Betrieb von ChatGPT bereits wegen des Verdachts von Verstößen gegen den Daten- und Jugendschutz eingestellt. Die Italienische Datenschutzbehörde (GPDP) veröffentlichte am 31. März 2023 eine Pressemitteilung, nach der es OpenAI vorläufig und mit sofortiger Wirkung verboten worden sei, italienische Nutzerdaten zu verarbeiten. Die GPDP bemängelte dabei vor allem, dass es für die Erhebung und Verarbeitung personenbezogener Daten, mit denen der Algorithmus trainiert werde, an einer Rechtsgrundlage fehle. Anlass für das Einschreiten der Datenschutzbehörde war ein Datenleak am 20. März 2023, durch den einige KI-Nutzer sowohl fremde Chatverläufe als auch Zahlungsinformationen andere KI-Nutzer sehen konnten.

nach oben

28. Ist der Klang der menschlichen Stimme geschützt?

Ein „Recht an der eigenen Stimme“, das den Klang der menschlichen Stimme schützt, ist nach geltendem Urheberrecht nicht anerkannt. Gleichwohl dürfte sich ein entsprechender Schutz aus dem allgemeinen Persönlichkeitsrecht ergeben.

Neben Bild- oder Videoinhalten lassen sich mithilfe von KI-Systemen auch Toninhalte manipulieren bzw. generieren. KI-Systeme wie Synthesia oder D-ID erzeugen Toninhalte, die einer menschlichen Stimme in nichts nachstehen. Die Unterscheidung, ob eine Stimme künstlich erzeugt oder von einem echten Menschen stammt, fällt zunehmend schwerer. Der technische Fortschritt der Sprachsynthese birgt das Risiko, dass Personen Äußerungen untergeschoben werden, die sie nicht getätigt haben.

In der Rechtsprechung des Bundesverfassungsgerichts ist anerkannt, dass das allgemeine Persönlichkeitsrecht neben dem Recht am eigenen Bild auch das Recht am gesprochenen Wort schützt (BVerfG, Beschluss vom 09.10.2002, Az. 1 BvR 1611/96). Letzteres gewährleistet die Selbstbestimmung über die eigene Darstellung der Person in der Kommunikation mit anderen. Das Recht am gesprochenen Wort sichert die Befugnis, selbst zu bestimmen, ob der Kommunikationsinhalt einzig dem Gesprächspartner, einem bestimmten Personenkreis oder der Öffentlichkeit zugänglich sein soll (BGH, Urteil vom 18.02.2003, Az. XI ZR 165/02).

Die Rechtsfigur des allgemeinen Persönlichkeitsrechts soll Lücken im Persönlichkeitsschutz schließen. Diese Notwendigkeit besteht gerade auch im Blick auf moderne Entwicklungen und die mit ihnen verbundenen neuen Gefährdungen für den Schutz der menschlichen Persönlichkeit (BVerfG, Beschluss vom 03.06.1980, Az. 1 BvR 185/77). Zur menschlichen Persönlichkeit zählt auch die Stimme. Sie ist durch charakteristische Elemente wie Klangfarbe, Stimmlage, Akzent oder Sprechweise gekennzeichnet und hat einen besonders hohen Wiedererkennungswert (Salagean: Sampling im deutschen, schweizerischen und US-amerikanischen Urheberrecht, S. 197). Die Stimme wirkt insoweit wie ein akustischer Fingerabdruck. Die menschliche Stimme dürfte daher unter das allgemeine Persönlichkeitsrecht fallen, das ein „sonstiges Recht“ im Sinne des § 823 Abs. 1 BGB darstellt (Salagean: Sampling im deutschen, schweizerischen und US-amerikanischen Urheberrecht, S. 197). Hat ein Durchschnittshörer den Eindruck, eine Äußerung stamme von einer bestimmten Person, liegt eine Identitätstäuschung und damit ein rechtswidriger Eingriff in das allgemeine Persönlichkeitsrecht vor (Salagean: Sampling im deutschen, schweizerischen und US-amerikanischen Urheberrecht, S. 197).

nach oben

Hinweis: Dieser Beitrag wurde unter Mitwirkung unseres Referendars Thorsten Simons erstellt.

Autor: Niklas Plutte

Niklas Plutte ist Rechtsanwalt und Fachanwalt für gewerblichen Rechtsschutz mit Sitz in Mainz. Folgen Sie ihm bei Twitter, Facebook und LinkedIn!

Schreibe einen Kommentar

Pflichtfelder sind mit * markiert.


Kanzlei Plutte Menü
Kostenlose Ersteinschätzung

Klicken Sie auf den unteren Button, um den Inhalt von VG Wort zu laden.

Inhalt laden