Wer einem KI-Chatbot eine persönliche Frage stellt, gibt dabei möglicherweise sensible Informationen preis. Das LG Köln hat die Nutzung solcher Eingaben für Werbezwecke durch Snapchats Chatbot „My AI“ untersagt (LG Köln, Urteil vom 17.09.2026, Az. 33 O 120/24).
Worum ging es bei „My AI“?
Die Snapchat-App bietet Nutzern ab 13 Jahren den generativen KI-Chatbot „My AI“ an. Vor dem ersten Chat erschien ein Hinweis: Die von Nutzern angegebenen Informationen könnten unter anderem zur Personalisierung von Anzeigen verwendet werden. Wer den Chatbot nutzen wollte, musste diesen Hinweis mit „Okay“ bestätigen.
Der Verbraucherzentrale Bundesverband (vzbv) hielt die Verarbeitung der Chat-Eingaben für rechtswidrig und verklagte die für deutsche Nutzer zuständige Snap Group Limited. Zusätzlich griff der Verband drei bereits vorausgewählte Optionen für die Verwendung personenbezogener Daten zu Werbezwecken an. In den Konten Minderjähriger waren außerdem „Alkohol“ und „Glücksspiel“ als Anzeigenthemen voreingestellt.
Das LG Köln gab der Klage in allen Punkten statt.
Sensible Angaben im KI-Chat: Art. 9 DSGVO greift
Nach Auffassung des Gerichts war die Eingabe sensibler Daten bei „My AI“ nicht nur theoretisch möglich. Nutzer wurden zu persönlichen Fragen ermuntert. Hinzu kam, dass die App auch Minderjährigen offenstand. Ein Hinweis auf einer Unterseite, möglichst keine sensiblen Informationen einzugeben, änderte daran nichts.
Snap argumentierte, solche Angaben würden ihm von den Nutzern allenfalls „aufgedrängt“ und nicht gezielt abgefragt. Diesen Einwand ließ das Gericht jedoch nicht gelten: Für die Anwendung von Art. 9 DSGVO komme es nicht darauf an, ob der Anbieter sensible Informationen bewusst erlangen wolle.
Entscheidend war zudem, was mit den Eingaben geschah. Nach den Nutzungsbedingungen und Datenschutzhinweisen konnten Informationen zur Personalisierung von Werbung verwendet werden. Snap räumte auch ein, dass eingegebene Textanfragen bei der Entscheidung über Anzeigen im Chat berücksichtigt würden. Der Einwand, die Werbung sei lediglich kontextbezogen, half Snap deshalb nicht.
Für die Verarbeitung besonderer Kategorien personenbezogener Daten verlangt Art. 9 DSGVO eine der dort genannten Ausnahmen. In Betracht kommt insbesondere die ausdrückliche Einwilligung der betroffenen Person. Eine solche hatte Snap nicht eingeholt. Eine andere Ausnahme sah das Gericht nicht. Die Bestätigung des allgemeinen Hinweises mit „OK“ sei keine wirksame Einwilligung. Ein berechtigtes Interesse nach Art. 6 Abs. 1 lit. f DSGVO könne die Verarbeitung sensibler Daten nicht rechtfertigen.
Voreingestellte Häkchen sind keine Einwilligung
In den Snapchat-Einstellungen waren drei Werbeoptionen bereits vorangehakt. Nutzer konnten die Häkchen zwar entfernen. Das genügte aber natürlich nicht. Eine Einwilligung setzt nach ständiger Rechtsprechung eine aktive Handlung voraus. Eine vorausgewählte Checkbox stellt keine Einwilligung des Nutzers dar.
Snap bezeichnete die Einstellungen als Möglichkeit, der Datenverarbeitung nach Art. 21 DSGVO zu widersprechen. Auch dem folgte das Gericht nicht. Ein Widerspruchsrecht setze eine zunächst rechtmäßige Verarbeitung voraus, was hier nicht der Fall war. Zudem fehlten die nötigen Informationen über Rechtsgrundlage und berechtigte Interessen zum Zeitpunkt der Datenerhebung.
Alkohol und Glücksspiel in Konten Minderjähriger
Bei minderjährigen Nutzern waren außerdem „Alkohol“ und „Glücksspiel“ als Anzeigenthemen vorausgewählt. Nutzer konnten diese Einstellungen deaktivieren, um weniger Anzeigen zu diesen Themen zu sehen.
Snap trug vor, Minderjährigen tatsächlich keine entsprechende Werbung auszuspielen. Ob das technisch zutraf, musste das Gericht nicht klären. Schon die Gestaltung der Einstellungen erweckte gegenüber minderjährigen Nutzern den Eindruck, Snap dürfe ihnen solche Werbung zeigen. Das begründete eine Erstbegehungsgefahr und damit einen Unterlassungsanspruch nach den Vorschriften zum Jugendmedienschutz und zur Glücksspielwerbung.
Was bedeutet das Urteil für Anbieter von KI-Chatbots?
Wer KI-Chats in Apps oder auf Websites einbindet, muss sehr genau prüfen, welche Eingaben verarbeitet werden und für welche Zwecke. Persönliche Gesprächsinhalte für Werbeprofile oder die Auswahl von Anzeigen zu verwenden, ist rechtlich kritisch. Dass Nutzer von sich aus sensible Informationen in den Chatbot eingeben, entbindet den Anbieter nach dem Urteil nicht von den Anforderungen des Art. 9 DSGVO.
Wir beraten Unternehmen und Anbieter von KI-Chatbots, wie man derartige Tools rechtskonform einsetzen kann. Nutzen Sie bei Fragen unsere kostenlose Ersteinschätzung.