LG Frankfurt: Falschaussagen in KI Übersichten von Google

Falschaussage in KI-Übersicht zu medizinischem Thema

Ein Ärzteverbund ging gegen Google vor, weil bei Suchen zum Thema „Penisverlängerung“ in der vorangestellten „KI-Übersicht“ eine längere Aussage erschien, die medizinisch falsch ist. Insbesondere ging es im Prozess um die folgende Darstellung:

„Bei einer Penisverlängerung wird der im Körper verborgene Teil des Penis durchtrennt und nach außen verlagert.“

Der Ärzteverbund sah dadurch sein Geschäft beeinträchtigt, da es zu weniger Klickzahlen komme. Nutzer würden wegen der falschen KI-Übersicht seltener auf externe Treffer klicken (sog. „Zero-Click“-Effekt).

Daraufhin beantragte der Ärzteverbund unter Berufung auf Kartellrecht und den Digital Markets Act (DMA) den Erlass einer einstweiligen Verfügung mit dem Ziel, es Google zu untersagen, die konkrete KI-generierte Aussage in der KI-Übersicht anzuzeigen.

LG Frankfurt: Vorgehen gegen falsche KI-Übersicht grundsätzlich möglich

Das Landgericht Frankfurt wies den Verfügungsantrag zwar zurück. Der Ärzteverbund habe hinsichtlich der konkreten KI-Übersicht keinen Unterlassungsanspruch gegen Google (§ 33 GWB). Hier lohnt es sich aber, genauer hinzusehen.

Zunächst einmal bejahte das Gericht die internationale Zuständigkeit, auch deutsches Recht sei anwendbar (Art. 7 Nr. 2 Brüssel-Ia-VO, Art. 6 Abs. 3 lit. a Rom-II-VO). Die nationale Zuständigkeit ergab sich aus §§ 87, 89 Abs. 1 GWB i.V.m. § 42 Nr. 1 der Hessischen Justizzuständigkeitsverordnung (JuZuV).

Auch dürfe sich der Ärzteverbund dem Grunde nach auf das kartellrechtliche Missbrauchsverbot des § 19 GWB berufen, da Google im Bereich Suchmaschinen eine marktbeherrschende Stellung hat.

Hintergrund: Ende 2021 wurde vom Bundeskartellamt festgestellt, dass der Alphabet Inc. einschließlich der mit ihr gemäß § 36 Abs. 2 GWB verbundenen Unternehmen (nachfolgend „Google“) eine überragende marktübergreifende Bedeutung für den Wettbewerb zukommt. Die Feststellung ist bis zum 04.01.2027 befristet.

Das gelte erst recht, soweit es sich um Äußerungen handelt, die medizinische Angaben enthalten, da hierdurch Gemeinwohlbelange beeinträchtigt werden können. Denn jedenfalls bei gesundheitsbezogener Werbung sind besonders strenge Anforderungen an die Richtigkeit, Eindeutigkeit und Klarheit der Werbeaussage zu stellen, da mit irreführenden gesundheitsbezogenen Angaben erhebliche Gefahren für das hohe Schutzgut des Einzelnen sowie der Bevölkerung verbunden sein können (BGH, GRUR 2022, 399 Rn. 62 – Werbung für Fernbehandlung, m.w.N.). Diese Grundsätze bzw. deren Zielsetzung können insoweit jedenfalls ansatzweise herangezogen werden, auch wenn die Antragsgegnerin nicht konkret gesundheitsbezogene Werbung macht.

Der Umstand, dass alle Konkurrenten des Ärzteverbunds von dieser allgemeinen Maßnahme betroffen waren, sei kartellrechtlich egal, da auch solche Auswirkungen von § 19 GWB umfasst sind (vgl. Bechtold/Bosch, GWB, 11. Aufl. 2025, § 19 Rn. 8 ff.).

LG Frankfurt: Behinderung ja, Unbilligkeit hier nein

Der kartellrechtliche Unterlassungsanspruch wurde vom Gericht nur deshalb verneint, weil die Behinderung nicht als unbillig eingestuft wurde (§ 33, 19 Abs. 2 Nr. 1 GWB).

Google hatte hier Glück. Denn die Kammer des Landgerichts kam zu dem Ergebnis, dass die Falschaussage für die angesprochenen Adressaten im Kontext nicht als falsch erkennbar gewesen sei. Vereinfacht gesagt: Obwohl eine einzelne Aussage in der KI-Übersicht objektiv falsch war, konnte dieser Fehler durch den Gesamtkontext „geheilt“ werden.

Sind KI-Übersichten bloß Informationen von Dritten?

Das Gericht musste vor diesem Hintergrund nicht mehr entscheiden, ob Google sich damit verteidigen kann, dass es sich bei der von ihr angezeigten „Übersicht mit KI“ nur um Informationen Dritter handelt oder ob die „Übersicht mit KI“ nicht vielmehr als eigene Äußerung bzw. eigene Information anzusehen ist, weil sie unter Verwendung von ihr zuzurechnenden Techniken aus den Quellen Dritter ein selbst generiertes „Konglomerat“ vergleichbar einer Zusammenfassung (vgl. insoweit BGH, GRUR 2013, 751 – Auto-Complete; BGH, GRUR 2011, 134 – Perlentaucher) erstellt und dem Nutzer anzeigt.

KI-Übersicht Teil des Suchergebnisses, kein „Produkt“ nach Art. 6 Abs. 5 DMA

Einen Unterlassungsanspruch nach dem Digital Markets Act lehnte das Landgericht ebenfalls ab. Es ordnete die KI-Übersicht als Teil des Suchergebnisses im Sinne von Art. 2 Nr. 23 DMA ein. Sie sei kein eigenes „Produkt“ oder eigener „Dienst“ von Google im Sinne von Art. 6 Abs. 5 DMA (Anmerkung: Das kann man mit guten Gründen auch anders sehen). Eine Selbstbevorzugung eigener Produkte oder Dienste ließ sich nach dieser Einordnung nicht feststellen. Damit trug der DMA den Eilantrag nicht.

Praktische Konsequenzen für Unternehmen mit Traffic-Abhängigkeit