
Unternehmen haften als Störer für vollautomatisiert per KI erzeugte Falschauskünfte, wenn solche Auskünfte fremde Rechte verletzten, hier das Unternehmenspersönlichkeitsrechts eines anderen Unternehmens (LG Kiel, Urteil vom 29.02.2024, Az. 6 O 151/23).
Dass immer mehr Firmen künstliche Intelligenz (KI) in ihre Prozesse einbauen oder sogar komplett durch KI ersetzen, ist kein Geheimnis. Unter anderem für die automatisierte Beantwortung von Standardanfragen bietet es sich an, die Bearbeitung vollständig auf KI-basierte Softwarelösungen zu verlagern. Doch was passiert, wenn KI-gestützte Auskünfte fehlerhaft sind und die Rechte von Unternehmen oder Personen verletzen?
Hierzu entschied das Landgericht Kiel, dass sich das die KI nutzende Unternehmen nicht hinter der künstlichen Intelligenz verstecken könne. Es hafte selbst für KI-generierte Fehlinformationen. Die Entscheidungsgrundsätze sind richtungsweisend zur Frage der Haftung für KI Output.
Der jeweilige Output mag vollautomatisiert generiert werden, also ohne jede menschliche Mitwirkung. Haftungsrechtlich kommt es darauf aber nicht an. Juristischer Anknüpfungspunkt der Haftung ist die vorgelagerte unternehmerische Entscheidung, eine Tätigkeit – hier eine Auskunft über Wirtschaftsdaten – allein durch KI zu erbringen bzw. diese auf KI auszulagern, typischerweise um so Kosten zu senken.
Dass es im vorliegenden Fall um einen Wirtschaftsinformationsdienst ging, dessen KI fälschlicherweise die Vermögenslosigkeit eines Unternehmens mitteilte, ist daher nicht mehr als ein zufälliges Beispiel. Die Falschauskunft verletzte das Unternehmenspersönlichkeitsrecht (§ 1004 BGB analog) des klagenden Unternehmens, was einen Unterlassungsanspruch gegen den Wirtschaftsinformationsdienst nach sich zog.
Haftung als Täter oder Störer?
Interessant ist, dass das Landgericht eine Haftung des verklagten Wirtschaftsinformationsdienstes als Täter ablehnte und sich zur Begründung u.a. darauf stützte, der Dienst habe unbestritten keine positive Kenntnis von der Unrichtigkeit der Meldung gehabt. Von der falschen Auskunft habe er erst erfahren, als sich das betroffene Unternehmen beschwerte (das hätte man unserer Auffassung nach auch anders sehen und aus der Entscheidung über den Einsatz von KI eine täterschaftliche Haftung des Wirtschaftsinformationsdienstes ableiten können).
Aus dem Urteil (mit Hervorhebungen durch uns):
„Die Klägerin ist jedoch als unmittelbare Störerin anzusehen, weil sie sich willentlich zur Beantwortung von Suchanfragen einer eigenen Software bedient, die Informationen aus den veröffentlichten Pflichtmitteilungen extrahiert und aufbereitet veröffentlicht. Die Beklagte kann sich nicht darauf zurückziehen, sie sei an diesem automatischen Vorgang nicht beteiligt gewesen, weil sie sich bewusst zur Beantwortung von Suchanfragen ihrer Nutzer einer künstlichen Intelligenz bedient hat, die in Fällen wie diesem unzulänglich programmiert war, weil sie nicht erkannt hat, dass vorliegend (…) ein Zuordnungsfehler (…) vorlag (so auch OLG Düsseldorf I-16 U 136/20 (…)). Zum anderen haftet der Betreiber eines Portals auch dann als unmittelbarer Störer für die von einem Dritten eingestellten Inhalte, wenn er sich diese aus Sicht eines verständigen Durchschnittsnutzers auf der Grundlage einer Gesamtbetrachtung aller relevanten Umstände zu eigen gemacht und dafür nach außen erkennbar die inhaltliche Verantwortung übernommen hat (BGH, Urteil vom 01.03.2016 – VI ZR 34/15, Rz. 17; so auch OLG Düsseldorf I-16 U 136/20 (…)). Dies schafft die Beklagte dadurch, dass sie die Pflichtveröffentlichungen zu einem Unternehmen bei sich auf der Seite bündelt und die Informationen teilweise untereinander verknüpft.“
Auslagerung von Prozessen auf KI ist verlockend, aber riskant
Das Urteil zeigt, dass Unternehmen sich nicht bedenkenlos auf KI-basierte Prozesse verlassen oder die Verantwortung für Programmierfehler auf die KI abwälzen können.
Jedenfalls bei öffentlich nutzbaren Diensten haftet der jeweilige Betreiber des KI-Systems im Verhältnis zu Dritten für die Richtigkeit der verbreiteten Informationen. Das gilt seit Inkrafttreten der KI-Verordnung nicht nur für Eigenentwicklungen (dann ist man nach der KI-VO sog. „Anbieter“ eines KI-Systems), sondern auch die Integration fremder KI-Lösungen, etwa in die eigene Internetseite (dann wird man nach der KI-VO als „Betreiber“ eines KI-Systems angesehen).
Tipp: Weitergehende Informationen rund um künstliche Intelligenz und Recht finden Sie auch in unseren ausführlichen FAQ zum KI-Recht.