Wer haftet für falsche Angaben eines KI-Chatbots auf der Unternehmenswebsite?

Geschrieben von: Sebastian Laoutoumai

KI-Chatbots im Kundenservice: Wer trägt die Verantwortung für fehlerhafte Antworten?

Immer mehr Unternehmen setzen KI-Chatbots auf ihren Websites und in der Kundenkommunikation ein. Doch was passiert, wenn die Künstliche Intelligenz falsche Informationen verbreitet? Aktuelle Gerichtsentscheidungen zeigen: Unternehmen können sich nicht ohne Weiteres darauf berufen, dass die KI autonom gehandelt hat. Wer KI einsetzt, muss auch Verantwortung für deren Output übernehmen.

Das OLG Hamm (Az. 4 UKl 3/25) musste sich mit dieser Frage aus wettbewerbsrechtlicher Sicht befassen. Zuvor hatte sich bereits das LG Kiel (Az. 6 O 151/23) mit einer vergleichbaren Fragestellung aus äußerungsrechtlicher Sicht auseinandergesetzt.

Haftet ein Unternehmen für die Aussagen eines KI-Chatbots auf der eigenen Website?

In dem Verfahren vor dem OLG Hamm hatte ein Unternehmen einen Chatbot für den Kundenservice auf seiner Website eingebunden. Besucher konnten dort verschiedene Fragen zum Unternehmen stellen, unter anderem zu angebotenen Leistungen und zu den behandelnden Ärzten. Auf die Frage nach der Facharztqualifikation der beiden Geschäftsführer antwortete der Chatbot jedoch falsch. Er bezeichnete sie als Fachärzte für plastische und ästhetische Chirurgie. Tatsächlich verfügte keiner der Geschäftsführer über diese Qualifikation.

Wegen dieser unzutreffenden Aussage über vermeintlich bestehende Qualifikationen wurde das Unternehmen zunächst außergerichtlich abgemahnt. Nachdem die geforderte strafbewehrte Unterlassungserklärung nicht abgegeben wurde, wurde das Unternehmen gerichtlich in Anspruch genommen.

Warum hielt das OLG Hamm die Aussagen des Chatbots für zurechenbar?

Das beklagte Unternehmen verteidigte sich mit dem Argument, die Aussagen des Chatbots seien ihm nicht zurechenbar. Der Chatbot arbeite als KI-System autonom auf Basis statistischer Wahrscheinlichkeiten und werde nicht im Einzelnen vom Unternehmen gesteuert. Der Senat folgte dieser Argumentation nicht. Das OLG Hamm stellte klar, dass die Aussagen des Chatbots als geschäftliche Handlungen des Unternehmens zu bewerten seien. So führt der Senat unter anderem aus:

„Der Begriff des Verhaltens ist weit zu fassen (...). Darüber hinaus wird hiervon auch der Einsatz von technischen Mitteln erfasst. So kann eine geschäftliche Handlung (...) auch – etwa mit Hilfe eines von der Person entwickelten oder genutzten Computerprogramms – technisch gestützt oder automatisiert vorgenommen werden. Unerheblich ist in diesem Zusammenhang, dass die vom Nutzer des angebotenen technischen Service abgefragten Informationen nicht von dem in Anspruch genommenen Verwender persönlich, sondern von der bereitgestellten Software generiert werden.“

Nach Auffassung des Gerichts hatte das Unternehmen zudem Einfluss darauf, wie der Chatbot mit Kunden kommuniziert. Dies zeigte sich bereits daran, dass das Unternehmen nach der Abmahnung ohne Weiteres in der Lage war, den Chatbot so anzupassen, dass keine unzutreffenden Aussagen über vermeintliche Facharztqualifikationen mehr ausgegeben wurden. Da auch die Irreführung selbst außer Frage stand, verurteilte das OLG Hamm das Unternehmen zur Unterlassung.

Welche Bedeutung hat das Urteil des LG Kiel für die Haftung von KI-Systemen?

Dass Unternehmen für den Output von KI-Systemen haften können, hatte bereits 2024 das Landgericht Kiel (Az. 6 O 151/23) entschieden. In dem Verfahren ging es um ein Unternehmensportal, das mithilfe von KI öffentliche Registerdaten automatisiert auswertet und aufbereitet. Aufgrund eines Fehlers der KI wurde fälschlicherweise angezeigt, ein Unternehmen solle wegen Vermögenslosigkeit gelöscht werden.

Die Verteidigung des Portalbetreibers, der Fehler einer autonom arbeitenden KI sei ihm nicht zurechenbar, ließ das Gericht nicht gelten. Hierzu führte das Landgericht aus:

„Die Beklagte kann sich nicht darauf zurückziehen, sie sei an diesem automatischen Vorgang nicht beteiligt gewesen, weil sie sich bewusst zur Beantwortung von Suchanfragen ihrer Nutzer einer künstlichen Intelligenz bedient hat, die in Fällen wie diesem unzulänglich programmiert war (...).“

Haftet auch Google für fehlerhafte KI-generierte Inhalte?

In einer erst kürzlich verhandelten und entschiedenen Angelegenheit hat auch das Landgericht München (Az. 26 O 869/26) festgestellt, dass Google für die in den KI-generierten AI Overviews enthaltenen Aussagen haftet, wenn diese fehlerhafte Informationen über Unternehmen oder Personen verbreiten. Die Entscheidungsgründe liegen derzeit noch nicht vor, sodass eine vertiefte Analyse einem späteren Zeitpunkt vorbehalten bleibt.

Bereits das Landgericht Frankfurt (Az. 2-06 O 271/25) hatte festgestellt, dass eine Haftung eines Suchmaschinenbetreibers für fehlerhaften KI-Output in der KI-generierten Zusammenfassung grundsätzlich möglich sei. In der konkreten Konstellation schied eine Haftung jedoch aus, da die Angaben im Gesamtkontext nicht falsch waren. 

Was bedeuten die Entscheidungen für Unternehmen, die KI einsetzen?

Die dargestellten Entscheidungen bedeuten nicht, dass Unternehmen auf KI-Chatbots oder andere KI-Anwendungen verzichten müssen. Sie zeigen jedoch deutlich, dass der Einsatz von Künstlicher Intelligenz sorgfältig vorbereitet und überwacht werden sollte, um Haftungsrisiken für fehlerhaften KI-Output zu vermeiden oder zumindest zu minimieren. Wer in der Kundenkommunikation auf Geschwindigkeit setzt und dabei die notwendige Sorgfalt vernachlässigt, riskiert nicht nur Fehler, sondern unter Umständen auch rechtliche Konsequenzen.

Für Personen oder Unternehmen, die durch fehlerhaften KI-Output geschädigt werden, zeigen die Entscheidungen zugleich, dass sie nicht rechtlos gestellt sind. Das gilt insbesondere für Unternehmen, deren Markenrechte verletzt werden, aber ebenso für Inhaber von Urheberrechten oder für Personen, über die unzutreffende Aussagen verbreitet werden.

Welche Rolle spielt der Automation Bias beim Einsatz von KI?

Die Entscheidung des OLG Hamm hat über die Frage der Haftung hinaus Bedeutung für Unternehmen, die ihren Mitarbeitern KI-Systeme als Arbeitswerkzeug zur Verfügung stellen. So führt der Senat in einer eher beiläufigen Passage aus:

„Vielmehr trifft es zu, dass ein Großteil der angesprochenen Verbraucher in besonderer Weise auf die Richtigkeit der computergenerierten Antwort vertraut, da Maschinen im Allgemeinen als weniger fehleranfällig als der Mensch wahrgenommen werden.“

Damit beschreibt der Senat letztlich den sogenannten Automation Bias. Gemeint ist das Phänomen, dass Menschen den Entscheidungen oder Aussagen einer Maschine häufig mehr Vertrauen schenken als den eigenen Einschätzungen. Dies ist problematisch, weil zugleich bekannt ist, dass KI-Chatbots gelegentlich halluzinieren und somit sachlich falsche Informationen erzeugen können. Die dargestellten Gerichtsentscheidungen zeigen, dass solche Fehler keineswegs nur theoretischer Natur sind.

Treffen Automation Bias und fehlerhafter KI-Output im Arbeitsalltag zusammen, besteht die Gefahr, dass mit Unterstützung eines Chatbots erstellte Arbeitsergebnisse fehlerhaft sind. Werden auf dieser Grundlage geschäftskritische Entscheidungen getroffen, kann dies erhebliche wirtschaftliche Schäden verursachen. Darüber hinaus können Haftungsansprüche Dritter entstehen.

Warum wird KI-Kompetenz für Unternehmen immer wichtiger?

Vor diesem Hintergrund ist es für Unternehmen besonders wichtig, die notwendige KI-Kompetenz aufzubauen. Art. 4 der KI-Verordnung (KI-VO) sieht entsprechende Kompetenzen bereits ausdrücklich vor, auch wenn es sich hierbei nicht um eine klassische harte Verpflichtung handelt. Die Ausführungen des OLG Hamm sollten jedoch Warnung genug sein, sich als Unternehmensleitung mit den Risiken und Grenzen von KI-Systemen auseinanderzusetzen.

Zusätzliche Sicherheit können unternehmensweite KI-Richtlinien schaffen. Klare Vorgaben zur Nutzung von KI-Systemen sowie Prozesse zur regelmäßigen Kontrolle und Überprüfung des KI-Outputs helfen dabei, rechtliche und wirtschaftliche Risiken wirksam zu reduzieren.

FAQ: Haftung für KI-Output

1. Haftet ein Unternehmen für die Aussagen eines KI-Chatbots?

Ja. Nach der Entscheidung des OLG Hamm können die Aussagen eines KI-Chatbots dem Unternehmen zugerechnet werden, wenn der Chatbot auf dessen Website eingesetzt wird.

2. Kann sich ein Unternehmen darauf berufen, dass die KI autonom handelt?

Nein. Die Gerichte stellen klar, dass die autonome Arbeitsweise einer KI die Verantwortlichkeit des Unternehmens nicht entfallen lässt.

3. Welche Risiken entstehen durch fehlerhaften KI-Output?

Fehlerhafte KI-Antworten können zu Wettbewerbsverstößen, Persönlichkeitsrechtsverletzungen, Markenrechtsverletzungen oder anderen Haftungsfällen führen.

4. Was ist der sogenannte Automation Bias?

Automation Bias beschreibt die Tendenz von Menschen, computergenerierten Aussagen mehr zu vertrauen als eigenen Einschätzungen oder menschlichen Aussagen.

5. Wie können Unternehmen Haftungsrisiken beim Einsatz von KI reduzieren?

Durch sorgfältige Vorbereitung, regelmäßige Kontrolle des KI-Outputs, Schulungen zur KI-Kompetenz und klare interne KI-Richtlinien.

 

Mehr zu unseren Leistungen im IT- und Datenschutzrecht finden Sie hier:

Gerne bringen wir Ihnen im Rahmen eines unverbindlichen Erstgesprächs die Rechtslage näher und unterstützen Sie dabei, Rechtsklarheit zu gewinnen. Kontaktieren Sie uns jederzeit für ein Kennenlerngespräch. 

Weitere Blogbeiträge