Wer haftet für Falschauskunft des KI-Chatbots?

Die Nutzung eines KI‑Chatbots ist mittlerweile Teil des Alltags geworden, sei es für eine erste Recherche oder zur Klärung eines Problems im Chatsupport. Doch mit dem vermehrten Einsatz von Large Language Models (LLMs) kommt es auch immer häufiger zu Beschwerden von Nutzer:innen über falsche Auskünfte und dadurch entstandene finanzielle Nachteile. Der naheliegende Gedanke wäre, dass der Anbieter des Chatbots für solche Nachteile einstehen muss. Doch wie sieht das rechtlich aus?

KI-Modelle verfolgen das Ziel, menschliches Denken nachzuahmen, und verwenden dafür maschinelles Lernen. Dabei wird mit Wahrscheinlichkeit und dem Erkennen von Mustern gearbeitet. Eine Erscheinungsform von künstlicher Intelligenz sind generative KI-Dienste wie ChatGPT, Gemini oder Copilot. 

Bei den genannten Programmen handelt es sich um Large Language Models (LLMs), einer Unterkategorie der KI. LLMs sind spezialisiert darauf Texte zu verarbeiten und zu generieren. Sie verarbeiten dafür große Mengen an Textbeiträgen und erzeugen daraufhin Formulierungen basierend auf dem jeweils statistisch wahrscheinlichsten nächsten Wort. Dabei sind folgende zwei Punkte zu beachten:

1. LLMs überprüfen nicht, ob ihre Quellen inhaltlich korrekt sind.
2. LLMs geben die statistisch am wahrscheinlichsten passende Antwort, das bedeutet nicht, dass es sich hierbei um die richtige Antwort handelt.

Large Language Models (LLMs) können eine falsche Auskunft geben. Neben fehlerhaften Datenverarbeitungen und unzuverlässigen Trainingsdaten kann können solche Falschauskünfte auf modellbedingte Halluzinationen (LLMs tendieren dazu, wahrscheinliche Antworten zu konstruieren, wenn keine verlässliche Information verfügbar ist) oder einfach dies auch an unklare Eingaben zurückzuführen sein. 

Das bedeutet, dass man damit rechnen muss, dass Auskünfte eine KI sehr schlüssig klingen, aber nicht immer korrekt sind. Deshalb stellt sich die Frage, ob im Falle einer solchen Falschauskunft der Anbieter bzw. Betreiber des KI-Modells für eine falsche Auskunft haftet. 

Ein Schadenersatzanspruch kann nach österreichischem Recht bestehen, wenn vier Voraussetzungen gegeben sind:

• Es ist ein Schaden an einem Gegenstand, am Vermögen, am Körper, an der Psyche usw. eingetreten.
• Kausalität: Der Schaden wurde durch das Handeln der anderen Person verursacht.
• Rechtswidrigkeit: Das Handeln der anderen Person verstößt gegen einen Vertrag oder gegen Gesetze, die den Schutz der geschädigten Person bezwecken.
• Verschulden: Das schädigende Handeln ist der anderen Person vorwerfbar (zumindest Fahrlässigkeit der handelnden Person).

Es müsste in dem konkreten Fall also geprüft werden, ob ein Schaden, der (auch) aufgrund einer Falschauskunft des KI-Chatbots eingetreten ist, dem Anbieter des Chatbots schadenersatzrechtlich zugerechnet werden kann.

Ein Schaden, der durch die falsche Auskunft eines Chatbots eintritt, wird meist in zusätzlichen Kosten bestehen, z. B. weil Sie auf Anraten des Chatbots etwas tun oder unterlassen, das später Mehrkosten verursacht. Denkbar ist etwa, dass Sie auf Anraten eines Chatbots eine ungerechtfertigte Zahlung tätigen oder einen bestimmten Vertrag kündigen, wodurch Ihnen später Mehrkosten entstehen. Möglich ist aber auch ein physischer oder psychischer Schaden, z. B. wenn Sie ein Chatbot durch seine Auskunft zu einem selbstschädigenden Handeln verleitet.

Die Falschauskunft muss für den eingetretenen Schaden kausal sein. Es stellt sich die Frage, ob eine Falschauskunft des Chatbots als direkte Ursache für den Schadenseintritt gelten kann oder das eigenverantwortliche Handeln des Nutzers bzw. der Nutzerin dazwischentritt. Denn letztlich führt ja nicht die Auskunft des Chatbots, sondern die Handlung des Nutzers bzw. der Nutzerin direkt zum Schaden. Bei einem Mitverschulden der geschädigten Person ist eine geteilte Haftung möglich (§ 1304 Allgemeines Bürgerliches Gesetzbuch).

Schließlich stellt sich die Frage, ob eine falsche Auskunft des Chatbots überhaupt als eine Auskunft des Chatbot-Anbieters gelten kann. Schließlich erteilt nicht ein Organ bzw. ein:e Angestellte:r des Unternehmens die Falschauskunft, sondern ein Chatbot. Ein KI-System ist aber keine natürliche oder juristische Person, die über eine Gehilfenhaftung dem Unternehmen zurechenbar ist. Dennoch werden Erklärungen des Chatbots ähnlich wie der unter der Redaktion eines Unternehmens erstellte Webseiteinhalt als öffentliche Äußerungen dem Unternehmen zugerechnet werden können. 

Dies verdeutlicht das kanadische Urteil in der Rechtssache Moffatt/Air Canada. Dem Kläger Jake Moffat wurde vom auf der Webseite der der Fluglinie Air Canada befindlichen KI-Chatbot  zugesichert, dass eine Ermäßigung des Flugpreises innerhalb von 90 Tagen nach dem Reisedatum beantragt werden könne. Tatsächlich sahen jedoch die AGBs des Unternehmens vor, dass der Antrag bereits vor Reiseantritt zu stellen war. Der Kläger wurde insofern vom Chatbot falsch beraten. Das Gericht stellte in seinem Urteil fest, dass der Kläger sich auf die Auskunft des Chatbots verlassen durfte und Air Canada daher verpflichtet ist, die Differenz zwischen dem gezahlten Kaufpreis und dem ermäßigten Preis zu erstatten. 

Für einen Schadenersatzanspruch muss der Chatbot-Anbieter eine rechtswidrige Handlung begehen, d. h. gegen seinen Vertrag mit dem Nutzer bzw. der Nutzerin oder gegen ein Gesetz zum Schutz vor Schaden verstoßen. 

Wer ein kostenpflichtiges Abonnement mit Anbietern eines LLMs wie ChatGPT oder Claude abschließt, geht damit klarerweise einen Vertrag mit dem Chatbot-Anbieter ein. Aber auch bei einer kostenlosen Nutzung eines Chatbots kommt normalerweise ein Vertrag zwischen Nutzer:in und Anbieter (zu den Nutzungsbedingungen des Chatbot-Anbieters) zustande. Auch ein solcher Vertrag wird als entgeltlicher Vertrag gesehen, weil die Eingaben des/der Nutzerin zur Modellverbesserung (Training) der künstlichen Intelligenz genutzt werden kann und der/die Nutzer:in insofern mit eigenen Daten „bezahlt“ (§ 1 Abs 1 Z 2 FAGG und § 1 Abs 1 Z 2 lit. b VGG). 

Im Rahmen einer Vertragshaftung liegt Rechtswidrigkeit vor, wenn Haupt- oder Nebenleistungspflichten des Chatbot-Anbieters verletzt werden. Für die Ermittlung der Vertragspflichten des Chatbot-Anbieters kommt es auf die konkrete Vereinbarung und den Leistungsinhalt des Vertrags an. Ein vertragswidriges Handeln kann auch in der Verletzung vorvertraglicher Schutz- und Sorgfaltspflichten bestehen. Es ist daher zu klären, welche Leistungen vom Chatbot-Anbieter vertraglich zugesichert wurden und ob die Auskunft als geschuldete Leistung (z.B. „Legal-Assistant“-Tool mit zugesicherter Qualität) oder als unverbindliche Information (reine „as-is“-Bereitstellung) zu qualifizieren ist. Je stärker Anbieter eine fachliche Verlässlichkeit zusichern oder den Output als Entscheidungsgrundlage positionieren, desto eher verdichtet sich eine Sorgfalts- bzw. Gewährleistungserwartung. 

Bei der Nutzung der bekannten LLM-Chatbots wird seitens der Betreiber:innen vertraglich meist keine Garantie für richtige oder vollständige Antworten zugesichert. Es wird sogar ausdrücklich darauf hingewiesen, dass die ausgegebenen Informationen ungenau oder fehlerhaft sein können. Dienste wie ChatGPT, Gemini oder Copilot enthalten zusätzlich in den jeweiligen Nutzungsbedingungen einen klaren Haftungsausschluss.

Denkbar wäre auch ein außervertraglicher Schadenersatzanspruch, wenn unabhängig von einem Vertrag in ein absolut geschütztes Recht (z. B. Schutz von Leib und Leben) eingegriffen wird oder sogenannte Schutzgesetze (z. B. das Strafgesetzbuch oder Art 5 AI-Act) verletzt werden. Dies wäre beispielsweise der Fall, wenn ein Chatbot bewusst dazu programmiert wurde, um einen Beitrag zu strafbaren Handlungen zu leisten. 

Falschauskünfte durch KI-Chatbots könnten Gewährleistungsansprüche begründen, wenn sie als Mangel der digitalen Leistung (§ 4 VGG oder § 933 ABGB), also des KI-Chatbots, zu qualifizieren sind. Maßgeblich ist dabei zum einen, welche Eigenschaften des Chatbots vertraglich vereinbart wurden und zum anderen, was Nutzer:innen üblicherweise von einem KI-Chatbot erwarten dürfen. Eine vertragliche Zusicherung der Fehlerfreiheit wird meist fehlen. Bekannte LLM-Anbieter wie OpenAI und Google vereinbaren lediglich die Nutzung des KI-Modells zur Erzeugung generierter Inhalte. Offen bleibt die Frage, ob typischerweise beim Nutzen eines KI-Chatbots eine Fehlerfreiheit der Antwort erwartet wird. Je nach Beantwortung dieser Frage wären gewährleistungsrechtliche Ansprüche denkbar.

Bei der Produkthaftung handelt es sich um eine sogenannte Gefährdungshaftung. Der Hersteller eines Produkts soll für bestimmte Schäden haften, die durch sein Produkt verursacht wurden. Dabei muss nicht unbedingt ein Verschulden des Herstellers am konkreten Schaden nachgewiesen werden. Es reicht aus, dass das Produkt aufgrund bestimmter Fehler des Herstellers (z. B. Konstruktionsfehler, Fabrikationsfehler) nicht die erwartbare Sicherheit aufwies und dies die Ursache für einen Schaden war. Mit der neuen EU-Produkthaftungsrichtlinie werden auch nicht-körperliche Produkte wie Software oder KI-System miteinbezogen (vgl. Art. 4 Z 1 ProdHaftRL).

Eine falsche Information allein begründet noch keine Produkthaftung. Entscheidend ist die Fehlerhaftigkeit des Produkts selbst, also der Software hinter dem KI-Chatbot. Dies betrifft im Fall eines KI-Chatbots also nicht die generierte Aussage, sondern die Programmierung des Bots. Die Produkthaftung greift jedoch nicht bei jeder Art von Schaden. Nach dem PHG ist eine Haftung grundsätzlich nur für Personenschäden (Körperverletzung) sowie für Sachschäden vorgesehen (§ 1 Abs 1 PHG), die einen Schaden von 500€ übersteigen (§ 2 Z 2 PHG). Reine Vermögensschäden, wenn also beispielsweise durch eine Fehlentscheidung aufgrund einer KI-Auskunft Geld verloren wird, sind über dieses Gesetz nicht abgedeckt.

Zusammenfassend zeigt sich, dass eine Haftung für KI-Falschauskünfte in Österreich zwar grundsätzlich möglich ist, die Erfolgsaussichten jedoch maßgeblich vom Grad der Spezialisierung des Chatbots sowie der rechtlichen Wirksamkeit von Haftungsausschlüssen abhängen. Da immer mehr Unternehmen auf KI-gestützte Erstberatungen umschwenken, wird die präzise juristische Abgrenzung zwischen unverbindlichem Chat und verbindlicher Fachberatung zu einer wichtigen Herausforderung der nächsten Jahre. Während neue EU-Regelungen wie der AI-Act und die erweiterte Produkthaftungsrichtlinie den Rahmen bereits enger ziehen, bleibt die gerichtliche Klärung der „digitalen Sorgfalt“ das entscheidende Feld für den künftigen Konsumentenschutz. Nutzen Sie KI-Tools als hilfreiche Assistenten, aber bleiben Sie bei Informationen skeptisch und prüfen Sie wichtige Auskünfte stets nach.