KI erzählt Quatsch? Betreiber haften für Falschbehauptungen

| Technologie Technologie

Der Betreiber eines Chatbots muss für unwahre oder ehrverletzende Tatsachenbehauptungen der KI haften, wenn die Falschinformationen auf dem Account eines sozialen Netzwerks dauerhaft und öffentlich abrufbar sind. Das hat das Landgericht Hamburg in einem Urteil (Az.: 324 O 461/25) entschieden, auf das die Arbeitsgemeinschaft IT-Recht im Deutschen Anwaltverein (DAV) hinweist.

In dem Fall ging es um den KI-Chatbot Grok auf der Kurznachrichten-Plattform X (ehemals Twitter). Ein Nutzer hatte Grok nach Institutionen gefragt, die stark von staatlicher Förderung abhängen. Die KI generierte daraufhin eine Liste, in der explizit auch ein deutscher Verein genannt wurde. Der Chatbot behauptete etwa, dass der Verein hohe Bundesmittel erhalte und verwies dabei auch auf angebliche Quellen.

KI-Halluzinationen lässt Gericht nicht als Ausrede gelten

Tatsächlich erhielt der Verein jedoch keinerlei staatliche Gelder. Da die Antworten des Chatbots unmittelbar für alle Nutzer öffentlich sichtbar waren, sah der Verein sein Persönlichkeitsrecht verletzt und forderte die Unterlassung dieser Behauptung. Der Betreiber wehrte sich mit dem Argument, es handele sich um eine technisch bedingte Fehlleistung der KI, eine sogenannte Halluzination.

Das Landgericht Hamburg gab dem Verein recht. In den Urteilsgründen hieß es, dass der Durchschnittsnutzer KI-generierte Antworten als Tatsachenbehauptungen wahrnehme, insbesondere, wenn der Betreiber damit werbe, dass das System «faktenbasierte» Aussagen erstelle. Die Tatsache, dass der Inhalt von einer Maschine generiert wurde, ändere nichts an der rechtlichen Unzulässigkeit der Darstellung.

Ungeprüft veröffentlichen lassen heißt sich haftbar machen

Der Betreiber müsse sich den Output «zu eigen machen», da er das System so konfiguriert hat, dass die Ergebnisse ungeprüft direkt veröffentlicht würden. Damit hafte der Betreiber nach den Grundsätzen der Störerhaftung für die Verletzung des Vereinspersönlichkeitsrechts. Die Richter untersagten X, die Behauptung weiterzuverbreiten.

Betroffene können also in einem solchen Fall Unterlassung verlangen, selbst wenn der beanstandete Inhalt nicht von einem Menschen, sondern von einer KI stammt, erklärt der DAV. 

Betreiber von KI-Chatbots müssen für unwahre Tatsachenbehauptungen einstehen, die ihre Systeme generieren und öffentlich zugänglich machen. Dabei spiele es rechtlich keine Rolle, ob eine Falschaussage von einem Menschen verfasst oder von einer künstlichen Intelligenz «erfunden» (halluziniert) wurde. (dpa)

Zurück

Vielleicht auch interessant

Pressemitteilung

DIRS21, einer der führenden Anbieter für digitale Vertriebs- und Buchungslösungen in der Hotellerie, gibt die Anbindung von Shiji Daylight PMS als neuen Schnittstellenpartner bekannt. Mit dieser Integration profitieren Hotels im D-A-CH-Raum künftig von einer noch engeren Vernetzung zweier starker Systeme, die bereits heute jeweils für sich eine erstklassige Lösung darstellen.

Weiterlesen

Eine Sicherheitsanalyse hat, inzwischen behobene, Mängel in einem Hotel-Check-in-System offengelegt. Die aufgedeckten Schwachstellen betrafen demnach die Plattform LIKE MAGIC eines Schweizer Softwareanbieters und könnten den Zugriff auf sensible personenbezogene Daten und Ausweisdokumente von Hotelgästen ermöglicht haben.

Weiterlesen
Pressemitteilung

Mit dem neuen MCP-Server auf Basis des Model Context Protocol macht Apaleo agentenbasierte KI erstmals praxistauglich für die Hospitality-Branche, und schafft damit einen standardisierten Weg, wie KI-Agenten direkt mit Hotelsystemen interagieren können.

Weiterlesen
Pressemitteilung

SuitePad, ein weltweit führender Anbieter von In-Room-Tablet-Lösungen für Hotels, hat sein erstes Büro in den USA eröffnet. Mit diesem Schritt stärkt das Unternehmen seine globale Wachstumsstrategie und baut seine Präsenz im nordamerikanischen Hotelmarkt deutlich aus.

Weiterlesen

Die Postbank Digitalstudie 2025 zeigt, dass die Deutschen so viel Zeit online verbringen wie nie zuvor. Die wöchentliche Internetnutzung ist im Durchschnitt auf knapp 72 Stunden gestiegen.

Weiterlesen

Google hat das Agent Payments Protocol (AP2) angekündigt, ein offenes Protokoll, das KI-Agenten in die Lage versetzen soll, selbstständig Zahlungen abzuwickeln. Dieses System, das mit über 60 Partnern aus der Finanz- und Handelsbranche entwickelt wird, könnte die Art und Weise, wie Buchungen und Transaktionen in der Hotellerie und Gastronomie ablaufen, grundlegend verändern.

Weiterlesen

Der Einsatz von Künstlicher Intelligenz hat sich in der deutschen Wirtschaft innerhalb eines Jahres nahezu verdoppelt. Eine repräsentative Umfrage des Digitalverbands Bitkom zeigt, dass bereits 36 Prozent der Unternehmen mit mehr als 20 Mitarbeitern KI nutzen.

Weiterlesen

Booking Holdings, der Mutterkonzern von Booking.com, setzt verstärkt auf sogenannte Agentic AI, um sich von der Konkurrenz abzuheben. Das Ziel: eine KI, die nicht nur Fragen beantwortet, sondern eigenständig die gesamte Reise organisiert – inklusive automatischer Updates bei Verspätungen.

Weiterlesen

Intelligente Beleuchtung, sprachgesteuerte Assistenten und sogar Roboter-Butler – die Hotellerie setzt verstärkt auf Technologie, um den Aufenthalt für Gäste komfortabler zu gestalten. Doch eine neue Studie enthüllt: Viele Reisende sind von den smarten Funktionen überfordert.

Weiterlesen

Kundenzufriedenheit ist längst mehr als eine hübsche Kennzahl im Reporting. Sie ist das Rückgrat jedes erfolgreichen Unternehmens. Wenn Menschen begeistert sind von einem Service oder Produkt, dann erzählen sie auch im Freundeskreis davon.

Weiterlesen