KI erzählt Quatsch? Betreiber haften für Falschbehauptungen

| Technologie Technologie

Der Betreiber eines Chatbots muss für unwahre oder ehrverletzende Tatsachenbehauptungen der KI haften, wenn die Falschinformationen auf dem Account eines sozialen Netzwerks dauerhaft und öffentlich abrufbar sind. Das hat das Landgericht Hamburg in einem Urteil (Az.: 324 O 461/25) entschieden, auf das die Arbeitsgemeinschaft IT-Recht im Deutschen Anwaltverein (DAV) hinweist.

In dem Fall ging es um den KI-Chatbot Grok auf der Kurznachrichten-Plattform X (ehemals Twitter). Ein Nutzer hatte Grok nach Institutionen gefragt, die stark von staatlicher Förderung abhängen. Die KI generierte daraufhin eine Liste, in der explizit auch ein deutscher Verein genannt wurde. Der Chatbot behauptete etwa, dass der Verein hohe Bundesmittel erhalte und verwies dabei auch auf angebliche Quellen.

KI-Halluzinationen lässt Gericht nicht als Ausrede gelten

Tatsächlich erhielt der Verein jedoch keinerlei staatliche Gelder. Da die Antworten des Chatbots unmittelbar für alle Nutzer öffentlich sichtbar waren, sah der Verein sein Persönlichkeitsrecht verletzt und forderte die Unterlassung dieser Behauptung. Der Betreiber wehrte sich mit dem Argument, es handele sich um eine technisch bedingte Fehlleistung der KI, eine sogenannte Halluzination.

Das Landgericht Hamburg gab dem Verein recht. In den Urteilsgründen hieß es, dass der Durchschnittsnutzer KI-generierte Antworten als Tatsachenbehauptungen wahrnehme, insbesondere, wenn der Betreiber damit werbe, dass das System «faktenbasierte» Aussagen erstelle. Die Tatsache, dass der Inhalt von einer Maschine generiert wurde, ändere nichts an der rechtlichen Unzulässigkeit der Darstellung.

Ungeprüft veröffentlichen lassen heißt sich haftbar machen

Der Betreiber müsse sich den Output «zu eigen machen», da er das System so konfiguriert hat, dass die Ergebnisse ungeprüft direkt veröffentlicht würden. Damit hafte der Betreiber nach den Grundsätzen der Störerhaftung für die Verletzung des Vereinspersönlichkeitsrechts. Die Richter untersagten X, die Behauptung weiterzuverbreiten.

Betroffene können also in einem solchen Fall Unterlassung verlangen, selbst wenn der beanstandete Inhalt nicht von einem Menschen, sondern von einer KI stammt, erklärt der DAV. 

Betreiber von KI-Chatbots müssen für unwahre Tatsachenbehauptungen einstehen, die ihre Systeme generieren und öffentlich zugänglich machen. Dabei spiele es rechtlich keine Rolle, ob eine Falschaussage von einem Menschen verfasst oder von einer künstlichen Intelligenz «erfunden» (halluziniert) wurde. (dpa)

Zurück

Vielleicht auch interessant

Anzeige

Die Antwort liegt in Ihren Buchungsdaten der letzten Jahre. Der Artikel zeigt Schritt für Schritt, wie Sie die Nachfrage realistisch einschätzen und mit klaren Regeln für Preise, Mindestaufenthalte und Stornierungen mehr Kontrolle über Auslastung und Erlöse gewinnen.

Weiterlesen

Auf Nichtwohngebäuden wie Hotels lastet besonders in der Winterzeit ein hoher Druck von wachsenden Energiekosten. Wie sich auch kurzfristig substanzielle Energie- und damit Kosteneinsparungen erzielen lassen, zeigt jetzt der Spezialist für intelligentes Wärmemanagement, Betterspace, mit den sieben größten Hebeln zur Heizkostensenkung.

Weiterlesen

Digitale Geschäftsmodelle wirken nach außen oft leichtfüßig. Ein Klick, eine Zahlung, ein Paket auf dem Weg. Hinter den Kulissen sieht es anders aus. Daten springen zwischen Systemen, Zahlungen warten auf Freigaben, Loyalitätsprogramme verstauben in abgeschotteten Datenbanken.

Weiterlesen

OpenAI öffnet die ChatGPT-Schnittstelle für alle Reiseanbieter. Diese können nun ihre eigene Anwendungen direkt in die Benutzeroberfläche integrieren und in einem zentralen Verzeichnis listen lassen.

Weiterlesen

Der digitale Wandel macht sich auch beim Tourismus deutlich bemerkbar. Mobile Endgeräte sind heutzutage ganz selbstverständlich dabei und können in allen Phasen der Reise eine wichtige Rolle spielen. Von der Planung bis zur Rückkehr werden damit Informationen abgerufen, Entscheidungen getroffen und Abläufe flexibel an die aktuellen Gegebenheiten angepasst.

Weiterlesen

Like Magic und D3x revolutionieren die Gästekommunikation bei McDreams Hotels: Durch die Kombination von Echtzeit-KI und operativen Workflows werden Anfragen schneller gelöst und Teams massiv entlastet. Das Ergebnis: Ein nahtloses Serviceerlebnis von der Buchung bis zum Check-out.

Weiterlesen

Der neue Hospitality Industry Outlook prognostiziert für die kommenden Jahre eine tiefgreifende Transformation der Hotelbranche durch Künstliche Intelligenz. Während Routineaufgaben und Buchungsprozesse zunehmend von KI-Agenten übernommen werden, rückt das Jahr 2026 als entscheidendes Vorbereitungsjahr in den Fokus.

Weiterlesen

Einige Landesverbände des Deutschen Hotel- und Gaststättenverband (DEHOGA) finalisieren derzeit die Einführung einer neuen digitalen Anwendung. Die oneDEHOGA-App soll im Frühjahr 2026 starten und als digitaler Alltagshelfer sowie Branchenexperte für die Mitglieder der DEHOGA-Verbände dienen.

Weiterlesen

Viele Gastronomen haben keine Angst vor Arbeit – sie haben Angst vor der falschen Entscheidung. Und das ist verständlich: Der Markt ist überflutet mit Kassensystemen, Warenwirtschaften, Reservierungs-Tools und Marketing-Apps. Jedes Tool verspricht die „eine“ Lösung. Am Ende hat man fünf Insellösungen, doppelte Eingaben – und null Überblick.

Weiterlesen

Ein Blick auf die digitalen Werkzeuge und Marketingstrategien der Hotellerie zum Jahresende: Welche KI-Tools im Jahr 2025 wirklich Produktivitätsgewinne brachten und wie Hotels die letzten freien Zimmer für Silvester erfolgreich füllen können.

Weiterlesen