KI erzählt Quatsch? Betreiber haften für Falschbehauptungen

| Technologie Technologie

Der Betreiber eines Chatbots muss für unwahre oder ehrverletzende Tatsachenbehauptungen der KI haften, wenn die Falschinformationen auf dem Account eines sozialen Netzwerks dauerhaft und öffentlich abrufbar sind. Das hat das Landgericht Hamburg in einem Urteil (Az.: 324 O 461/25) entschieden, auf das die Arbeitsgemeinschaft IT-Recht im Deutschen Anwaltverein (DAV) hinweist.

In dem Fall ging es um den KI-Chatbot Grok auf der Kurznachrichten-Plattform X (ehemals Twitter). Ein Nutzer hatte Grok nach Institutionen gefragt, die stark von staatlicher Förderung abhängen. Die KI generierte daraufhin eine Liste, in der explizit auch ein deutscher Verein genannt wurde. Der Chatbot behauptete etwa, dass der Verein hohe Bundesmittel erhalte und verwies dabei auch auf angebliche Quellen.

KI-Halluzinationen lässt Gericht nicht als Ausrede gelten

Tatsächlich erhielt der Verein jedoch keinerlei staatliche Gelder. Da die Antworten des Chatbots unmittelbar für alle Nutzer öffentlich sichtbar waren, sah der Verein sein Persönlichkeitsrecht verletzt und forderte die Unterlassung dieser Behauptung. Der Betreiber wehrte sich mit dem Argument, es handele sich um eine technisch bedingte Fehlleistung der KI, eine sogenannte Halluzination.

Das Landgericht Hamburg gab dem Verein recht. In den Urteilsgründen hieß es, dass der Durchschnittsnutzer KI-generierte Antworten als Tatsachenbehauptungen wahrnehme, insbesondere, wenn der Betreiber damit werbe, dass das System «faktenbasierte» Aussagen erstelle. Die Tatsache, dass der Inhalt von einer Maschine generiert wurde, ändere nichts an der rechtlichen Unzulässigkeit der Darstellung.

Ungeprüft veröffentlichen lassen heißt sich haftbar machen

Der Betreiber müsse sich den Output «zu eigen machen», da er das System so konfiguriert hat, dass die Ergebnisse ungeprüft direkt veröffentlicht würden. Damit hafte der Betreiber nach den Grundsätzen der Störerhaftung für die Verletzung des Vereinspersönlichkeitsrechts. Die Richter untersagten X, die Behauptung weiterzuverbreiten.

Betroffene können also in einem solchen Fall Unterlassung verlangen, selbst wenn der beanstandete Inhalt nicht von einem Menschen, sondern von einer KI stammt, erklärt der DAV. 

Betreiber von KI-Chatbots müssen für unwahre Tatsachenbehauptungen einstehen, die ihre Systeme generieren und öffentlich zugänglich machen. Dabei spiele es rechtlich keine Rolle, ob eine Falschaussage von einem Menschen verfasst oder von einer künstlichen Intelligenz «erfunden» (halluziniert) wurde. (dpa)

Zurück

Vielleicht auch interessant

Pressemitteilung

Veranstaltungslocation Hof Bissee in Schleswig-Holstein stellt Bankettverkauf auf automatisierte Echtzeit-Angebote um – Interessenten erhalten personalisierte Angebote noch während Ortsbegehung

Weiterlesen

Eine neue Studie von Booking.com deckt eine kritische Qualifikationslücke im europäischen Gastgewerbe auf: Während digitale Kompetenzen als überlebenswichtig eingestuft werden, investiert nur eine Minderheit der Betriebe aktiv in die entsprechende Schulung ihrer Mitarbeiter.

Weiterlesen
Anzeige

Der Technologiedienstleister Dirs21 präsentiert eine strategische Erweiterung seines Portfolios. Mit den neuen Modulen Dirs21 Mice und Dirs21 Plus rückt das Unternehmen das Potenzial von Non-Logis-Umsätzen in den Fokus . Ziel ist es, alle Flächen und Leistungen eines Hotels ebenso einfach buchbar zu machen wie Hotelzimmer. Ein Gespräch mit CEO David Heidelberg.

Weiterlesen
Anzeige

Sie arbeiten mit Zahlen, Konzepten, Verträgen: Ihre Expertise ist der Kern Ihres Geschäfts, Zeit ein entscheidender Erfolgsfaktor. Mit PayPal erhalten Sie Honorare, Vorschüsse oder Pauschalen schnell und sicher. Ohne Nachfassen.

Weiterlesen

KI leicht gemacht für Hotels und Restaurants: Viele Gastgeber sehen KI noch skeptisch – zu komplex, zu technisch. Ein neues Online-Praxis-Webinar von Tageskarte zeigt, wie Künstliche Intelligenz ohne Fachchinesisch den Arbeitsalltag erleichtert. Direkt umsetzbare Tools und praxisnahe Beispiele machen KI greifbar und leicht nutzbar.

Weiterlesen
Pressemitteilung

Revenue Management ist heute kein Randthema mehr. In einem Marktumfeld mit kurzfristigen Buchungsfenstern, hoher Preistransparenz und dynamischer Nachfrage wirken sich Preisentscheidungen oft innerhalb weniger Stunden direkt auf den Umsatz aus.

Weiterlesen
Pressemitteilung

Tagungshotel erreicht wegweisende Reaktionsgeschwindigkeit durch Angebotsautomatisierung und sichert sich so den „First Responder“-Vorsprung im umkämpften MICE-Markt

Weiterlesen
Pressemitteilung

Dirs21 erweitert sein Portfolio auf der ITB Berlin um zwei neue Module. Mit Dirs21 Mice und Dirs21 Plus werden Tagungsräume und Zusatzleistungen direkt online buchbar, um den digitalen Direktvertrieb in der Hotellerie über die Zimmerbelegung hinaus zu automatisieren.

Weiterlesen

Google reagiert auf den Druck der EU-Wettbewerbshüter und plant eine Umgestaltung der Suchergebnisse. Insbesondere für die Hotellerie und Gastronomie könnte dies eine veränderte Sichtbarkeit bedeuten, da Konkurrenzportale künftig prominenter platziert werden sollen.

Weiterlesen
Pressemitteilung

Wenn im März die Paralympischen Winterspiele Milano Cortina 2026 beginnen, richten sich die Blicke im Para Ski Alpin auch auf zwei deutsche Athletinnen, die seit Jahren zu den konstantesten Leistungsträgerinnen ihrer Sportart gehören: Andrea Rothfuss und Anna Maria Rieder. Beide werden von der SALTO FOUNDATION unterstützt.

Weiterlesen