KI erzählt Quatsch? Betreiber haften für Falschbehauptungen

| Technologie Technologie

Der Betreiber eines Chatbots muss für unwahre oder ehrverletzende Tatsachenbehauptungen der KI haften, wenn die Falschinformationen auf dem Account eines sozialen Netzwerks dauerhaft und öffentlich abrufbar sind. Das hat das Landgericht Hamburg in einem Urteil (Az.: 324 O 461/25) entschieden, auf das die Arbeitsgemeinschaft IT-Recht im Deutschen Anwaltverein (DAV) hinweist.

In dem Fall ging es um den KI-Chatbot Grok auf der Kurznachrichten-Plattform X (ehemals Twitter). Ein Nutzer hatte Grok nach Institutionen gefragt, die stark von staatlicher Förderung abhängen. Die KI generierte daraufhin eine Liste, in der explizit auch ein deutscher Verein genannt wurde. Der Chatbot behauptete etwa, dass der Verein hohe Bundesmittel erhalte und verwies dabei auch auf angebliche Quellen.

KI-Halluzinationen lässt Gericht nicht als Ausrede gelten

Tatsächlich erhielt der Verein jedoch keinerlei staatliche Gelder. Da die Antworten des Chatbots unmittelbar für alle Nutzer öffentlich sichtbar waren, sah der Verein sein Persönlichkeitsrecht verletzt und forderte die Unterlassung dieser Behauptung. Der Betreiber wehrte sich mit dem Argument, es handele sich um eine technisch bedingte Fehlleistung der KI, eine sogenannte Halluzination.

Das Landgericht Hamburg gab dem Verein recht. In den Urteilsgründen hieß es, dass der Durchschnittsnutzer KI-generierte Antworten als Tatsachenbehauptungen wahrnehme, insbesondere, wenn der Betreiber damit werbe, dass das System «faktenbasierte» Aussagen erstelle. Die Tatsache, dass der Inhalt von einer Maschine generiert wurde, ändere nichts an der rechtlichen Unzulässigkeit der Darstellung.

Ungeprüft veröffentlichen lassen heißt sich haftbar machen

Der Betreiber müsse sich den Output «zu eigen machen», da er das System so konfiguriert hat, dass die Ergebnisse ungeprüft direkt veröffentlicht würden. Damit hafte der Betreiber nach den Grundsätzen der Störerhaftung für die Verletzung des Vereinspersönlichkeitsrechts. Die Richter untersagten X, die Behauptung weiterzuverbreiten.

Betroffene können also in einem solchen Fall Unterlassung verlangen, selbst wenn der beanstandete Inhalt nicht von einem Menschen, sondern von einer KI stammt, erklärt der DAV. 

Betreiber von KI-Chatbots müssen für unwahre Tatsachenbehauptungen einstehen, die ihre Systeme generieren und öffentlich zugänglich machen. Dabei spiele es rechtlich keine Rolle, ob eine Falschaussage von einem Menschen verfasst oder von einer künstlichen Intelligenz «erfunden» (halluziniert) wurde. (dpa)

Zurück

Vielleicht auch interessant

Marriott International treibt eine mehrjährige digitale und technologische Transformation voran. Dabei stehen auch die Entwicklung und der Einsatz von KI-Agenten im Fokus, um repetitive Aufgaben zu automatisieren und die Mitarbeiter zu entlasten.

Weiterlesen

Das Alpbachtal in Tirol startet ein Pilotprojekt, bei dem in 24 Beherbergungsbetrieben digitale Sprachassistenten eingesetzt werden. Mit dem Projekt „Alpbachtal Voice Concierge“ soll die Gästebetreuung durch die Automatisierung von Routineanfragen optimiert werden.

Weiterlesen

Die Circus SE, ein spezialisiertes Unternehmen für KI-Software und Robotik, kooperiert zukünftig mit dem Facility-Services-Anbieter Secura. Ziel der strategischen Partnerschaft ist es, die autonom arbeitenden Ernährungssysteme von Circus bei weiteren Großkunden von Secura zu etablieren - dazu zählen unter anderem Shell, General Electric, Thyssenkrupp und Audi.

Weiterlesen

Eine neue Studie enthüllt, welche Plattformen bei Firmen wirklich punkten. Während eine alte Bekannte an der Spitze steht, verliert ein anderer Social-Media-Riese deutlich an Boden.

Weiterlesen

Deutschland hat sich bei der Digitalisierung im EU-Vergleich wieder etwas verbessert und belegt nun unter den 27 Mitgliedstaaten den 14. Platz. Im Vorjahr lag Deutschland noch auf Rang 16, hatte in den Jahren 2021 bis 2023 aber auch schon bessere Werte erzielt.

Weiterlesen
Pressemitteilung

In Hotels, Pflegeeinrichtungen oder kommunalen Gebäuden bleibt Energiesparen trotz moderner Technik oft Stückwerk – weil die Systeme nicht miteinander kommunizieren. Ob Raumbelegung, Fensterstatus oder Wunschtemperatur: Die Daten liegen meist in verschiedenen Anwendungen vor, sind nicht vernetzt – und führen so zu unnötigem Energieverbrauch.

Weiterlesen

Deutsche sind fasziniert von Künstlicher Intelligenz, aber nur wenige vertrauen ihr uneingeschränkt. Besonders für die Reiseplanung sehen viele großes Potenzial, wobei KI-Assistenten oft als zuverlässiger gelten als traditionelle Quellen wie Influencer.

Weiterlesen

Für die deutsche Wirtschaft steht Elon Musk vor allem für eines: große Verunsicherung. Laut einer repräsentativen Befragung unter 602 Unternehmen aller Branchen sind die Vorbehalte deutlich: 63 Prozent halten Musk für gefährlich.

Weiterlesen

Seit 2025 ist Carsten Ripkens zweiter Geschäftsführer der Gastro-MIS GmbH und verantwortet die Bereiche Marketing und Vertrieb. Gemeinsam mit seinem Team treibt er die Weiterentwicklung der digitalen Plattform LINA voran – und setzt dabei auch auf künstliche Intelligenz. Warum LINA AI gerade jetzt ein echter Gamechanger in der Gastronomie ist, wie LINA Gastro-Betriebe konkret entlastet und was in Zukunft noch alles kommt, erklärt er im Interview.

Weiterlesen

Ein eklatanter Sicherheitsmangel auf einer von McDonald's genutzten Bewerbungsplattform hat die persönlichen Daten von Millionen Jobsuchender gefährdet. Nach 30 Minuten hatten zwei Sicherheitsforscher vollen Zugriff auf praktisch jede Bewerbung, die jemals bei McDonald's eingereicht wurde.

Weiterlesen