KI erzählt Quatsch? Betreiber haften für Falschbehauptungen

| Technologie Technologie

Der Betreiber eines Chatbots muss für unwahre oder ehrverletzende Tatsachenbehauptungen der KI haften, wenn die Falschinformationen auf dem Account eines sozialen Netzwerks dauerhaft und öffentlich abrufbar sind. Das hat das Landgericht Hamburg in einem Urteil (Az.: 324 O 461/25) entschieden, auf das die Arbeitsgemeinschaft IT-Recht im Deutschen Anwaltverein (DAV) hinweist.

In dem Fall ging es um den KI-Chatbot Grok auf der Kurznachrichten-Plattform X (ehemals Twitter). Ein Nutzer hatte Grok nach Institutionen gefragt, die stark von staatlicher Förderung abhängen. Die KI generierte daraufhin eine Liste, in der explizit auch ein deutscher Verein genannt wurde. Der Chatbot behauptete etwa, dass der Verein hohe Bundesmittel erhalte und verwies dabei auch auf angebliche Quellen.

KI-Halluzinationen lässt Gericht nicht als Ausrede gelten

Tatsächlich erhielt der Verein jedoch keinerlei staatliche Gelder. Da die Antworten des Chatbots unmittelbar für alle Nutzer öffentlich sichtbar waren, sah der Verein sein Persönlichkeitsrecht verletzt und forderte die Unterlassung dieser Behauptung. Der Betreiber wehrte sich mit dem Argument, es handele sich um eine technisch bedingte Fehlleistung der KI, eine sogenannte Halluzination.

Das Landgericht Hamburg gab dem Verein recht. In den Urteilsgründen hieß es, dass der Durchschnittsnutzer KI-generierte Antworten als Tatsachenbehauptungen wahrnehme, insbesondere, wenn der Betreiber damit werbe, dass das System «faktenbasierte» Aussagen erstelle. Die Tatsache, dass der Inhalt von einer Maschine generiert wurde, ändere nichts an der rechtlichen Unzulässigkeit der Darstellung.

Ungeprüft veröffentlichen lassen heißt sich haftbar machen

Der Betreiber müsse sich den Output «zu eigen machen», da er das System so konfiguriert hat, dass die Ergebnisse ungeprüft direkt veröffentlicht würden. Damit hafte der Betreiber nach den Grundsätzen der Störerhaftung für die Verletzung des Vereinspersönlichkeitsrechts. Die Richter untersagten X, die Behauptung weiterzuverbreiten.

Betroffene können also in einem solchen Fall Unterlassung verlangen, selbst wenn der beanstandete Inhalt nicht von einem Menschen, sondern von einer KI stammt, erklärt der DAV. 

Betreiber von KI-Chatbots müssen für unwahre Tatsachenbehauptungen einstehen, die ihre Systeme generieren und öffentlich zugänglich machen. Dabei spiele es rechtlich keine Rolle, ob eine Falschaussage von einem Menschen verfasst oder von einer künstlichen Intelligenz «erfunden» (halluziniert) wurde. (dpa)

Zurück

Vielleicht auch interessant

Das amerikanische Technologieunternehmen Square hat ein umfangreiches Produkt-Update vorgestellt. Die Neuerungen umfassen unter anderem die Einführung einer automatisierten Sprachbestellungsfunktion für Telefonanrufe, die direkt in das Kassensystem einfließen.

Weiterlesen
AnzeigePressemitteilung

Mit Hilfe einer modularen Plattform, KI-Unterstützung und digitalisiertem Onboarding will das Unternehmen die Zukunft des Revenue- und Distributionsmanagements in der Hotellerie aktiv mitgestalten.

Weiterlesen

Mit dem neuen KI-Modus in der Google-Suche startet der US-Konzern eine grundlegende Umgestaltung der Internetrecherche – und verändert zugleich, wie Nutzer Informationen finden, bewerten und zukünftig vielleicht auch buchen. Die Google-Suche wird von einem zu einem dialogorientierten System, das klassische Linklisten zunehmend ersetzt.

 

Weiterlesen

In Deutschland ist Bargeld in der Gastronomie nach wie vor ein fester Bestandteil. Das gilt besonders für kleine Beträge und an Theken. Gleichzeitig erwarten vor allem jüngere Gäste moderne, digitale Bezahloptionen. Eine repräsentative Studie des Digitalverbands Bitkom zeigte, dass es 76 % der Deutschen stört, wenn sie nicht mit Karte oder Smartphone zahlen können.

Weiterlesen

Künstliche Intelligenz erreicht mit der Manipulation von Reiseerlebnissen eine neue Stufe der Täuschung. Ein aktueller Fall in Malaysia zeigt, wie gefälschte Videos Touristinnen und Touristen dazu verleiten, Ziele anzusteuern, die gar nicht existieren.

Weiterlesen
Anzeige

Mit einem modernen Kassensystem für die Gastronomie behalten Betreiber ihre Umsätze im Blick. Sie steuern Reservierungen, Online-Bestellungen, Personal und Kundenbindung aus einer Hand. Moderne Kassensysteme bieten Cloud-Integration, mobile Bestellaufnahme und automatische Buchhaltung. So haben Gastgeber mehr Zeit, um sich auf ihre Gäste zu konzentrieren.

Weiterlesen
Anzeige

Ein gutes Tischreservierungssystem kann der Schlüssel zum Erfolg sein. Viele Gastronomen setzen hierfür auf den persönlichen Kontakt über das Telefon, um sicherzustellen, dass jeder Gästewunsch berücksichtigt wird. Dies bindet jedoch erhebliche Ressourcen, die besser für mehr Zeit beim persönlichen Service vor Ort eingesetzt werden könnten.

Weiterlesen

Eine Branchenstudie der h2c GmbH beleuchtet den aktuellen Stand der Künstlichen Intelligenz (KI) und Automatisierung in der Hotellerie. Die Ergebnisse zeigen eine weite Verbreitung von KI, weisen jedoch gleichzeitig auf signifikante Defizite bei Strategie, Budget und Know-how hin.

Weiterlesen

​​​​​​​Mews, Anbieter eines Betriebssystems für Hotels, hat die Übernahme von Flexkeeping, einer Plattform für Hotelbetrieb und automatisiertes Housekeeping, bekannt gegeben. Durch diesen Schritt erweitert Mews das eigene Portfolio um spezialisierte Tools für Housekeeping und die Teamzusammenarbeit im Hotelbetrieb.

Weiterlesen

TikTok erweitert sein Werbeangebot und präsentiert „Travel Ads“. Die neue Funktion soll Hotels, Fluggesellschaften und Destinationen dabei helfen, potenzielle Kunden sowohl in der Inspirationsphase als auch direkt vor der Buchung zu erreichen.

Weiterlesen