Urteile: Chatbot-Betreiber voll für KI-Fehler verantwortlich

| Technologie Technologie

Wer einen Chatbot betreibt, muss für Falschangaben seiner KI haften. So hat das Oberlandesgericht Hamm jüngst eine Schönheitsklinik verurteilt, das Verwenden bestimmter Facharztbezeichnungen zu unterlassen, die ein KI-Chatbot für Kundenanfragen auf der Webseite der Klinik halluziniert hatte (Az.: 4 UKl 3/25).

In dem Fall behauptete der Chatbot auf Anfragen hin, die beiden hinter der Klinik-GmbH stehenden Mediziner seien «Fachärzte für plastische und ästhetische Chirurgie», «Fachärzte für ästhetische Medizin» und «Fachärzte für ästhetische Behandlungen».

Zweimal frei erfunden und einmal hochgestapelt

Das Problem: Die beiden letztgenannten Facharzt-Disziplinen existieren gar nicht - und die beiden geschäftsführenden Ärzte sind keine Fachärzte für plastische und ästhetische Chirurgie.

Verbraucherschützer mahnten die Klinik deshalb zunächst ab und forderten sie in diesem Zusammenhang unter anderem zur Unterzeichnung einer strafbewährten Unterlassungserklärung auf. Zwar wurde der Chatbot in der Folgezeit deaktiviert, die entsprechende Unterlassungserklärung aber nicht unterzeichnet.

Irreführung im großen Stil - und Menschen sind verantwortlich

Deshalb klagten die Verbraucherschützer auf Unterlassung und bekamen Recht. Die OLG-Senat stufte die Chatbot-Aussagen als irreführende geschäftliche Handlung ein, die geeignet sei, Verbraucher und andere Marktteilnehmer zu Entscheidungen zu veranlassen, die sie andernfalls nicht getroffen hätten.

Selbst wenn die Klinik den Chatbot ausschließlich mit korrekten Datensätzen habe programmieren lassen, trage sie für die unstreitigen Falschangaben betreffend der nicht existenten Facharzttitel ihrer Geschäftsführer die Verantwortung, so die Richter.

Auch Grok darf nicht einfach irgendetwas behaupten

Dass Betreiber eines Chatbots für unwahre oder ehrverletzende Tatsachenbehauptungen der KI haften, wenn die Falschinformationen auf dem Account eines sozialen Netzwerks dauerhaft und öffentlich abrufbar sind, hatte Ende 2025 etwa auch schon das Landgericht Hamburg in einem Urteil entschieden (Az.: 324 O 461/25).

In dem Fall ging es um den KI-Chatbot Grok auf der Kurznachrichten-Plattform X (ehemals Twitter). Ein Nutzer hatte Grok nach Institutionen gefragt, die stark von staatlicher Förderung abhängen. Die KI generierte daraufhin eine Liste, in der explizit auch ein deutscher Verein genannt wurde. Der Chatbot behauptete etwa fälschlicherweise, dass der Verein hohe Bundesmittel erhalte und verwies dabei auch auf angebliche Quellen.

Darstellung rechtlich unzulässig - der Mensch bleibt verantwortlich

Der betroffene Verein klagte deshalb auf Unterlassung und bekam Recht. Die Tatsache, dass der fehlerhafte Inhalt von einer Maschine generiert wurde, ändere nichts an der rechtlichen Unzulässigkeit der Darstellung, bemerkten die Hamburger Richter.

Der Betreiber müsse sich den Output «zu eigen machen», da er das System so konfiguriert hat, dass die Ergebnisse ungeprüft direkt veröffentlicht würden. Damit hafte der Betreiber nach den Grundsätzen der Störerhaftung für die Verletzung des Vereinspersönlichkeitsrechts. Die Richter untersagten X, die Behauptung weiterzuverbreiten. (dpa)


Zurück

Vielleicht auch interessant

Immer mehr Reisende setzen künstliche Intelligenz bei der Urlaubsplanung ein. Gleichzeitig sinkt das Vertrauen in die Ergebnisse. Eine US-amerikanische Studie zeigt außerdem, welche Rolle Hotelbewertungen spielen und wie sich die Buchungswege verändern.

Im Münchner Norden könnten Fahrgäste in ein Taxi ohne Fahrer steigen – zunächst sitzt allerdings noch eine Sicherheitskraft mit an Bord. Wie man die kostenlosen Testfahrten buchen kann.

Google erweitert seine Kartenanwendung um eine KI-Suche, mit der Nutzer unter anderem Restaurants nach konkreten Anforderungen und verfügbaren Plätzen finden sollen. Ask Maps kommt jetzt auch nach Deutschland, Österreich und in die Schweiz. Welche Reservierungsfunktionen hierzulande bereits verfügbar sind, bleibt offen.

OpenAI testet ein eigenes Anzeigenformat für Hotels in ChatGPT. Bilder, Einstiegspreise und Gästebewertungen können gemeinsam in Werbeanzeigen erscheinen. Die Funktion steht bislang nur ausgewählten Werbekunden zur Verfügung.

Die Mirus Deutschland GmbH, der Spezialist für HR- und Payroll-Lösungen, erweitert ihr Angebot um agentische Künstliche Intelligenz: Mit Mirus AI steht Personalabteilungen personalstarker Unternehmen ab sofort eine Plattform für Human Resources und Personalmanagement zur Verfügung, die HR-Aufgaben eigenständig über mehrere Schritte hinweg bearbeitet und fertige Ergebnisse liefert.

​​​​​​​Wie würde eine neue Buchungsmaschine auf der eigenen Hotel-Website funktionieren? Mit der neuen DIRS21 One Demo-IBE erhalten Hoteliers innerhalb weniger Minuten eine individuelle Vorschau ihrer künftigen Direktbuchungslösung. Dafür genügt die Eingabe der eigenen Website-Adresse. Mehr erfahren bei Tageskarte.

OpenAI hat das KI-Reise-Start-up Odessia übernommen. Gründer Francis Davidson, der zuvor Sonder aufgebaut hatte, wechselt zu OpenAI und soll sich dort mit dem Reisebereich beschäftigen; konkrete neue Produkte wurden bislang nicht angekündigt.

Beim Softwareanbieter Vioma sind Buchungsdaten von Hotelgästen unbefugt abgerufen worden. Das Unternehmen nennt persönliche Kontaktdaten und Buchungsinformationen als wahrscheinlich betroffen, hat Strafanzeige erstattet und warnt vor möglichen Betrugsversuchen.

Wie viel Umsatz geht Hotels durch verpasste Anrufe verloren? Das Leipziger Technologie-Unternehmen Onsai hat mehr als 1,5 Millionen KI-Gespräche ausgewertet. Die Ergebnisse zeigen, wann Gäste besonders häufig anrufen, welche Anliegen Künstliche Intelligenz selbstständig erledigen kann und welches Umsatzpotenzial im Telefon steckt. Alles Infos bei Tageskarte.

Die deutsche Wirtschaft wünscht sich Künstliche Intelligenz aus Deutschland. Allerdings sind fast zwei Drittel nicht bereit, dafür Abstriche in Kauf zu nehmen, wie etwa einen höheren Preis oder geringeren Funktionsumfang, so eine Bitkom-Umfrage.