Urteile: Chatbot-Betreiber voll für KI-Fehler verantwortlich

| Technologie Technologie

Wer einen Chatbot betreibt, muss für Falschangaben seiner KI haften. So hat das Oberlandesgericht Hamm jüngst eine Schönheitsklinik verurteilt, das Verwenden bestimmter Facharztbezeichnungen zu unterlassen, die ein KI-Chatbot für Kundenanfragen auf der Webseite der Klinik halluziniert hatte (Az.: 4 UKl 3/25).

In dem Fall behauptete der Chatbot auf Anfragen hin, die beiden hinter der Klinik-GmbH stehenden Mediziner seien «Fachärzte für plastische und ästhetische Chirurgie», «Fachärzte für ästhetische Medizin» und «Fachärzte für ästhetische Behandlungen».

Zweimal frei erfunden und einmal hochgestapelt

Das Problem: Die beiden letztgenannten Facharzt-Disziplinen existieren gar nicht - und die beiden geschäftsführenden Ärzte sind keine Fachärzte für plastische und ästhetische Chirurgie.

Verbraucherschützer mahnten die Klinik deshalb zunächst ab und forderten sie in diesem Zusammenhang unter anderem zur Unterzeichnung einer strafbewährten Unterlassungserklärung auf. Zwar wurde der Chatbot in der Folgezeit deaktiviert, die entsprechende Unterlassungserklärung aber nicht unterzeichnet.

Irreführung im großen Stil - und Menschen sind verantwortlich

Deshalb klagten die Verbraucherschützer auf Unterlassung und bekamen Recht. Die OLG-Senat stufte die Chatbot-Aussagen als irreführende geschäftliche Handlung ein, die geeignet sei, Verbraucher und andere Marktteilnehmer zu Entscheidungen zu veranlassen, die sie andernfalls nicht getroffen hätten.

Selbst wenn die Klinik den Chatbot ausschließlich mit korrekten Datensätzen habe programmieren lassen, trage sie für die unstreitigen Falschangaben betreffend der nicht existenten Facharzttitel ihrer Geschäftsführer die Verantwortung, so die Richter.

Auch Grok darf nicht einfach irgendetwas behaupten

Dass Betreiber eines Chatbots für unwahre oder ehrverletzende Tatsachenbehauptungen der KI haften, wenn die Falschinformationen auf dem Account eines sozialen Netzwerks dauerhaft und öffentlich abrufbar sind, hatte Ende 2025 etwa auch schon das Landgericht Hamburg in einem Urteil entschieden (Az.: 324 O 461/25).

In dem Fall ging es um den KI-Chatbot Grok auf der Kurznachrichten-Plattform X (ehemals Twitter). Ein Nutzer hatte Grok nach Institutionen gefragt, die stark von staatlicher Förderung abhängen. Die KI generierte daraufhin eine Liste, in der explizit auch ein deutscher Verein genannt wurde. Der Chatbot behauptete etwa fälschlicherweise, dass der Verein hohe Bundesmittel erhalte und verwies dabei auch auf angebliche Quellen.

Darstellung rechtlich unzulässig - der Mensch bleibt verantwortlich

Der betroffene Verein klagte deshalb auf Unterlassung und bekam Recht. Die Tatsache, dass der fehlerhafte Inhalt von einer Maschine generiert wurde, ändere nichts an der rechtlichen Unzulässigkeit der Darstellung, bemerkten die Hamburger Richter.

Der Betreiber müsse sich den Output «zu eigen machen», da er das System so konfiguriert hat, dass die Ergebnisse ungeprüft direkt veröffentlicht würden. Damit hafte der Betreiber nach den Grundsätzen der Störerhaftung für die Verletzung des Vereinspersönlichkeitsrechts. Die Richter untersagten X, die Behauptung weiterzuverbreiten. (dpa)


Zurück

Vielleicht auch interessant

Accor hat ALL Concierge für die Hotelsuche und Fragen von Gästen eingeführt. Weitere Funktionen rund um Buchungen und Anfragen nach dem Aufenthalt sind angekündigt.

Expedia will Hotels über Metas KI-Agenten Muse buchbar machen. Die Ankündigung folgt auf Kursverluste von Reiseplattformen, die Medien mit Sorgen von Anlegern über Muse in Verbindung brachten. Wann die Buchungsfunktion in den USA startet, ist offen.

BE-A sieht aus wie eine Rezeptionistin, die direkt mit Hotelgästen spricht. Die Arbeit des KI-Systems beginnt aber schon vor der Ankunft: Es beantwortet Nachrichten, nimmt Anrufe entgegen und kann Buchungsanfragen bearbeiten. FLÆ Robotics entwickelt dafür mehrere Produktvarianten – vom schriftlichen Assistenten bis zum Avatar in der Holobox.

Künstliche Intelligenz (KI) zieht zunehmend in den Bereich der Ernährung ein – beispielsweise als Einkaufsberater oder sogar kochender Roboter. Viele Menschen in Deutschland stehen einer Umfrage zufolge der Technologie aber skeptisch gegenüber.

Bonieren ist keine Innovation – und bunte Dashboards machen noch kein intelligentes Kassensystem. Während künstliche Intelligenz die Entwicklung beschleunigt, entscheidet sich der Wettbewerb künftig an einer anderen Stelle: Wer macht aus Daten konkrete Handlungsempfehlungen? Stefan Brehm erklärt, warum die Kasse zum Betriebssystem des Restaurants werden muss – zum „POS in your Pocket“.

Pressemitteilung

Seit dem 31. August 2026 ist der Self-Service-Zugang zu ChatGPT Ads in 31 europäischen Märkten verfügbar. Für Hotels eröffnet sich damit ein neuer möglicher Kontaktpunkt im Online-Marketing und Vertrieb. Online Birds sammelt erste Praxiserfahrungen und zeigt, welche Rolle ChatGPT Ads künftig in der Hotel Customer Journey spielen können.

Pressemitteilung

​​​​​​​Mit dem neuen Kiosk-Angebot bietet Straiv die modulare Check-in-Gesamtlösung aus einer Hand: Höchste Aufstellflexibilität, verlässlicher Service und maximale Betriebssicherheit für jeden Touchpoint im Hotelalltag. 

Künstliche Intelligenz hat in Deutschland erstmals die Mehrheit der Unternehmen erreicht. Zugleich sehen sich die meisten Unternehmen bei KI noch ganz am Anfang. Kein Unternehmen gibt an, das Potenzial vollständig zu nutzen.

Eventmachine stellt mit „FastPath Setup“ einen KI-gestützten Daten-Onboarding-Prozess für den MICE-Vertrieb vor. Aus verstreuten Unterlagen und Mitarbeiterwissen entsteht ein strukturiertes Angebotsportfolio, während der „Setup Health Check“ Konfigurationen live auf Logikfehler und falsches Pricing prüft. So können Hotels ab dem ersten Tag fehlerfreie MICE-Sofortangebote erstellen.

Pressemitteilung

Die Hotellerie steht angesichts des anhaltenden Fachkräftemangels und steigender Betriebskosten vor der Herausforderung, operative Abläufe effizienter zu gestalten. Mit der Veröffentlichung des neuen White Papers „Der Generationenkompass im Hotelbetrieb“ präsentiert der Hotel-Technologieanbieter Straiv frische empirische Marktdaten zu den tatsächlichen Erwartungen von Hotelgästen.