Zahlen & Fakten
Softwareplattformen und Finanzexperten schlagen Alarm: Die Nutzung fortschrittlicher Künstlicher Intelligenz (KI) wie OpenAI's GPT-4o hat zu einem signifikanten Anstieg ultrarealistischer, gefälschter Spesenbelege in Unternehmen geführt. Während Spesenbetrug kein neues Phänomen ist, ermöglichen es aktuelle KI-Modelle, täuschend echte Fälschungen ohne technische Vorkenntnisse in Sekundenschnelle zu erstellen.
Explosiver Anstieg seit Einführung neuer KI-Modelle
Verschiedene Softwareanbieter und Finanzdienstleister verzeichnen eine deutliche Zunahme betrügerischer Aktivitäten im Zusammenhang mit KI. Die Spesenmanagement-Plattform Medius berichtete, dass nach der Einführung von OpenAI’s GPT-4o etwa 30 Prozent der befragten Finanzfachleute in den USA und Großbritannien einen Anstieg an gefälschten Rechnungen feststellten. Die KI-Finanzautomatisierungs-Plattform AppZen gab bekannt, dass im September 14 Prozent der eingereichten betrügerischen Dokumente KI-generierte Belege waren. Im Vorjahr gab es laut Bericht keine solchen Fälle. Die Fintech-Gruppe Ramp teilte zudem mit, dass die hauseigene Software innerhalb von 90 Tagen gefälschte Rechnungen im Wert von mehr als einer Million US-Dollar aufdeckte.
Diese Entwicklung macht es für menschliche Prüfer extrem schwierig, Fälschungen zu erkennen. Chris Juneau, Senior Vice President des auf Spesenabrechnungen spezialisierten Unternehmens SAP Concur, sagte gegenüber der Financial Times: „Diese Belege sind so gut geworden, dass wir unseren Kunden sagen: Trauen Sie Ihren Augen nicht.“
Hohe Qualität der Fälschungen und geringe Einstiegshürden
Die neuen KI-Tools können Bewirtungsbelege erstellen, die mit passendem Hintergrund, realistischen Einträgen, die zu echten Speisekarten passen, und sogar authentisch wirkenden zerknitterten Papierfalten überzeugen. Mason Wilder, Forschungsdirektor der Association of Certified Fraud Examiners, fasst die Gefahr zusammen: „Es gibt keine Einstiegshürden für Menschen, die dies tun möchten. Man benötigt keinerlei technologische Kenntnisse oder Fähigkeiten, wie sie vielleicht noch vor 5 Jahren für die Verwendung von Photoshop erforderlich gewesen wären.“
Auch Führungskräfte sind sich des Problems bewusst. Fast 70 Prozent der von SAP im Juli befragten Finanzvorstände gehen davon aus, dass Mitarbeitende KI nutzen, um Belege zu fälschen; 10 Prozent sind sicher, dass dies in ihrem Unternehmen bereits geschieht.
Gegenwehr der Unternehmen: KI gegen KI
Als Reaktion auf die steigenden Schäden setzen Unternehmen ihrerseits auf Künstliche Intelligenz, um die KI-generierten Fälschungen zu enttarnen. Zunächst prüfen diese Tools die Metadaten der eingereichten Bilder, da die mit ChatGPT generierten Bilder von OpenAI mit Metadaten versehen werden, die ihre KI-Generierung verraten. Allerdings kann dies leicht umgangen werden, indem ein Screenshot von der gefälschten Rechnung gemacht oder der Beleg ausgedruckt und abfotografiert wird.
Daher gehen die Prüf-Tools tiefer. Sie analysieren die Inhalte auf den Quittungen akribisch auf Ungereimtheiten, beispielsweise durch die genauere Überprüfung von Zeiten und Personalnamen oder den Vergleich der Belegdaten mit den Reiseinformationen der Angestellten. Calvin Lee, Senior Director of Product Management bei Ramp, bemerkte dazu, dass KI-Tools „alles mit einem hohen Fokus und enormer Aufmerksamkeit für Details anschauen.“
Rechtliche Konsequenzen und Rechtfertigungen der Mitarbeiter
Spesenbetrug erfüllt die Straftatbestände für Betrug und Urkundenfälschung und kann arbeitsrechtlich eine fristlose Kündigung rechtfertigen. Dennoch ist die Akzeptanz von Spesenbetrug in Teilen der Belegschaft hoch. Eine Umfrage von Opinium Research für den Softwarehersteller SAP in Deutschland ergab, dass 53 Prozent der Arbeitnehmer nichts gegen Spesenbetrug einzuwenden haben. Die Befragten hielten es bis zu einem Betrag von 106 Euro für akzeptabel, eine wissentlich falsche Abrechnung einzureichen.
Laut Umfrage rechtfertigen Arbeitnehmer den Spesenbetrug oft mit "Fairnessgründen", um damit beispielsweise unbezahlte Überstunden oder Mehrausgaben im Homeoffice auszugleichen. Betroffen sind laut SAP Concur rund 15 Prozent aller Unternehmen. Deutsche Unternehmen mit bis zu 250 Mitarbeitern verlieren jährlich knapp 14.000 Euro durch Spesenbetrug. Besonders beliebt seien private Restaurantrechnungen oder das Abrechnen privat genutzter Büroausstattung. OpenAI hat gegenüber der Financial Times erklärt, dass das Unternehmen bei Verstößen gegen seine Richtlinien reagieren und Maßnahmen ergreifen werde.
