Grundsätzlich berührt der Einsatz von Künstlicher Intelligenz am Arbeitsplatz eine Vielzahl von Rechtsgebieten, so Adél Holdampf-Wendel vom Branchenverband Bitkom. Relevant sind unter anderem das Arbeitsrecht, das Arbeitsschutzrecht, das Datenschutzrecht, das Haftungsrecht, das Urheberrecht, aber auch die am 1. August 2024 in Kraft getretene KI-Verordnung der EU (KI-VO). Was heißt das für Beschäftigte, die KI-Tools bei der Arbeit nutzen? Fragen und Antworten.
Kann der Arbeitgeber vorschreiben, dass Mitarbeitende KI-Tools nutzen müssen?
«Ja, der Arbeitgeber hat ein Weisungsrecht», sagt Prof. Michael Fuhlrott, Fachanwalt für Arbeitsrecht und Mitglied im Verband deutscher Arbeitsrechtsanwälte (VDAA). Der Einsatz von KI-Tools muss aber rechtmäßig sein. Andersherum gilt: Beschäftigte dürfen KI-Tools am Arbeitsplatz nicht ohne Zustimmung des Arbeitgebers nutzen. Tun Arbeitnehmende dies doch, ist dies ein Verstoß gegen interne Vorgaben und kann eine Pflichtverletzung darstellen. «Die Folgen reichen von Ermahnung über eine Abmahnung bis hin zu einer Kündigung», sagt Fuhlrott.
Wer haftet, wenn eine KI fehlerhafte oder diskriminierende Entscheidungen trifft?
Arbeitsfehler eines Mitarbeitenden sind grundsätzlich eine Verletzung der Arbeitspflicht. Sie können für den Beschäftigten arbeitsrechtliche Konsequenzen wie Schadenersatz, eine Abmahnung oder eine (fristlose) Kündigung nach sich ziehen. «Das gilt auch bei Arbeitsfehler bei der Nutzung einer KI», so Bitkom-Expertin Holdampf-Wendel.
Ihr zufolge könnte ein Verschulden gegebenenfalls ausscheiden, wenn der Arbeitgeber die KI als Arbeitsmittel zur Verfügung gestellt hat, der Fehler unvermeidbar war und der Mitarbeitende keine Kontrollmöglichkeit hatte.
Für die Haftung des Arbeitgebers kommen vor allem die Haftung aus vertraglicher Nebenpflicht (Arbeitnehmerschutz) und die deliktische Haftung in Betracht.
In welchen Fällen können Mitarbeitende persönlich haftbar gemacht werden?
Bei betrieblich veranlassten Tätigkeiten im Rahmen des Arbeitsverhältnisses kann es nach dem Grundsatz des sogenannten innerbetrieblichen Schadensausgleichs eine Aufteilung der Haftung zwischen Arbeitgeber und Arbeitnehmer geben. «Dabei kommt es in erster Linie auf den Grad des Verschuldens des Arbeitnehmers, der den Schaden verursacht hat, sowie auch auf die sonstigen Umstände an», so Holdampf-Wendel.
Fuhlrott nennt ein Beispiel: Entsteht dem Unternehmen ein finanzieller Schaden, etwa weil Dritte das Unternehmen auf Schadenersatz in Anspruch nehmen, kann der Arbeitgeber vom Arbeitnehmer Regress verlangen. «Hierbei ist aber auch relevant, ob der Arbeitnehmer überhaupt Schuld hat», so Fuhlrott.
Gibt es Kontrollmechanismen zur Überwachung des KI-Einsatzes durch Mitarbeitende?
Der Betriebsrat, sofern in einem Unternehmen vorhanden, wacht über die Einhaltung der Normen, die Arbeitnehmerinnen und Arbeitnehmer schützen. Überwacht der Arbeitgeber den Einsatz von KI und kontrolliert dadurch Mitarbeitende muss er dies laut Fuhlrott an der Datenschutzgrundverordnung (Artikel 88) ausrichten. «Danach darf kein unzulässiger dauerhafter Kontrolldruck für den Mitarbeiter bestehen», sagt der Arbeitsrechtler. Zudem sind konkrete Überprüfungen eines einzelnen Beschäftigten nur bei einem konkreten Verdacht erlaubt.
Müssen Arbeitgeber ihre Beschäftigten zum Thema KI schulen?
«Wenn Unternehmen KI einsetzen, müssen die Mitarbeiter entsprechend geschult sein», sagt Michael Fuhlrott. Das legt die KI-Verordnung der EU (Artikel 4) fest. Setzt ein Unternehmen KI ein, unterweist die Beschäftigten aber nicht, liegt bei Fehlern ein Mitverschulden beim Arbeitgeber.
Ansonsten können laut Fuhlrott Arbeitgeber zu Schulungen im Bereich KI verpflichtet sein, wenn der Einsatz von KI sicherheitsrelevant ist (Arbeitsschutzgesetz, Paragraf 12) oder wenn Beschäftigte mit personenbezogenen Daten arbeiten und KI zur Datenverarbeitung nutzen (Datenschutzverordnung, Artikel 39). Verpflichtende KI-Schulungen können auch in Tarif- oder Betriebsvereinbarungen vorgesehen sein.
Was bedeutet «menschliche Aufsichtspflicht» bei der Nutzung von KI?
Die Anforderungen sind in der KI-Verordnung der EU geregelt und gelten vor allem für sogenannte Hochrisiko-KI-Systeme. Die KI-Verordnung stuft KI-Systeme in einer Reihe von Anwendungsfällen als hochriskant ein, da sie erhebliche schädliche Auswirkungen auf die Gesundheit, die Sicherheit und die Grundrechte haben können.
KI-Systeme im Bereich «Beschäftigung, Personalmanagement und Zugang zur Selbstständigkeit» sind grundsätzlich Hochrisiko-KI-Systeme, wenn sie für Zwecke wie Bewerberauswahl, Entscheidungen über Beförderungen und Kündigungen, Zuweisung von Aufgaben aufgrund des individuellen Verhaltens oder persönlicher Merkmale sowie Beobachtung und Bewertung der Leistung und des Verhaltens von Beschäftigten zum Einsatz kommen. Prinzipiell gilt ein KI-System immer als hochriskant, wenn es ein Profiling natürlicher Personen vornimmt.
«Hochrisiko-KI-Systeme müssen so konzipiert und entwickelt sein, dass sie während der Dauer ihrer Anwendung von natürlichen Personen wirksam beaufsichtigt werden können», so Holdampf-Wendel. Die menschliche Aufsicht diene der Verhinderung oder Minimierung der Risiken für Gesundheit, Sicherheit oder Grundrechte, die entstehen können, wenn ein Hochrisiko-KI-System verwendet wird. Die KI-Verordnung erlegt auch den Betreibern die Pflicht auf, eine menschliche Aufsicht über das Hochrisiko-KI-System zu ermöglichen. (dpa)
Zahlen & Fakten
