Dürfen Arbeitnehmende die KI ihre Arbeit machen lassen? Rechtliches zum Einsatz Künstlicher Intelligenz im Arbeitsverhältnis

Was meint eigentlich „Künstliche Intelligenz“?

KI kann einem in vielen verschiedenen Formen begegnen. Während es schon seit längerem für punktuelle Fragestellungen KI-basierte Anwendungen gibt, zeichnen sich die neuen Large Language Models (um die es hier gehen soll) dadurch aus, dass

• sie “selbstlernend” sind, d. h. auf Basis ihnen zugeführter, sehr umfangreicher Trainingsdaten die wahrscheinlichste Lösung ermitteln,
• User ihnen frei formulierte Aufgaben stellen können (da sie menschliche Sprache „verarbeiten können“) und
• die KI einen dazu passenden Text ausgibt, wobei der Output meist wahlweise eine kurze Antwort, ein Aufsatz, ein Brief, eine Mail, ein Vertrag, eine Übersetzung, eine Berechnung, Programmiercode oder eine beliebige andere Sorte Text sein kann, auch auf Deutsch oder anderen Sprachen.

Als Trainingsdaten wurden meist im Internet verfügbare Inhalte verwendet. Zudem kann jede neue Benutzereingabe genutzt werde, um das Sprachmodell weiter zu trainieren.

Die Qualität der Ergebnisse ist unterschiedlich. Vielfach sind sie beeindruckend gut und passen genau zur Nutzereingabe. Teilweise versteht das Sprachmodell aber auch die Aufgabenstellung falsch, übersieht wesentliche Aspekte oder erfindet Inhalte passend zur Aufgabe, selbst wenn der Nutzer nur auf belegte Informationen abstellen wollte (im letzten Fall wird davon gesprochen, dass die KI „halluziniert“).

Höchstpersönlichkeit der Arbeitsleistung gemäß § 613 S. 1 BGB

Angesichts der breiten Nutzbarkeit wird es viele Aufgaben von Arbeitnehmenden geben, die man von einer KI erledigen lassen könnte. Aber darf die Redakteurin in ihrem Beitrag, der Kundendienstmitarbeiter die Antwortmail oder die Programmierer ihren Code von der KI schreiben lassen?

Wenn das Unternehmen seinen Mitarbeitenden eine konkrete KI-Anwendung zur Verfügung stellt, dürfen sie diese auch entsprechend nutzen. Ansonsten aber wird es komplizierter. Denn § 613 S. 1 BGB verpflichtet Arbeitnehmende dazu ihre Arbeitsleistung höchstpersönlich zu erbringen. Dies bedeutet, dass sie keine andere Person an ihrer Stelle die Arbeit erledigen lassen dürfen.

Das Problem im Hinblick auf Künstliche Intelligenz ergibt sich daraus, ob die KI-Anwendung als Einsatz eines Hilfsmittels gewertet oder einer Hilfsperson gleichgestellt wird.

Die bisher überwiegende Meinung stuft die KI-Anwendung als Einsatz eines Hilfsmittels ein, woraus folgt, dass der grundsätzliche Einsatz von Künstlicher Intelligenz keinen Verstoß gegen die Höchstpersönlichkeit der Arbeitsleistung darstellen würde. Dies lässt sich zum einen damit begründen, dass einer KI weder auf deutscher noch europäischer Ebene eine eigene Rechtspersönlichkeit zugestanden wurde. Eine Hilfsperson müsste jedoch klassischerweise eine eigenständige Person sein.

Zum anderen zielt der Schutzzweck der Regelung darauf ab, dass der Person des Arbeitnehmers eine besondere Bedeutung zukommt. Sofern der KI-basierte Datenverarbeitungsprozess also einer menschlichen, bewussten Entscheidungsfindung zuzuführen ist, die KI also nur als Anregung bzw. Unterstützung eingesetzt wird, wäre die Höchstpersönlichkeit wohl gewahrt.

Wichtig ist somit auch das Ausmaß der Anwendung. Beschränkt sich der Arbeitnehmer darauf, zu einer Arbeitsaufgabe eine Anweisung für die KI-Anwendung zu formulieren und verwendet das Ergebnis 1:1, spricht dies für einen Verstoß gegen die Höchstpersönlichkeit der Arbeitsleistung. Gewährleistet der Arbeitnehmer jedoch ein Dazwischentreten in Form einer nennenswerten eigenen Überarbeitung, so dürfte der Rückgriff auf die KI nach bisherigem Stand nicht per se eine Pflichtverletzung darstellen.

Arbeitgeber kann KI-Einsatz verbieten oder einschränken

Arbeitgebern steht es frei, ausdrücklich die Nutzung von Künstlicher Intelligenz zu verbieten. Dann stellt der Einsatz einer KI-Anwendung eine Pflichtverletzung dar, auch wenn diese nur als Hilfsmittel dient. Ebenso ist es möglich, verbindliche Vorgaben zu machen, für welche Aufgaben Arbeitnehmende ggf. KI einsetzen dürfen und was sie dabei zu beachten haben. Bei Verstößen können Arbeitgeber dann – je nach Schwere des Verstoßes – ggf. mittels Abmahnung oder weiteren arbeitsrechtlichen Schritten vorgehen.

Beschränkungen der KI-Nutzung als arbeitsvertragliche Nebenpflicht 

Solange der Arbeitgeber keine Arbeitsweisung erteilt hat, darf KI trotzdem nicht schrankenlos eingesetzt werden. Je nach Gegenstand und Ausmaß der Nutzung können Arbeitnehmende aufgrund ihrer arbeitsvertraglichen Nebenpflichten (§ 241 Abs. 2 BGB) dazu verpflichtet sein, vom Einsatz von KI abzusehen oder zumindest den Arbeitgeber über den Einsatz von KI zu informieren, um Schäden an Rechtsgütern des Arbeitgebers abzuwenden.

• So dürfen Arbeitnehmende aus Datenschutzgründen keine geschützten personenbezogenen Daten in das Dialogfenster der KI eingeben. Zum einen werden viele KI-Modelle auf Servern gehostet, die geringeren Datenschutzstandards als in der EU unterliegen. Zudem lernen die KI-Modelle an jeder Nutzerabfrage weiter, so dass es theoretisch möglich ist, dass andere Nutzer Zugriff auf eingegebene Daten erhalten.
• Bislang wird davon ausgegangen, dass von KI entwickelte Produkte nicht urheberrechtlich schutzfähig sind, da die KI mangels Rechtspersönlichkeit nicht „Schöpfer“ im Sinne des Urheberrechts sein könne. Soweit der Arbeitgeber seinen Kunden Nutzungsrechte an Produkten einräumt, kann die Beteiligung von KI am Erstellungsprozess ihn in die missliche Situation bringen, über diese geistigen Eigentumsrechte gar nicht (oder zumindest nicht im vollen Umfang) zu verfügen und sich schadenersatzpflichtig zu machen.

Aus diesen Gründen spricht einiges für eine Mitteilungspflicht über den Einsatz von KI selbst dann, wenn deren Entwurf nur als Ausgangspunkt weiterer Bearbeitung genutzt wird.

Oftmals sind sich Mitarbeitende über die rechtlichen Risiken für ihren Arbeitgeber bei Nutzung von KI und die daraus resultierende Mitteilungspflicht aber gar nicht bewusst. Deshalb sind Arbeitgeber gut beraten, die entsprechenden Risiken bezogen auf ihr Unternehmen zu prüfen und Vorgaben zur KI-Nutzung zu machen.

Anforderungen an KI-Systeme

Umgekehrt müssen Arbeitgeber auch selbst vorsichtig sein, wenn sie KI-Systeme in der Personalarbeit einsetzen, etwa im Recruiting (siehe hierzu unser entsprechender Blog-Beitrag). Sie sollten zudem die geplante KI-Verordnung der EU berücksichtigen, die KI-Systeme in verschiedene Risikogruppen einteilt, bestimmte Anwendungsformen wegen unvertretbarer Risiken gänzlich verbietet und für Hochrisikoanwendungen strenge Anforderungen vorsieht (ursprünglicher Entwurf einer Verordnung zur Festlegung harmonisierter Vorschriften für Künstliche Intelligenz vom 21. April 2021). Die Verhandlungen hierzu sind derzeit in der Endphase und könnten ggf. noch 2023 abgeschlossen werden.