Sollen Computersysteme Mitarbeitern direkt und verbindlich Anweisungen erteilen (vgl. Beispiele unter Abschn. 2.5), stellen sich aus rechtlicher Sicht zwei Fragen:
- Verbietet Art. 22 DSGVO eine (rein) maschinelle Entscheidung von vornherein? (meistens Nein)
- Welche speziellen Anforderungen stellt § 106 GewO an die Übertragung des Weisungsrechts auf Computersysteme?
Art. 22 Abs. 1 DSGVO: Handelt es sich um die Zuweisung gewöhnlicher Arbeitsaufträge (nächster zu betreuender Kunde, Arbeitsauftrag, herzustellende oder einzusammelnde Sache) ist eine KI-basierte Arbeitsverteilung nicht grundsätzlich nach Art. 22 Abs. 1 DSGVO unzulässig. Dies ergibt sich bereits daraus, dass arbeitsrechtliche Weisungen nur (schon bestehende) Pflichten konkretisieren und in aller Regel keine "rechtliche Wirkung" entfalten. Erst recht nicht dergestalt, dass diese Wirkung den Arbeitnehmer i. S. d. § 22 DSGVO "erheblich beeinträchtigt". Etwas anderes könnte lediglich bei tiefgreifenden und mehr grundsätzlichen Weisungen gelten, wie etwa einer Versetzung oder einem Auslandseinsatz.
§ 106 GewO: Der Arbeitgeber kann hiernach Inhalt, Ort und Zeit der Arbeitsleistung näher bestimmen, muss allerdings billiges Ermessen wahren, also Umstände und Interessen abwägen. Dies gilt auch für die Ordnung und das Verhalten der Arbeitnehmer im Betrieb (z. B. Sicherheitsanweisungen, Kleidung, Prozessorganisation). Jedenfalls das fachliche Weisungsrecht ist übertragbar – grundsätzlich auch auf einen Computer.
Interessenabwägung durch KI möglich?
Vereinzelt wird vertreten, dass die im Rahmen von § 106 GewO erforderliche Abwägung nur von einem Menschen vorgenommen werden kann, sodass maschinelle Weisungen per se unzulässig sind oder ein Mensch auf Anforderung sofort einwirken können muss.
Diese Ansicht ist nicht überzeugend. Es gibt keinen Rechtsgrundsatz, nachdem gesetzliche Vorgaben nur von Menschen erfüllt werden können. So verlässt sich selbst das Finanzamt in den meisten Fällen schon jetzt auf eine vollständig maschinelle Prüfung von Steuererklärungen. Das Risiko unbilliger Entscheidungen liegt in der Natur der gesetzlich geforderten Einzelfallentscheidung nach § 106 GewO. Dies allein kann der Ausübung oder Übertragung des Weisungsrechts – an wen auch immer – also nicht per se entgegenstehen. Eines pauschalen Verbots maschineller Weisungen zum Schutz des Arbeitnehmers bedarf es auch nicht: Arbeitnehmer sind schon von Rechts wegen nicht an unbillige Weisungen gebunden – auch nicht vorläufig. Die Beweislast für die Rechtmäßigkeit trifft außerdem das Unternehmen.
Um den Anforderungen des § 106 GewO gerecht zu werden und damit Weisungen rechtsverbindlich sind, müssen die Interessen und Rechte der potenziellen Weisungsempfänger bei der Programmierung ausreichend Berücksichtigung gefunden haben. Dies kann etwa durch die Verwendung geeigneter Trainingsdaten oder manuelle Nachjustierung einer KI erfolgen. Teilweise wird auch empfohlen, bei maschinellen Weisungen eine Art Widerspruchsfunktion zu integrieren, um zumindest bei Bedarf menschliche Kontrollinstanzen zu aktivieren.
Das Gebot der Transparenz, das beim KI-Einsatz besondere Bedeutung hat, wird auch hier relevant: Jede (auch falsche) Entscheidung der KI wird arbeitsrechtlich dem Unternehmen zuzurechnen sein, weil die Weisung zur Nutzung von ihm ausging. Mindestens bei konfliktträchtigen Weisungen sollten Ermessenserwägungen und allgemein Begründungen für Entscheidungen im Zweifelsfall nachvollzogen und erläutert werden können, um einer gerichtlichen Überprüfung standzuhalten. Hierfür muss man wissen, wie das System funktioniert.
Auswertung von Daten und Steuerung von Arbeitsprozessen
Essenslieferanten z. B. setzen Algorithmen ein, die Daten in Echtzeit auswerten und Arbeitsprozesse steuern, dem Fahrpersonal also bestimmte Lieferungen zuweisen. Auch wenn es sich hierbei nicht um eine "echte" KI handeln würde, stellt sich wegen § 106 GewO die Frage, ob die Dienste "fair" verteilt werden. Unbillig i. S. d. § 106 GewO könnte es z. B. sein, wenn die Software kurz vor Feierabend Fahrer 1 einen Kunden zuweist, der weit von seinem Wohnort entfernt ist, nur weil dieser im Schnitt 3 % schneller ist als Fahrer 2, obwohl Fahrer 2 in der Nähe des Kunden wohnt, also einen kürzeren (unbezahlten) Heimweg hätte.
Das Gebot der Transparenz gilt selbstverständlich erst recht für einschneidende Maßnahmen wie die Kündigung. Eine Kündigung, die ausschließlich auf dem Ergebnis eines softwaregestützten Tests beruht, ohne dass der Arbeitgeber das Ergebnis hinterfragen kann oder hinterfragt hat, ist unwirksam, auch wenn die Software von einem zuverlässigen Provider und von psychologischen Experten entwickelt wurde. Dies folgt bereits daraus, dass der Arbeitgeber für die Kündigungsgründe beweisbelastet ist.