Schöne neue HR-Welt: Robot Recruiting und die rechtlichen Grenzen

Für den Begriff der künstlichen Intelligenz (KI) findet sich bislang noch keine allgemeingültige Definition. Oft wird sie mit maschinellem Lernen oder Big Data Analytics gleichgesetzt. Im juristischen Sprachgebrauch wird der Begriff künstliche Intelligenz daher häufig verwendet, um Algorithmen zu beschreiben.

Algorithmen, die in der Lage sind, aus der Analyse von Daten zu "lernen", können sich weiterentwickeln, sich neuen Situationen anpassen und selbstständig Korrelationen herstellen. Das bedeutet, man kann ein solches System etwa mit den Daten bereits eingestellter Bewerber "füttern" und so herausfinden lassen, welche Eigenschaften sie auszeichnen. Die so gewonnenen Erkenntnisse lassen sich gezielt bei zukünftigen Bewerberprozessen verwenden. Diese automatisierte Durchführung eines Bewerberverfahrens nennt sich "Robot Recruiting".

Robot Recruiting wird bislang der sogenannten "schwachen künstlichen Intelligenz" zugerechnet. Das bedeutet, dass die Systeme auf die Lösung konkreter Anwendungsprobleme auf Basis von Methoden aus der Mathematik und Informatik fokussiert sind. Dem gegenüber besitzen "starke" KI-Systeme die gleichen intellektuellen Fähigkeiten wie ein Mensch und können diesen darin sogar übertreffen. Abzugrenzen vom Begriff Robot Recruiting ist das Recruiting 4.0: Hier wird der Prozess der Personalbeschaffung durch die Verwendung von digitalen Plattformen und Medien unterstützt.

Rechtliche Grenzen von Robot Recruiting

Fraglich ist, inwieweit das Robot Recruiting in Deutschland derzeit zulässig ist. Die rechtlichen Grenzen richten sich derzeit insbesondere nach dem Bundesdatenschutzgesetz (BDSG) und der Datenschutzgrundverordnung (DSGVO).

Nach dem Bundesdatenschutzgesetz dürfen personenbezogene Daten im Rahmen eines Arbeitsverhältnisses nicht in jedem Fall erhoben und verarbeitet werden (§ 26 BDSG). Vielmehr muss die Datenverarbeitung für die Entscheidung über die Begründung, Durchführung oder Beendigung eines Beschäftigungsverhältnisses erforderlich sein. Die Begründung verlangt eine umfangreiche Abwägung der widerstreitenden Interessen und Rechtsgüter im Einzelfall. Die Rechtsprechung vertritt hierbei einen sehr restriktiven Ansatz.

Das BDSG macht allerdings eine Einschränkung, wonach eine Datenverarbeitung jedenfalls möglich ist, wenn und soweit eine freiwillige Einwilligung der Bewerberin oder des Bewerbers vorliegt. Die Freiwilligkeit der Einwilligung ist jedoch wohl im Rahmen eines Bewerbungsprozesses in der Regel abzulehnen, denn Freiwilligkeit kann nur angenommen werden, sofern der Bewerber in der Lage ist, die Einwilligung zu verweigern, ohne einen Nachteil zu erleiden. Bei einer Ablehnung des Bewerbungsprozesses muss er jedoch befürchten, gar nicht erst in Betracht gezogen zu werden.

Die DSGVO untersagt es, eine Person, die von einer Datenverarbeitung betroffen ist, einer ausschließlich auf einem automatisierten Prozess beruhenden Einzelentscheidung zu unterwerfen (sogenanntes "Profiling", Art. 22 DSGVO). Genauer: Die Verordnung schützt im Bereich des Personalwesens den Bewerber davor, von einer Entscheidung betroffen zu sein, die aus einem automatisierten Datenverarbeitungsprozess entspringt, ohne dass ein Mensch substanziell steuernd dazwischengetreten ist. Mithin muss sich der Einsatz von künstlicher Intelligenz im Bewerbungsverfahren darauf beschränken, eine Vorauswahl unter Bewerbern zu treffen. Auch hier existiert ein Ausnahmetatbestand für die Einwilligung des Bewerbers, doch auch hier kann in der Regel nicht von einer freiwilligen Einwilligung ausgegangen werden.

Nach der DSGVO ist der Bewerber außerdem bei Erhebung von personenbezogenen Daten zu informieren (§ 13 DSGVO) und erhält einen Auskunftsanspruch (§ 15) – er kann also Auskunft darüber verlangen, ob und welche personenbezogenen Daten erhoben und verarbeitet wurden

Zwischen Objektivität und "maschineller Diskriminierung"

Intelligente Softwarekonzepte eröffnen neue Möglichkeiten im Recruiting. Bereits vor dem Bewerbungsgespräch kann ein automatisierter Algorithmus eine Vorauswahl treffen. Das spart Zeit, denn automatisierte Systeme sind in der Lage, große Datenmengen präziser und schneller zu durchsuchen als der Mensch.

Grundsätzlich sind die intelligenten Systeme zudem in der Lage, eine Entscheidung rein objektiv zu fällen, also sie ausschließlich auf Tatsachen aufzubauen. Künstliche Intelligenz lässt sich nicht von (eigenen) Vorurteilen oder Stimmungen beeinflussen und kann so dabei helfen, Benachteiligungen aus den im Allgemeinen Gleichbehandlungsgesetz genannten Gründen zu verhindern.

Dennoch ist Vorsicht geboten, denn auch bei automatisierten Bewerbungsprozessen ist Diskriminierungspotenzial in Form von sogenannter stellvertretender Diskriminierung (Proxy Discrimination) gegeben. Dazu kann es etwa kommen, wenn eine Gruppe im Datensatz der Vergangenheit überrepräsentiert war und so vom selbstlernenden System auch in Zukunft bevorzugt wird. Einfach ausgedrückt: Wurden bislang hauptsächlich weiße Männer eingestellt, so kann das System aus dem Datensatz lernen, dass weiße Männer bevorzugt eingestellt werden sollen.

Ein weiteres Risiko: Die Leistungsfähigkeit von selbstlernenden Systemen wird zunehmend dazu führen, dass ihr Output von außen immer schwerer nachzuvollziehen ist. Hier muss wieder der Mensch eingreifen und untersuchen, wie das Ergebnis des Datenverarbeitungsprozesses zustande gekommen ist. Das kann mit einem erheblichen Aufwand verbunden sein.

Das könnte Sie auch interessieren:

Rechtliche Fallstricke beim Social Media Recruiting

Robot Recruiting: Möglichkeiten und Grenzen von künstlicher Intelligenz

Künstliche Intelligenz in HR