Das Antidiskriminierungsrecht spielt im Bewerbungsverfahren und dort insbesondere beim Einsatz von IT-Tools und KI eine zentrale Rolle. Die Normen des AGG knüpfen nicht an die Verwendung bestimmter Technologien an. Gemäß §§ 1, 7 Abs. 1 AGG dürfen Beschäftigte (zu denen auch Bewerber zählen) nicht aus Gründen der Rasse oder wegen der ethnischen Herkunft, des Geschlechts, der Religion oder Weltanschauung, einer Behinderung, des Alters oder der sexuellen Identität benachteiligt werden. In § 3 AGG werden dabei die verschiedenen Formen der Benachteiligung legaldefiniert. Neben der unmittelbaren Benachteiligung kann auch ein Verstoß gegen das Benachteiligungsverbot wegen einer nur mittelbaren Diskriminierung begangen werden.
Die rechtlichen Rahmenbedingungen, die Arbeitgeber im Rahmen von Bewerbungsverfahren einzuhalten haben, müssen bei der Nutzung von IT-Tools oder KI ebenfalls zwingend beachtet werden.[1] Es müssen jedoch zusätzlich einige Aspekte berücksichtigt werden. Insbesondere können IT-Tools und KI einerseits gerade dazu beitragen, dass die Risiken von Diskriminierungen abgemildert werden (insbesondere in Bezug auf unmittelbare Diskriminierungen). Andererseits bestehen vor allem beim Einsatz von KI neue Gefahren in Bezug auf mittelbare Diskriminierungen, denen Arbeitgeber entgegenwirken müssen.
Unterschied unmittelbare und mittelbare Diskriminierung
Eine unmittelbare Diskriminierung liegt vor, wenn eine Person aufgrund eines in § 1 AGG genannten Merkmals benachteiligt wird. Eine mittelbare Diskriminierung erfolgt nicht offensichtlich wegen eines in § 1 AGG genannten Merkmals, sondern resultiert aus scheinbar neutralen Kriterien. Diese gelten zunächst für alle gleichermaßen, in ihrem Effekt aber wirken sie sich auf bestimmte Gruppen stärker benachteiligend aus als auf andere.
Der Arbeitgeber kann sich durch den bloßen Verweis auf IT-Tools oder KI nicht exkulpieren. Mit Blick auf mittelbare Diskriminierungen ist insbesondere beim Einsatz von KI besondere Vorsicht geboten, da sie unter Umständen Verknüpfungen herstellen könnte zwischen einem in §§ 1, 7 Abs. 7 AGG genannten Merkmal und einem auf den ersten Blick neutralen Kriterium. Zu denken ist beispielsweise an die Postleitzahl der Meldeadresse eines Bewerbers, die gegebenenfalls Rückschlüsse auf die ethnische Herkunft zulassen kann.
Beim Einsatz von IT-Tools und KI gelten Benachteiligungsverbotsgrundsätze wie bei menschlichen Tätigkeiten. Im Ergebnis drohen dem Arbeitgeber – auch beim Einsatz von IT-Tools und KI – bei unmittelbaren oder mittelbaren Diskriminierungen Schadensersatz- und Entschädigungsforderungen.[2] Hierbei ermöglicht die Beweislastregel des § 22 AGG dem Bewerber, zunächst lediglich Indizien zu beweisen, die eine Benachteiligung wegen eines in § 1 AGG genannten Grundes vermuten lassen. Der Arbeitgeber muss sodann beweisen, dass kein Verstoß gegen die Bestimmungen zum Schutz vor Benachteiligung vorgelegen hat.
1.1 KI-Tools
Werden "klassische" IT-Tools im Bewerbungsverfahren eingesetzt, muss bei der Programmierung darauf geachtet werden, dass hierdurch keine Diskriminierung "vorprogrammiert" ist. Beispielsweise indem potenziell diskriminierende Aspekte gar nicht erst abgefragt werden. Hilfreich ist es deshalb – wie bei jedem Einsatz von IT – wenn die Eingabe von Datensätzen möglichst einheitlich erfolgt. Dies bedeutet, dass über eine Maske jeder Bewerber dieselben Parameter eingibt. Auch hier kann der Einsatz von IT schon vorab helfen, Diskriminierungen entgegenzuwirken, indem die Individualisierung der ersten Bewerberrunde durch Vereinheitlichung der Dateneingaben minimiert wird. Auch wenn Bewerbertools gerade deshalb oftmals auf potenzielle Bewerber abschreckend wirken, ist dies gerade eine Möglichkeit, Diskriminierungen entgegenzuwirken. Diese IT-Tools können anschließend bei der Vorauswahl oder Sortierung von Bewerbern helfen. Arbeitgeber dürfen hierbei keine diskriminierenden Aspekte bestimmen. So dürfen ältere Bewerber für offene Stellen, bei denen Führungsverantwortung erwartet wird, nicht lediglich aufgrund ihres Alters mehr Punkte als jüngere Bewerber erhalten. Erst recht dürfte hier keine Sortierung nach dem Alter vorgenommen werden.
Eine nichtdiskriminierend programmierte Vorsortierung kann zur Folge haben, dass in einem etwaigen gerichtlichen Prozess gegenüber einem Bewerber dargelegt werden kann, dass eine Vorsortierung nach klaren Vorgaben stattgefunden hat und somit gar keine "menschliche" Diskriminierung in diesem Prozessschritt stattgefunden haben kann. Im Ergebnis muss der Arbeitgeber jedoch nachvollziehbar sicherstellen, dass die eingesetzten IT-Tools so programmiert sind, dass eine unmittelbare oder mittelbare Diskriminierung des Bewerbers in ihrer Anwendung ausgeschlossen ist.
Entscheidend ist beim Einsatz von IT-Tools stets, dass diese keine abschließende Entscheidung über eine Einstellung treffen dürfen. Vielmehr muss es in den allermeisten F...
Dieser Inhalt ist unter anderem im Haufe Personal Office Platin enthalten. Sie wollen mehr?
Jetzt kostenlos 4 Wochen testen