Wird von einem Unternehmen starke KI eingesetzt und die Daten nicht entsprechend vorsortiert eingespielt, sind die vorgenannten Risiken ungleich höher. Sowohl unmittelbare als auch mittelbare Diskriminierungen können nicht oder zumindest nur mit einem erheblichen Aufwand durch ein Unternehmen ausgeschlossen werden. Insbesondere dürfte der Darlegungs- und Beweislast in einem gerichtlichen Prozess kaum nachgekommen werden können. Insofern kann – zumindest nach aktuellem Stand – nicht zu einem solchen Einsatz geraten werden.
Die Diskussion um KI hat jedoch aktuell an Fahrt aufgenommen. In dieser sollten nicht nur technische, sondern auch rechtliche Aspekte diskutiert werden. Gelänge es beispielsweise durch den Einsatz von KI, menschliche Vorurteile zu eliminieren, könnte gerade durch den Einsatz von KI ein Mehrwert für das Recruiting und den Arbeitgeber erfolgen. Jedenfalls könnte der Arbeitgeber auch in einem späteren gerichtlichen Prozess durch Hinweise auf eine eingesetzte KI seiner Darlegungslast nachkommen. Der europäische Gesetzgeber hat diesen Missstand erkannt und dies mit einem umfangreichen Gesetzesvorhaben adressiert.[1]
EU-KI-Verordnung
Die EU-KI-Verordnung ist am 21.5.2024 vom Rat der EU-Mitgliedstaaten verabschiedet worden. Sie unterscheidet u. a. verbotene Systeme mit sog. unannehmbarem Risiko von erlaubten sog. Hochrisiko-Systemen, zu denen die meisten hier beschriebenen schwachen KI-Tools zählen dürften. Als Betreiber werden Arbeitgeber, die die entsprechenden KI-Tools einsetzen, an die entsprechenden Pflichten der Verordnung gebunden sein. Diese werden größtenteils 24 Monate nach dem unmittelbar bevorstehenden Inkrafttreten Anwendung finden.
Dieser Inhalt ist unter anderem im Haufe Personal Office Platin enthalten. Sie wollen mehr?
Jetzt kostenlos 4 Wochen testen