Anwendungsszenarien für künstliche Intelligenz in HR

Künstliche Intelligenz (KI) erhält zunehmend Einzug in verschiedene Bereiche der Arbeitswelt, darunter auch HR. Im Forschungsprojekt "ExamAI" unter Leitung der Gesellschaft für Informatik, gehen die Beteiligten der Frage nach, wie Verfahren aussehen können, die einen beherrschbaren, nachvollziehbaren und fairen Einsatz von KI im Personalmanagement ermöglichen. Sieben Anwendungsszenarien sollen die Gefahren und Potenziale aufzeigen.
KI birgt im HR- und Talentmanagement Chancen und Risiken
Algorithmische Entscheidungsverfahren versprechen Unternehmen effizientere, schnellere und erfolgreichere Personalmanagementprozesse. Gleichzeitig berühren KI-Anwendungen im HR- und Talentmanagement in besonderer Weise die Rechte von Beschäftigen. Der Einsatz von KI erfordert deshalb eine genaue Prüfung hinsichtlich ihrer Nachvollziehbarkeit, Transparenz, Fairness, Gleichbehandlung, Haftbarkeit, Zuverlässigkeit und Datenschutzkonformität, heißt es im Papier zum Forschungsprojekt "ExamAI".
KI-Forschungsprojekt als Ausgangspunkt für weitere Analysen
Zu diesem Zweck hat das interdisziplinäre Projektteam insgesamt elf Szenarien aus den zwei Anwendungsbereichen Personal- und Talentmanagement (7) sowie Mensch-Maschine-Kooperationen in der Industrieproduktion (4) erstellt. Für HR beschreiben die Forscher folgende Szenarien:
- Automatisierte Vorschlagssysteme und Personalplattformen
- Persönlichkeitsbewertung per Lebenslauf, strukturierte Eingabe oder Video
- KI-basierte Background-Checks
- Chatbots in der HR-Abteilung
- Internes Jobprofil-Matching
- Vorhersage der Kündigungsbereitschaft
- Automatische Arbeitszeitzuweisung bei Gig-Workern
Diese sollen kritische Abläufe, aber auch den Nutzen beim Einsatz von KI veranschaulichen und dienen als Ausgangspunkt einer juristischen sowie informatischen Analyse bestehender Probleme, Ungleichbehandlungen, Sicherheitsrisiken und Rechtsverstöße in diesem Kontext.
Background-Checks: Welche Daten dürfen verarbeitet werden?
Ein Beispiel: Automatisierte Background-Checks von Bewerbern können Unternehmen helfen, Recruiting-Prozesse zu beschleunigen. Doch dürfen darin Daten verarbeitet werden, die etwa Bewerber auf Facebook oder Instagram zu privaten Zwecken geteilt haben? Und wie lässt sich verhindern, dass ein Algorithmus fälschlicherweise die Informationen einer namensgleichen Person für die Bewertung heranzieht und dies dazu führt, dass der Bewerber abgelehnt wird?
Transparenter Forschungsprozess anhand von Anwendungsbeispielen
Mit der Veröffentlichung des Papers wollen die Autoren einen transparenten Beitrag zum Forschungsprozess leisten – und diesen in regelmäßigen Abständen aktualisieren. In ihrem Paper liefern sie einen aktuellen Stand ihrer Forschung und veranschaulichen diesen anhand von tatsächlicher Anwendungsbeispiele wie dem IBM-Chatbot "Watson" oder der Spracherkennungssoftware "Precire". Während die Hersteller mit den Vorzügen ihrer Anwendungen werben, dürften Unternehmen sich gleichzeitig auch für deren Schwachstellen interessieren. Denn lehnt HR einen Bewerber auf Basis einer diskriminierenden Software-Empfehlung ab, droht im schlimmsten Falle eine Schadensersatzklage und obendrein eine ordentliche Schramme im Arbeitgeberimage. Das gesamte Paper steht auf der Website des Projektes kostenfrei zum Download.
Am Projekt "ExamAI" arbeitet ein interdisziplinäres Team, bestehend aus Mitgliedern der TU Kaiserslautern, der Universität des Saarlandes, des Fraunhofer-Instituts für Experimentelles Software Engineering IESE, der Stiftung Neue Verantwortung und der Gesellschaft für Information (GI). Das Bundesministerium für Arbeit und Soziales fördert zudem das Projekt.
Das könnte Sie auch interessieren:
Ethikrichtlinien zu künstlicher Intelligenz
-
Workation und Homeoffice im Ausland: Was Arbeitgeber beachten müssen
2.202
-
In diesen Jobs verdienen Azubis am meisten
1.934
-
Essenszuschuss als steuerfreier Benefit
1.235
-
Ablauf und Struktur des betrieblichen Eingliederungsmanagements
1.115
-
BEM ist Pflicht des Arbeitgebers
1.060
-
Vorlage: Leitfaden für das Mitarbeitergespräch
994
-
Probezeitgespräche als Feedbackquelle für den Onboarding-Prozess
952
-
Krankschreibung per Telefon nun dauerhaft möglich
718
-
Checkliste: Das sollten Sie bei der Vorbereitung eines Mitarbeitergesprächs beachten
638
-
Das sind die Gehaltstrends 2025
558
-
Mitarbeiterentwicklung und persönliches Wachstum in Organisationen
14.03.2025
-
Lebensphase schlägt Geburtsjahrgang
14.03.2025
-
Mitarbeitergesundheit, Steuern sparen, Unternehmensimage: Diese Vorteile bringt Fahrradleasing
13.03.2025
-
Rückenübungen füs Büro
13.03.20251
-
Gesunde Ernährung erhöht die Mitarbeitermotivation
12.03.2025
-
So können Sie die Gesundheit Ihrer Mitarbeitenden fördern
12.03.2025
-
Warum eine gute Work-Life-Balance Unternehmen stärkt
12.03.2025
-
Viel Bewegung bei den Anbietern von HR-Software
12.03.2025
-
"Beide Seiten müssen sich besser auf Gehaltsverhandlungen vorbereiten"
11.03.2025
-
Viele erleben Diskriminierung im Job
07.03.2025