"Von den ersten miss­glückten Anwendungen lernen"

Personalmagazin: Professor Kersting, in einer von Ihnen mitkonzipierten Studie des Bundesverbands für Personalmanager und des Ethikbeirats HR-Tech wurde untersucht, inwiefern künstliche Intelligenz in Recruiting und Personalauswahl in der Praxis zum Einsatz kommt. In welchen Anwendungsbereichen ist KI bisher am weitesten verbreitet?

Martin Kersting: Die Daten aus unserer Befragung von HR-Führungskräften und HR-Fachkräften zeigen, dass technisch innovative Anwendungen am häufigsten bei der Suche nach potenziellen Bewerbenden und deren Ansprache sowie im Bereich der Vorauswahl im Einsatz sind. Konkret geht es beispielsweise um die Optimierung von Stellenanzeigen oder die zu nutzenden Rekrutierungskanäle. Optimiert wird etwa das Wording für den Jobtitel oder der Anzeigentext. Bei der Vorauswahl wird das CV-Parsing genutzt: Relevante Daten werden automatisch aus Lebensläufen extrahiert und systematisch in Datenbanken übertragen. Auch der Einsatz von Chatbots für die Bearbeitung einfacher Fragen kommt relativ häufig vor. Sie werden sowohl für Bewerbende als auch für Mitarbeitende eingesetzt. 

Personalmagazin: Heißt das, der praktische Nutzen, den sich HR durch den KI-Einsatz erhofft, liegt vor allem in der Erweiterung des Bewerber-Pools und in der zielgenaueren Ansprache?

Kersting: Den HR-Bereichen geht es meines Erachtens neben Effizienzgewinnen vor allem darum, menschliche Schwächen der Beurteilung und Vorurteile zu überwinden. Zudem besteht ein gewisser Druck, dass HR in Bezug auf die Digitalisierung endlich zu den anderen Unternehmensbereichen aufschließt. Häufig wirkt der HR-Bereich wie ein mittelalterlicher Handwerksbetrieb inmitten einer technisch hochentwickelten Organisation, der sich hartnäckig der digitalen Transformation entzieht. 

Nutzt man KI unreflektiert, katapultiert uns das vermeintlich fortschrittliche Tool zurück in die Steinzeit." - Prof. Dr. Martin Kersting

Personalmagazin: Gerade bei der Bewertung von Menschen werden aber doch auch die Schwächen von KI offenbar: Es gibt zahlreiche Beispiele, die zeigen, dass die Maschine bei der Personalauswahl diskriminiert …

Kersting: Bei den Schwächen und Risiken von KI muss man unterscheiden zwischen den Risiken, die das Tool selbst mitbringt, und den Risiken einer unsachgemäßen Nutzung durch die Personalerinnen und Personaler. Ein System ist nur so gut wie die Daten, die es verarbeitet. Wenn es den Eingangsdaten an Qualität mangelt, sind auch alle weiteren Analysen mangelhaft. Auf der Basis von planlos gesammelten Daten in zweifelhafter Qualität kann keine sinnvolle HR-Arbeit entstehen. Das ist das altbekannte Prinzip "Garbage in, Garbage out". Ein Spezialfall beim Thema "Datenqualität" ist die Aktualität und die Repräsentativität der Daten. Der Rechner entwickelt seine Algorithmen anhand des Trainingsdatensatzes und prognostiziert auf dieser Datenbasis die Zukunft. Wenn in der Vergangenheit nur Männer Führungskräfte waren, dann "lernt" das System, dass Führungskräfte männlich sind, und schlägt für die Zukunft nur Männer als Führungskräfte vor – der Vorschlag der Maschine ist diskriminierend. Nutzt man die Technik also unreflektiert, katapultiert uns das vermeintlich fortschrittliche Tool zurück in die Steinzeit. Um Daten aus dem Personalbereich zu interpretieren, ist es wichtig, Erfahrung im Personalbereich und einen Überblick über die Theorien der Personalpsychologie zu haben. Deshalb ist es wirklich schade, dass diese Tools anscheinend ausschließlich von Data Scientists entwickelt werden, denen diese Personalexpertise fehlt.
Wenn wir die vorhin genannten häufigsten Anwendungsfälle von KI betrachten:

KI-Tools: Stärken und Risiken

Personalmagazin: Welche Stärken haben diese Tools?

Kersting: Die Optimierung der Stellenanzeigen kann genutzt werden, um die Diversität zu steigern. Eine Stellenanzeige, die die Jobanforderung mit Begriffen wie Kommunikationsfähigkeit oder Kooperationsbereitschaft beschreibt, nutzt eher stereotyp weibliche Wörter. Eine Stellenanzeige mit den Begriffen Durchsetzungsfähigkeit oder Risikobereitschaft nutzt eher stereotyp männliche Wörter. Analysen zeigen, dass stereotyp männliche Wörter in Stellenanzeigen insgesamt häufiger vorkommen und dass bei Frauen die Bereitschaft zu einer Bewerbung bei Stellenanzeigen mit stereotyp männlichen Anforderungen sinkt. Auch die Berufsbezeichnung kann Gender-Stereotype transportieren. Hier liegt die große Stärke der Tools: Eine gezielte Umformulierung der Stellenanzeige mithilfe von KI kann dazu beitragen, die Geschlechterhomogenität im Pool der Bewerbenden aufzuweichen. 

Personalmagazin: Trägt die Optimierung der Ansprache per KI auch Risiken in sich?

Martin Kersting: Ja, insbesondere bei der Technik der individualisierten Ansprache besteht die Gefahr, dass die Individualisierung bestehende Missstände zementiert oder sogar noch verstärkt. Maschinen lernen zum Beispiel, Stellenanzeigen nur Personen zu zeigen, die potenziell Interesse an einer solchen Anzeige haben. Frauen klicken Stellenanzeigen für Führungspositionen weniger häufig an als Männer. Die Maschinen "lernen" daraus, dass Führungspositionen für Frauen uninteressanter sind, und bieten diese häufiger Männern an. Somit schaukelt sich der negative Trend weiter auf. Dies gilt natürlich auch für andere Gruppen, zum Beispiel Personen mit Migrationshintergrund. Die Individualisierung der Ansprache kann also die soziale Teilhabe gefährden, wenn bestimmte Gruppen bestimmte Jobs nicht angeboten bekommen. 

Personalmagazin: Inwiefern hat HR bisher von den Versuchen mit KI profitiert, indem die "menschliche" Diagnostik in der Folge verbessert wurde? 

Kersting: Noch haben wir nicht profitiert, aber wir könnten enorm von diesen ersten missglückten HR-Anwendungen lernen. Wir wissen ja, wie Columbus den Seeweg nach Indien suchte und Amerika fand. Die Analyse der bisherigen HR-Tech-Ansätze hat gezeigt, dass HR kaum über belastbare Daten verfügt und offensichtlich unsachgemäße Gesichtspunkte wie Geschlecht und Alter eine erhebliche Rolle bei Entscheidungen gespielt haben. Es ist ein Riesenglück, dass das nun offenbar wird. Die Konsequenz darf nicht sein, dass wir zu intransparenten Verfahren zurückkehren und damit den Dreck unter den Teppich kehren. Der Stein des Anstoßes muss zu einem Anstoß des Denkens werden und zu einem anderen Handeln führen. 

Personalmagazin: Die Probleme liegen also nicht in der Technologie, sondern in den Verfahren und Methoden?

Kersting: Das, was jetzt offenbar wird, gab es schon immer. Schon immer führten nachlässig durchgeführte oder von Anfang an dubiose Methoden der Personalarbeit zu unerwünschten Ergebnissen. Und auf soliden Theorien und empirischen Erkenntnissen basierende Empfehlungen für gute Personalarbeit wurden schon immer gern ignoriert. Im Personalbereich herrscht nicht erst im digitalen Zeitalter Irrlichterei. Allerdings kann die Digitalisierung von fehlerhaftem Vorgehen brandgefährlich werden, weil diese Verfahren skaliert werden können. Auch geringe Fehlerraten können fatale Konsequenzen haben, wenn die Systeme auf große Personalzahlen angewendet werden. 

Kriterien und Ziele der Personalarbeit reflektieren

Personalmagazin: Sehen Sie die Tendenz, dass Unternehmen aus diesen Gründen beschließen, auf den Einsatz von KI zu verzichten, und stattdessen versuchen, den analogen Prozess zu verbessern? 

Kersting: Es wäre furchtbar, wenn wir diese Konsequenz ziehen würden. Jetzt ist wirklich wichtig, dass wir das Thema mit Qualität angehen. Die Technik zwingt uns, die der Personalarbeit zugrunde liegenden Kriterien und die angestrebten Ziele zu reflektieren. Der Vorteil dieses datengestützten Vorgehens ist, dass die Kriterien expliziert werden. Wer Maschinen nutzen will, der kann sich nicht mehr hinter "High Level Bullshit"-Sprech zurückziehen, sondern muss klar benennen, welche Verhaltensweisen und Ergebnisse Bewerbende und Beschäftigte auszeichnen, die positiv bewertet werden. Und der muss klar sagen, wer in der Organisation aus welchen Gründen ein Talent, Star oder "Low Performer" ist. Es gilt, die Entscheidungskriterien offenzulegen und zu rechtfertigen. 

Personalmagazin: Es gibt auch die automatisierte Analyse von Audio- und Videoaufnahmen, die laut Ihren Studiendaten im Moment kaum in der Praxis Anwendung findet. Können Sie das als Erfolg für die wissenschaftliche Kritik an diesen Verfahren verbuchen? 

Kersting: Ich sehe es als Erfolg, wenn wir Qualität im HR-Bereich etablieren und steigern. Für die Qualitätssteigerung müssen wir auch neue Methoden wie Videoanalysen entwickeln und erproben. Die Erprobung muss aber verantwortungsvoll erfolgen, nicht in der Praxis am offenen Herzen. Bewerbende sind keine Versuchspersonen. Deshalb sollten Computeranwendungen, die weitreichende Konsequenzen für Menschen haben, streng überwacht werden, ähnlich wie Medikamente. Ein Hemmschuh dabei ist der Druck, mit den Produkten Geld zu verdienen, noch bevor sie hinlänglich erprobt sind. Den Entwicklerinnen und Entwicklern wird nicht genug Zeit gelassen, die von ihnen konstruierten Hexenbesen zu beherrschen und den Nutzen nachzuweisen. An dieser Stelle haben wir auch ein großes strukturelles Problem, sodass zu befürchten ist, dass wir aus dem Schaden nicht klug werden. Denn es gibt keine unabhängigen Evaluationen für HR-Tech. 

Personalmagazin: KI für HR-Anwendungen ist also ein bislang weitgehend unerforschtes Terrain?

Kersting: Zu KI und Big Data im Allgemeinen wird viel geforscht, aber so gut wie nicht zur Anwendung im Personalbereich im Besonderen. Wenn es keine unabhängige Expertise gibt, wird die Qualitätskontrolle schwierig. Aber es darf nicht sein, dass Organisationen Technologien einführen, die weitreichende Konsequenzen für das Miteinander und für das Individuum haben, und die kritischen Fragen zur Qualität ausschließlich mit der Pressestelle des Anbieters diskutieren. Mein Eindruck ist, dass diese Produkte bislang von Personen entwickelt wurden, die ihre Expertise im Thema "Data Science" haben, aber nicht im Bereich Personal. Sie bauen nicht auf dem auf, was wir in HR schon wissen. Auf diese Weise wird bei HR-Tech täglich das Rad neu erfunden und gleichzeitig gegen die Wand gefahren; weil die Tool-Verantwortlichen die einschlägigen HR-Theorien und die empirischen Erfahrungen der vergangenen Jahrzehnte offensichtlich nicht kennen.

HR braucht "ethischen Kompass"

Personalmagazin: Welche Kompetenzen brauchen Personalerinnen und Personaler, um KI professionell einsetzen zu können?

Kersting: Vor allen Dingen müssen die HR-Fach- und Führungskräfte wissen, was rechtlich zulässig ist. Sie müssen einen ethischen Kompass haben und Haltung zeigen. Und sie müssen wissen, welche Folgen Entscheidungen für unterschiedliche Bezugsgruppen und für den Einzelnen haben können. Hinzu kommen Facetten digitaler Kompetenz, technische Fähigkeiten zur Nutzung der Tools. Aber vor allem benötigen sie die Motivation, an der digitalen Kultur teilzunehmen. 

Personalmagazin: Bedeutet das auch, dass die Unternehmen zunächst eigene Richtlinien aufstellen sollten, bevor sie eine KI einführen?

Kersting: Ob das eigene Richtlinien sein müssen, ist meines Erachtens dahingestellt. Es gibt schon vorliegende Grundsätze zum Beispiel vom Ethikbeirat HR-Tech. Nimmt man aber eine andere Perspektive ein und betrachtet den Prozess, so ist der Weg das eigentliche Ziel. Die Entwicklung der Grundsätze kann sehr wertvoll sein, um im Dialog eine gemeinsame Überzeugung zu gewinnen, sich auf die Einhaltung der Grundsätze zu verpflichten und die Motivation zu schaffen, diesen Weg auch zu gehen. 

Personalmagazin: Sie haben die Richtlinien des Ethikbeirats angesprochen. Müssen diese um Kriterien zur praktischen Anwendung erweitert werden? 

Kersting: Nein, die Richtlinien müssen nicht erweitert werden. Aber ich kann mir ein ergänzendes separates Papier gut vorstellen, das thematisiert, welche Informationen zu einem Tool im Detail  vorliegen müssen. Das wären beispielsweise Informationen über die Art der genutzten Prädiktoren und der Algorithmen. Das müsste noch geschaffen werden.  

Künstliche Intelligenz: Vorteile für HR

Personalmagazin: Wir haben sehr viel über die Gefahren von KI gesprochen. Wo sehen Sie die Vorteile für HR?

Kersting: Es ist sehr sinnvoll, die Personalprozesse zu digitalisieren und datenbasiert zu arbeiten. Um einige der positiven Aspekte zu nennen: Die Unternehmen können anstelle von Selbstberichtsdaten wie Fragebogen und Simulationen wie Assessment Centern mit dem digitalen Fußabdruck Daten aus dem wirklichen Leben nutzen. Sie können individualisierter vorgehen. Vorschläge für die Personalauswahl können regelbasiert erstellt werden. Mitarbeitende können viel häufiger und in Echtzeit ein Feedback erhalten. Die Maschinen können uns dabei Routinearbeit abnehmen und wir Menschen gewinnen somit Zeit für die Arbeit mit Menschen. Die Kritik an HR-Tech sollte daher nicht das Ende dieses Ansatzes einleiten, sondern die Unternehmen und die Anbieter sollten sich fragen, welche Kritik berechtigt ist. Diese Kritik sollten sie aufnehmen, um sie durch die Weiterentwicklung der Tools und vor allen Dingen eine verbesserte Nutzungspraxis gegenstandslos zu machen. 

Personalmagazin: Wie groß ist aktuell das Vertrauen der Recruiterinnen und Recruiter in KI? Können Sie das aus Ihrer Studie ablesen? 

Kersting: In vielen Bereichen zeigt sich noch eine große Enthaltsamkeit. Die wenigen Unternehmen, die bereits mit KI arbeiten, erachten die Nutzung der Tools zum überwiegenden Teil für sehr sinnvoll. Allerdings zeigen die Daten auch, dass die Unternehmen die Anwendungen selten testen. Es besteht also die Gefahr, dass das Glück nur von kurzer Dauer ist. 

Dieses Interview erschien zuvor in Personalmagazin Ausgabe 12/2021. Lesen Sie das gesamte Heft auch in der Personalmagazin-App.

Das könnte Sie auch interessieren: 

Einsatz von HR-Chatbots: mehr als Recruiting

Robot Recruiting: Möglichkeiten und Grenzen von künstlicher Intelligenz

Künstliche Intelligenz im Personalwesen

KI im digitalen Lernen: Vom Werbeversprechen zur Anwendung