Ethik bei Künstlicher Intelligenz: Herausforderung angenommen

Führungskräfte aus neun von zehn Unternehmen meinen, dass die Nutzung von KI ethische Fragen aufgeworfen hat. Deshalb halten es gut die Hälfte der Führungskräfte für wichtig, sicherzustellen, dass KI-Systeme ethisch und transparent sind. Das geht aus einer aktuellen Studie des Capgemini Research Institutes hervor, in der gut 1.500 Führungskräfte von Großunternehmen aus zehn Ländern befragt wurden. Das Institut führte außerdem Interviews mit mehr als 20 Wissenschaftlern, Branchenexperten und Unternehmern und Befragte auch 4.000 Verbraucher zu ihren Erfahrungen mit KI-Anwendungen.

Ethische Nutzung von KI-Lösungen

Die Studienautoren benennen verschiedene Aspekte ethischer KI-Nutzung:

• Transparenz durch klare, konsistente und verständliche Funktionsweise
• Nachvollziehbarkeit durch Überprüfung von Input und Output durch Dritte
• Interpretier- und Erklärbarkeit: Fähigkeiten die Funktionsweise so zu erklären, dass Anwender sie verstehen können
• Fairness durch Vermeidung von Diskriminierung bestimmter Nutzergruppen

Beispiele für Probleme mit solchen Standards treten laut Studie immer wieder auf, auch im Personalbereich: Etwa wenn künstliche Intelligenz zum Screening von möglichen Jobkandidaten genutzt wird und dabei ungerechtfertigte Benachteiligungen aufgrund von Geschlecht, Ethnizität oder Alter reproduziert werden.

Nicht alle Führungskräfte handeln konsequent

Als wichtigste Gründe für ethische Defizite von KI-Systemen nennen Führungskräfte in Deutschland und weiteren Ländern den Druck, KI-Systeme schnell einzuführen sowie Ressourcenmangel. Häufig werden ethische Standards bei der Einführung von KI-Systemen gar nicht berücksichtigt. Für Datenwissenschaftler sind fehlende Richtlinien und Daten die größten Hindernisse, der zeitliche Druck kommt an vierter Stelle.

Kommt es dann zu ethischen Problemen mit der KI-Lösung sind laut Capgemini Research Insitute nicht alle Führungskräfte bereit, daraus Konsequenzen zu ziehen. Aber zumindest 41 Prozent der befragten Führungskräfte würden den Einsatz von KI-Lösungen wahrscheinlich beenden oder haben dies bereits getan.

Mitarbeiter fordern Verantwortung ein

Nicht nur Führungskräfte sind sich der ethischen Probleme bewusst, auch die Mitarbeiter vieler Unternehmen fordern einen starken moralischen Kompass, wie eine weitere Studie zeigt. Im Auftrag des Softwareanbieters Genesys wurden 800 deutsche Erwerbstätige zu ihren Erfahrungen und Einschätzungen befragt. Zwei Drittel der Mitarbeiter meinen demzufolge, dass ihr Unternehmen eine schriftliche Richtlinie zur Ethik von KI und Bots in Betracht ziehen sollte. Deshalb werden, so Heinrich Welter, General Manager DACH bei Genesys, Unternehmen, bei denen KI-Technologien und Mitarbeiter im Einklang arbeiten, am meisten von ihrer qualifizierten Belegschaft und ihren Technologieinvestitionen profitieren.

Mitarbeiter sehen demnach ebenfalls die Notwendigkeit, dass Unternehmen Verantwortung übernehmen. Sie stehen dem KI-Einsatz aber nicht grundsätzlich kritisch gegenüber: Zwei Drittel der Befragten vertrauen darauf, dass ihr Unternehmen KI-Lösungen auf ethisch korrekte Weise einsetzt und viele glauben an positive Auswirkungen auf ihren Arbeitsalltag. 45 Prozent berichten von Zeitersparnis durch den Einsatz neuer Tools, ein Viertel glaubt, dass neue Technologien helfen können, produktiver zu werden. In den kommenden fünf Jahren rechnen deshalb nur 15 Prozent mit negativen Auswirkungen auf den eigenen Arbeitsplatz, ein Drittel hingegen glaubt an einen positiven Effekt, ein weiteres Drittel der befragten Arbeitnehmer geht von keinem Effekt aus.

Bedeutung ethischer Überlegungen zum KI-Einsatz ist erkannt

Beide Studien zeigen, dass sich Führungskräfte sowie Mitarbeiter von Unternehmen durchaus der ethischen Dimensionen von KI-Lösungen bewusst sind. Wie die Studie des Capgemini Research Institute darüber hinaus zeigt, hinterlässt dieser verantwortliche Umgang auch bei Verbrauchern einen positiven Eindruck. Wenn Verbraucher eine KI-basierte Interaktion als ethisch wahrnehmen, sind sie laut der Studie eher gewillt, dem Unternehmen zu vertrauen und es weiterzuempfehlen. Auch würden Verbraucher dann eher zu Loyalität neigen. Wenn Verbraucher negative Erfahrung mit KI-unterstützten Kommunikationstools machen, sind sie andererseits auch gewillt, Erklärungen einzufordern, Beschwerden einzureichen oder sogar den Kontakt zu Unternehmen abzubrechen. 

Es werde deutlich, dass ethische Grundsätze nicht nur aus Compliance-Gründen zählten, sondern auch vorteilhaft für das eigene Geschäft seien, sagt Fabian Schladitz, Leiter des Center of Excellence Künstliche Intelligenz von Capgemini in Deutschland, zu den Studienergebnissen. Wenn KI dann eingesetzt werde, sei es wichtig, alle Beteiligten umfassend zu informieren und sie zu befähigen, bewusst mit der Technologie umzugehen.

Ethische Maßstäbe durch allgemeine Richtlinien

Im Juni 2019 hatte sich auch der Ethikbeirat HR-Tech dem Thema offensiv gewidmet und einen Entwurf von zehn Richtlinien zur Diskussion gestellt. Die Richtlinien beziehen sich konkret auf ethische Maßstäbe zum KI-Einsatz im Personalbereich. Der vorgestellte Entwurf soll in den kommenden Wochen öffentlich diskutiert werden um daraus eine allgemeine Vorgabe zum ethischen Einsatz entwickeln zu können.

Das könnte Sie auch interessieren:

Die Verantwortung beim Einsatz von künstlicher Intelligenz aus HR-Perspektive

Wenn der Roboter neue Kollegen sucht: Wie stehen Unternehmen und Bewerber zu den neuen Möglichkeiten?

Interview mit Jörg Dräger: "Wir brauchen ein Vermummungsverbot für Algorithmen"