KI, Pflichten und Handlungsempfehlungen

Kurzbeschreibung

Die Arbeitshilfe gibt einen Überblick über die Pflichten und Handlungsempfehlungen, die mit dem Inkrafttreten der KI-Verordnung für Arbeitgeber entstehen.

Vorbemerkung

Die Inhalte der Verordnung werden stufenweise umgesetzt. Die ersten Regelungen gelten ab dem 2.2.2025.

Die KI-Verordnung richtet sich zwar in erster Linie an die Anbieter eines KI-Systems, also denjenigen, der ein KI-System entwickelt oder entwickeln lässt, um es unter seinem eigenen Namen oder seiner Marke zu vertreiben oder zu benutzen. Arbeitgeber, die KI-Systeme im HR-Bereich verwenden, sind aber grundsätzlich Betreiber. Denn als Betreiber kommt in Betracht, wer ein KI-System in eigener Verantwortung verwendet. Es sei denn, dies erfolgt allein zu persönlichen, nicht beruflichen Tätigkeiten. Verändern Arbeitgeber die Zweckbestimmung eines KI-Systems oder nehmen sie eine wesentliche Änderung hieran vor, können sie vom Betreiber zum Anbieter im Sinne der Verordnung über künstliche Intelligenz mit entsprechenden Pflichten werden.

Verschiedene Spielarten des KI-Einsatzes im Personalbereich werden nach Inkrafttreten als Hochrisiko-KI eingestuft. Hochrisiko KI-Systeme unterliegen strengeren Anforderungen. Insbesondere Arbeitnehmerrechte werden in der Verordnung an verschiedenen Stellen gesondert hervorgehoben. Aus der Verordnung lassen sich die im folgenden aufgeführten Pflichten und Handlungsempfehlungen, je nach Risikostufe des KI-Systems, für Arbeitgeber entnehmen.

Bereits bevor es zur Verwendung eines KI-Systems kommt, können die folgenden Empfehlungen befolgt werden:

• den risikobasierten Ansatz von KI-Systemen bei der Planung, der Entwicklung oder dem Einsatz von KI-Systemen berücksichtigen. Da für die verschiedenen Risikoklassen von KI-Systemen eben ein anderes Risikopotenzial vorliegt, sollte je nach Klassifizierung entsprechend strenge Richtlinien und Prozesse implementiert werden.
• Interne Richtlinien für den Umgang mit KI-Systemen, wie Nutzungsbedingungen für ChatGPT oder allgemeine Richtlinien zur Nutzung von KI, können formuliert werden, um die Einhaltung der unten beschriebenen Pflichten sicherzustellen.
• Beim Erwägen neuer KI-Systeme, sollte verstärkt auf europäische Anbieter geachtet werden, da deren Systeme die Anforderungen der KI-Verordnung i.d.R. eher erfüllen dürften.

Pflichten für Arbeitgeber bei der Nutzung von KI-Systemen mit geringem Risiko

• Dokument in Textverarbeitung übernehmen

KI-Systeme mit minimalem Risiko sind in der Personalpraxis:

• Chatbots für die direkte Interaktion mit den Mitarbeitern^[1], bspw. zur Information der Mitarbeiter, zum Erfragen von bestimmten Informationen,
• KI-Systeme mit eng gefassten Aufgaben, bspw. die Klassifizierung von Dokumenten, das Strukturieren eines Workflows,
• Vorbereitung von Bewertungen im Wege der Text- und Sprachverarbeitung oder im Wege der Datenverknüpfung.

Pflichten für Arbeitgeber

Bei der Nutzung von KI mit geringem Risiko bestehen für Arbeitgeber keine strengen Pflichten. Maßnahmen, die getroffen werden sollten, sind:

• (Besondere) Transparenzpflichten, wie etwa die Information der Arbeitnehmer darüber, dass mit KI gearbeitet wird und welche Ergebnisse auf KI beruhen,
• Einhaltung des Datenschutzes,
• Freiwillige Richtlinien, wie etwa Nutzungsbedingungen für ChatGPT,

• Schulungen zum technischen Grundverständnis und zum verantwortungsvollen Umgang mit KI-Systemen für die Belegschaft anbieten und durchführen.

  Hinweis

  Nach Art. 4 der Verordnung über künstliche Intelligenz gilt: Die Anbieter und Betreiber von KI-Systemen sollen Maßnahmen ergreifen, um nach besten Kräften sicherzustellen, dass ihr Personal und andere Personen, die in ihrem Auftrag mit dem Betrieb und der Nutzung von KI-Systemen befasst sind, über ein ausreichendes Maß an KI-Kompetenz verfügen. Dabei sind ihre technischen Kenntnisse, ihre Erfahrung, ihre Ausbildung und Schulung und der Kontext, in dem die KI-Systeme eingesetzt werden sollen, sowie die Personen oder Personengruppen, bei denen die KI-Systeme eingesetzt werden sollen, zu berücksichtigen.
• Den Betriebsrat frühzeitig in geplante Maßnahmen zur KI-Nutzung einbinden und ggf. Sachkompetenzen auch in den Gremien aufbauen, um Akzeptanz zu fördern und schnellere Entscheidungen in der Zukunft zu ermöglichen.
• Auf die Bildung von interdisziplinären Teams hinwirken (z.B. Informatik, Recht, u.a. Fachbereiche).
• Ggf. einen ausgebildeten Beauftragten für KI-Systeme benennen, der die Aktivitäten bündelt, als Ansprechpartner zur Verfügung steht und bei Hochrisikosystemen die menschliche Aufsicht über diese Systeme übernimmt.
• Insbesondere bei der Auswahl von Bewerbern und Bewertung von Mitarbeitern: ein Risk Assessment durchführen, um Funktionsweisen, Ziele und Risiken des KI-Systems zu bewerten, Risiken gering zu halten und zu dokumentieren.

[1] Z. B. im Rahmen des Onboardings, HR-Chatbot.

Pflichten für Arbeitgeber bei der Nutzung von Hochrisiko-KI-Systemen

• Dokument in Textverarbeitung übernehmen

Unter Hochrisiko-KI-Systemen versteht man in der Personalpraxis KI-Systeme, die im Rahmen der Beschäftigung, des Personalmanagements und des Zugangs zur Selbstständigkeit

• zur Einstellung oder Auswahl von Bewerbern, etwa zum Sichten oder (Vor-)Filtern von Bewe...