KI: Europäische KI-Verordnung im Überblick (KI-VO) / 3.2 Handlungsempfehlungen

Unternehmen, die KI-Systeme i. S. d. VO einsetzen oder einen solchen Einsatz in Zukunft in Betracht ziehen, sollten sich bereits jetzt auf die kommenden Regelungen und die o. g. Pflichten für Betreiber von KI-Systemen vorbereiten:

Insbesondere sollte eine Inventur dahingehend erfolgen, ob überhaupt KI-Systeme im Einsatz (bzw. in Planung) sind, und wenn ja, ob es sich um Hochrisikosysteme handeln könnte.

Weitere Vorbereitungen könnten Folgendes beinhalten:

• Schulungen zum technischen Grundverständnis und zum verantwortungsvollen Umgang mit KI-Systemen für die Belegschaft anbieten und durchführen,

  Hinweis

  Nach Art. 4 KI-VO soll gelten:

  Die Anbieter und Betreiber von KI-Systemen sollen Maßnahmen ergreifen, um nach besten Kräften sicherzustellen, dass ihr Personal und andere Personen, die in ihrem Auftrag mit dem Betrieb und der Nutzung von KI-Systemen befasst sind, über ein ausreichendes Maß an KI-Kompetenz verfügen. Dabei sind ihre technischen Kenntnisse, ihre Erfahrung, ihre Ausbildung und Schulung und der Kontext, in dem die KI-Systeme eingesetzt werden sollen, sowie die Personen oder Personengruppen, bei denen die KI-Systeme eingesetzt werden sollen, zu berücksichtigen.

• den Betriebsrat frühzeitig in geplante Maßnahmen zur KI-Nutzung einbinden und ggf. Sachkompetenzen auch in den Gremien aufbauen, um Akzeptanz zu fördern und schnellere Entscheidungen in der Zukunft zu ermöglichen,
• auf die Bildung von interdisziplinären Teams hinwirken (z. B. Informatik, Recht, u. a. Fachbereiche),
• ggf. einen ausgebildeten Beauftragten für KI-Systeme benennen, der die Aktivitäten bündelt, als Ansprechpartner zur Verfügung steht und bei Hochrisikosystemen die menschliche Aufsicht über diese Systeme übernimmt,
• für den Einsatz von KI im HR-Bereich, insbesondere bei der Auswahl von Bewerbern und Bewertung von Mitarbeitern, ein Risk Assessment durchführen, um Funktionsweisen, Ziele und Risiken des KI-Systems zu bewerten, Risiken gering zu halten und zu dokumentieren,
• den risikobasierten Ansatz bei Planung, Entwicklung oder Einsatz von KI-Systemen bereits jetzt berücksichtigen, das heißt, je nach Risikopotenzial einer KI-Anwendung strenge Richtlinien und Prozesse implementieren,
• interne Richtlinien für den Umgang mit KI-Systemen wie ChatGPT oder allgemeine Richtlinien formulieren, d. h. Muster "Künstliche Intelligenz, Allgemeine Richtlinien,"
• beim in Betracht ziehen neuer KI-Systeme, verstärkt auf europäische Anbieter achten, da deren Systeme die Anforderungen der KI-Verordnung i. d. R. eher erfüllen dürften.