Alex Worobjow

Auf Unternehmen, die Hochrisiko-KI-Systeme einsetzen, kommen vor allem folgende Pflichten zu:

  • Menschliche Aufsicht durch kompetente, ausgebildete und befugte Personen sicherstellen und erforderliche Unterstützung gewähren.[1]
  • Information der Arbeitnehmervertreter und betroffenen Arbeitnehmer vor Inbetriebnahme oder Verwendung eines Hochrisiko-KI-Systems am Arbeitsplatz.[2]

  • Sicherstellen, dass Eingabedaten der Zweckbestimmung des KI-Systems entsprechen und ausreichend repräsentativ sind.

    Beispiel: In ein KI-System, dass aus Lebensläufen und Zeugnissen Prognosen über die berufliche Geeignetheit machen soll, werden Gesprächsnotizen und persönliche Motivationsschreiben eingegeben.[3]

  • Überwachung des Betriebs gemäß Betriebsanleitung, Information der Anbieter bei Risiken oder schwerwiegenden Vorfällen, Aussetzung der Verwendung bei Risikoannahme.

    Beispiel: Durchführen von Stichproben in regelmäßigen Abständen, ggf. Eingabe künstlicher Daten, um das System zu testen.[4]

  • Aufbewahrung der automatisch erzeugten Protokolle für mindestens 6 Monate oder gemäß geltendem Recht.[5]
  • Ggf. Verwendung von über das KI-System bereitgestellten Informationen[6], um ggf. eine Datenschutz-Folgenabschätzung nach Art. 35 DSGVO durchzuführen.
  • Offenlegung, dass Inhalte künstlich erzeugt oder manipuliert wurden, bei KI-Systemen, die Bild-, Ton- oder Videoinhalte erzeugen oder manipulieren, Offenlegung von Deepfake-Inhalten oder ggf. sogar bei künstlich erzeugten Texten.[7]
  • Einhaltung aller Anforderungen aus Abschnitt III KI-VO, wenn Betreiber auch als Anbieter der KI gelten (Fälle hiervon sind aufgezählt in Art. 25 KI-VO). Werden Betreiber als Anbieter eingestuft, müssen sie zusätzlich umfangreiche Pflichten erfüllen, wie die Einrichtung eines Qualitätsmanagementsystems oder die Durchführung von Risikobewertungen.

Ein ausformulierter Pflichtenkatalog findet sich in Art. 26 KI-VO, daneben ist insbesondere Art. 4 sowie Erwägungsgrund 132 und Art. 50 für Betreiber relevant.

[1] Art. 26 Abs. 2 KI-VO.
[2] Art. 26 Abs. 7 KI-VO.
[3] Art. 26 Abs. 4 KI-VO.
[4] Art. 26 Abs. 3, 7 KI-VO.
[5] Art. 26 Abs. 5 KI-VO.
[6] Art. 13 KI-VO.
[7] Vgl. im Einzelnen Art. 50 Abs. 4 KI-VO.

Dieser Inhalt ist unter anderem im Haufe Personal Office Platin enthalten. Sie wollen mehr?

Jetzt kostenlos 4 Wochen testen

Anmelden und Beitrag in meinem Produkt lesen


Meistgelesene beiträge