KI, Allgemeine Richtlinien

Kurzbeschreibung

Das folgende Muster stellt mögliche Unternehmensrichtlinien für den Einsatz von KI-Systemen im Allgemeinen vor.

Vorbemerkung

Die Richtlinien könnten für eine Vielzahl von möglichen Einsatzszenarien geeignet sein und sind unter anderem an die KI-VO (Stand: 17.4.2024, englisch: AI Act) angelehnt. Unternehmen sollten die Vorschläge sorgfältig durchdenken und bei Bedarf unternehmensspezifisch anpassen.

Die Einführung von allgemeinen KI-Richtlinien ist neben der positiven Außenwirkung auch dazu geeignet, Haftungsrisiken des Unternehmens zu reduzieren.

Nach der Definition der KI-VO ist ein KI-System, ein "maschinengestütztes System", das für einen in wechselndem Maße autonomen Betrieb ausgelegt sind, das nach seiner Einführung anpassungsfähig sein kann und das aus den erhaltenen Eingaben für explizite oder implizite Ziele ableitet, wie Ergebnisse wie etwa Vorhersagen, Inhalte, Empfehlungen oder Entscheidungen hervorgebracht werden, die physische oder virtuelle Umgebungen beeinflussen können“, vgl. Art. 3 Abs. 1 Ziffer 1 KI-VO.

Richtlinien für den Umgang und die Nutzung von künstlicher Intelligenz im Unternehmen

• Dokument in Textverarbeitung übernehmen

Die folgende Richtlinie begegnet der wachsenden Integration von Künstlicher Intelligenz (KI) in die Geschäftswelt. Das vorrangige Ziel besteht darin, den Einsatz von KI-Systemen in einer ethischen, rechtskonformen und verantwortungsvollen Weise zu gewährleisten.

............................. [Name des Unternehmens] erkennt die Möglichkeiten, die KI-Systeme zur Verbesserung der Geschäftsprozesse bieten, ebenso wie die Risiken, insbesondere in Bezug auf Transparenz, Fairness und Datenschutz. Daher verpflichtet sich ............................. [Name des Unternehmens], diese Risiken zu minimieren und gleichzeitig den Nutzen von KI-Technologien zu maximieren, stets unter Einhaltung der Unternehmenswerte und der geltenden Gesetze.

Die vorliegende Richtlinie legt die Prinzipien und Vorgaben fest, die den Einsatz von KI-Systemen im ............................. [Name des Unternehmens] mitbestimmen. Sie dient als Referenz für alle Mitarbeiter und Partner des Unternehmens, die mit KI-Systemen arbeiten. Durch diese Richtlinie setzt ............................. [Name des Unternehmens] den Rahmen für eine Kultur der Verantwortung, des Verständnisses und des Respekts im Umgang mit KI-Technologien:

1. Der Einsatz von KI-Systemen erfolgt stets im Einklang mit den geltenden Gesetzen.
2. Der Einsatz von KI-Systemen muss daneben den ethischen Werten und Prinzipien des Unternehmens entsprechen, insbesondere nicht-diskriminierend, divers, inkludierend und fair sein.
3. Bei der Auswahl von KI-Systemen achtet das Unternehmen darauf, dass Funktionsweise und Arbeitsergebnisse der KI-Systeme bestmöglich^[1] verständlich, nachvollziehbar und bei Bedarf überprüfbar sind.

4. Auch der produktive Einsatz von KI-Systemen erfolgt angemessen transparent. Das bedeutet^[2]:

   1. Das Unternehmen kommuniziert offen (intern sowie extern), in welchen Bereichen überhaupt KI-basierte System angewendet werden.
   2. KI-generierte Texte, Bilder^[3] oder Videos werden dem Empfänger gegenüber als solche gekennzeichnet, (sofern nicht ausgeschlossen werden kann, dass die entsprechende Kennzeichnung für den Empfänger von Bedeutung ist^[4]).
   3. KI generierte Sprache muss für den Empfänger hingegen stets als solche erkennbar sein.
   4. Eingesetzte KI-Systeme müssen in ihrer Funktionsweise möglichst transparent sein, vgl. auch Ziffer 3.
5. Risiken von KI-Systemen werden vor ihrer Anwendung von ............................. [Stelle im Unternehmen] identifiziert, bewertet sowie Maßnahmen zur Risikominderung implementiert.
6. KI-Systeme werden auch im laufenden Betrieb regelmäßig dahingehend überwacht, ob sie die unter 1-3 genannten Kriterien/Ziele ausreichend erfüllen. Bei Auffälligkeiten werden geeignete Maßnahmen ergriffen.
7. Entscheidungen von KI-Systemen, insbesondere in sensiblen Bereichen, müssten stets von Menschen übersteuert werden können.^[5] Entscheidungen, die Menschen gegenüber rechtliche Wirkung entfalten oder sie in ähnlicher Weise erheblich beeinträchtigen, müssen stets unter wesentlicher Mitwirkung von Menschen getroffen werden.^[6]
8. Mitarbeiter, die KI-Systeme zur Erfüllung ihrer Aufgaben einsetzen oder mit deren Ergebnissen arbeiten, werden in Aufklärung über Funktionsweise und Risiken geschult.
9. Das Unternehmen arbeitet nur mit Anbietern zusammen, die – soweit gesetzlich erforderlich – über eine Konformitätsbewertung oder eine sonstige von Gesetzes wegen erforderliche Zertifizierung verfügen.
10. Bei der Auswahl von KI-Anbietern und konkreten KI-Systemen achtet das Unternehmen darauf, dass die in Ziffer 1-3 genannten Kriterien bestmöglich erfüllt werden können, insbesondere auch auf eine angemessene Qualität und Quantität der Trainingsdaten. Die Trainingsdaten müssen unter Beachtung des Einsatzzwecks ausreichend relevant, repräsentativ und frei von Verzerrungen sein.^[7] KI-Systeme müssen eine angemessene Genauigkeit, Robustheit und Cybersicherheit aufweisen.
11. Das Unternehmen hält sich beim Einsatz von KI-System an die vom Anbieter vergebenen Hinweise (Geb...