ZAP 12/2023, Anwaltsmagazin / 6 Einsatz von KI soll reglementiert werden

Die Software ChatGPT hat die Möglichkeiten künstlicher Intelligenz (KI) auch einer breiteren Öffentlichkeit sichtbar gemacht. In Industrie und Wirtschaft sind intelligente Algorithmen dagegen schon seit geraumer Zeit im Einsatz, v.a. in der Mustererkennung und bei (teil-)automatisierten Entscheidungen. Allgemein wird erwartet, dass schon in wenigen Jahren ein Großteil aller Arbeitsplätze in irgendeiner Form von KI beeinflusst wird. Auch im Alltag der Verbraucher wird es zahlreiche Berührungspunkte geben, man denke etwa an selbstfahrende Verkehrsmittel oder an Entscheidungsprozesse im Kredit- und Versicherungswesen.

Während hierzulande noch darüber nachgedacht wird, ob und wie die Haftungsregelungen beim Einsatz von KI angepasst werden müssen (vgl. etwa 61. Deutscher Verkehrsgerichtstag, ZAP 2023, 163 und 73. Deutscher Juristentag, ZAP 2022, 1022), ist man auf EU-Ebene schon einen Schritt weiter. Hier gibt es Pläne, bereits den Einsatz von intelligenten Algorithmen zu reglementieren, v.a. mit Blick auf Risikomanagement- und Transparenzregelungen.

Man wolle eine „menschenzentrierte und ethische Entwicklung der Künstlichen Intelligenz” garantieren, hieß es im Mai in einer Mitteilung des Europäischen Parlaments. Es müsse sichergestellt werden, dass KI-Systeme von Menschen überwacht würden und beim Einsatz sicher, transparent, nachvollziehbar, nicht diskriminierend und umweltfreundlich seien. Außerdem strebt das EU-Parlament eine einheitliche und technologieneutrale KI-Definition an, die angesichts der rasanten technischen Entwicklung auch noch für zukünftige KI-Systeme Bedeutung haben kann. Weltweit wäre es die erste Reglementierung des Einsatzes von künstlicher Intelligenz. Vor Augen haben die Parlamentarier dabei auch die bedenklichen Entwicklungen in autoritären Staaten wie etwa China, wo KI in Form von Gesichtserkennung bereits dazu eingesetzt wird, die Bevölkerung lückenlos auf Schritt und Tritt zu beobachten.

Die vom EU-Parlament geplanten Vorschriften folgen einem risikobasierten Ansatz und legen Verpflichtungen für Anbieter aber auch Nutzerinnen und Nutzer fest, die sich nach dem Grad des Risikos richten, das die KI erzeugen kann. KI-Systeme, die ein „inakzeptables Risiko” für die Sicherheit von Menschen darstellen, sollen von vornherein verboten werden. Dazu gehören sollen Systeme, die unterschwellige oder absichtlich manipulative Techniken einsetzen, die Schwachstellen von Menschen ausnutzen oder für Social Scoring (Klassifizierung von Menschen auf der Grundlage ihres Sozialverhaltens, ihres sozioökonomischen Status oder persönlicher Merkmale) verwendet werden. Die Verbotsliste umfasst u.a. folgende denkbare Anwendungen:

• biometrische Erkennungssysteme in Echtzeit in öffentlich zugänglichen Räumen;
• biometrische Erkennungssysteme im Nachhinein (Ausnahme: Strafverfolgungsbehörden bei der Verfolgung schwerer Straftaten und nur nach richterlicher Genehmigung);
• biometrische Kategorisierungssysteme, die sensible Merkmale verwenden (z.B. Geschlecht, Rasse, ethnische Zugehörigkeit, Staatsangehörigkeit, Religion, politische Orientierung);
• prädiktive Polizeisysteme (auf der Grundlage von Profilerstellung, Standort oder früherem kriminellen Verhalten);
• Systeme zur Erkennung von Emotionen bei der Strafverfolgung, beim Grenzschutz, am Arbeitsplatz und in Bildungseinrichtungen;
• wahlloses Auslesen biometrischer Daten aus sozialen Medien oder Videoüberwachungsaufnahmen zur Erstellung von Gesichtserkennungsdatenbanken.

Um auf der anderen Seite Innovationen nicht zu behindern, sollen Ausnahmen vorgesehen werden, etwa für Forschungstätigkeiten. Gefördert werden sollen auch „kontrollierte Umgebungen”, die z.B. von öffentlichen Behörden eingerichtet werden, um neue KI vor ihrem Einsatz zu testen. Bürgerinnen und Bürger sollen in ihren Rechten gestärkt werden, Beschwerden über KI-Systeme einzureichen und Erklärungen zu Entscheidungen zu erhalten, die auf risikoreichen KI-Systemen basieren und ihre Rechte erheblich beeinträchtigen.

Mitte Juni wurde dieser „KI-Act” bereits vom EU-Parlament mit breiter Mehrheit beschlossen. Im Anschluss daran muss nun in den sog. Trilog-Gesprächen mit der EU-Kommission und dem Rat der EU die endgültige Fassung der Verordnung ausgehandelt werden.

[Quelle: EU-Parlament]