1 Einleitung
Digitalisierungsthemen haben die juristische Welt im vergangenen Jahr stark beschäftigt. Dies entspricht dem Trend, „Digitalisierung” als Leitmetapher für die Zusammenfassung der in dieser Richtung zielenden Tendenzen zu verwenden. Dabei sind methodisch zwei Facetten zu unterscheiden: Auf der einen Seite werden Rechtsfragen der Digitalisierung behandelt. Auf der anderen Seite wird die Frage erörtert, wie Digitalisierungsinstrumente juristische Workflows verbessern können. Eine besondere Dynamik hat sich ergeben, seit Ende 2022 mit ChatGPT ein Dialogzugang zu dem Sprachmodell von OpenAI eröffnet wurde. In diesem Diskussionsstrang ist „Künstliche Intelligenz” die Leitmetapher, ohne dass allerdings immer ganz klar wäre, was mit „Künstlicher Intelligenz” gemeint ist.
2 Rechtssetzung auf europäischer Ebene
Auf europäischer Ebene sind aktuell in Bezug auf Digitalisierungsthemen drei Rechtsetzungsverfahren von besonderer Bedeutung:
- Verordnung zur Festlegung harmonisierter Vorschriften für Künstliche Intelligenz (sog. AI-Act, Gesetz über Künstliche Intelligenz)
Die KI-Verordnung zielt darauf ab, den Einsatz Künstlicher Intelligenz zu regulieren. Der Verordnung liegt ein risikobasierter Ansatz zugrunde. Es sind folgende Risikostufen vorgesehen:
a) |
Systeme mit einem unannehmbaren Risiko |
b) |
Systeme mit einem hohen Risiko |
c) |
Systeme mit einem geringen oder minimalen Risiko |
Den Entwurf zur KI-Verordnung hat die Europäische Kommission bereits im Frühjahr 2021 veröffentlicht (vgl. COM/2021/206 final). Ende 2022 legte der Rat der Europäischen Union seinen gemeinsamen Standpunkt fest (vgl. 2021/0106/COD). Das Europäische Parlament nahm seine Verhandlungsposition Mitte 2023 an (vgl. P9_TA[2023]0236).
Für das Europäische Parlament war das Thema der generativen KI von besonderer Bedeutung. Es versteht unter generativer KI solche KI-Systeme, die speziell dazu bestimmt sind, mit unterschiedlichem Grad an Autonomie Inhalte wie komplexe Texte, Bilder, Audio- oder Videodateien zu generieren. Für generative Basismodelle solle angeordnet werden, dass Transparenz über die Tatsache sicherzustellen sei, dass die Inhalte von einem KI-System und nicht von Menschen erzeugt wurden. Gleichzeitig hat das Europäische Parlament klargestellt, dass diese spezifischen Anforderungen und Verpflichtungen nicht zwangsläufig dazu führen sollten, Basismodelle als Hochrisiko-KI-Systeme zu betrachten. Aus Sicht des Europäischen Parlaments sei es essenziell, zwischen Basismodellen und vortrainierten Modellen zu differenzieren. Unter vortrainierten Modellen werden solche verstanden, die für eine enger gefasste, weniger allgemeine und begrenztere Reihe von Anwendungen entwickelt wurden. Solche Modelle seien besser interpretierbar und ihr Verhalten weniger unvorhersehbar. Deswegen seien solche Modelle für die Zwecke der KI-Verordnung nicht als Basismodelle zu betrachten. In Bezug auf Anbieter von Basismodellen, die in KI-Systemen verwendet werden und mittels generativer KI arbeiten sowie in Bezug auf Anbieter, die ein Basismodell in ein generatives KI-System integrieren, sieht das Europäische Parlament die Notwendigkeit, zusätzliche Pflichten zu normieren. Neben Transparenzpflichten tritt die Verpflichtung, das Basismodell so zu gestalten und ggf. weiterzuentwickeln, dass ein angemessener Schutz gegen die Erzeugung von Inhalten, die gegen das Unionsrecht verstoßen, nach dem allgemein anerkannten Stand der Technik und unbeschadet der Grundrechte, einschließlich des Rechts auf freie Meinungsäußerung, sichergestellt ist. Hinzu tritt die Verpflichtung, eine hinreichend detaillierte Zusammenfassung der Verwendung von urheberrechtlich geschützten Trainingsdaten zu dokumentieren und öffentlich zugänglich zu machen.
Die Kommission, de Rat der Europäischen Union und das Europäische Parlament haben sich am 9.12.2023 in ihren Trilog-Verhandlungen auf einen Kompromiss geeinigt (vgl. Pressemitteilung des Europäischen Parlaments v. 9.12.2013, www.europarl.europa.eu/news/de/press-room/20231206IPR15699/artificial-intelligence-act-deal-on-comprehensive-rules-for-trustworthy-ai ). Der vereinbarte Text muss nun vom Parlament und vom Rat angenommen werden. Die Ausschüsse für Binnenmarkt und bürgerliche Freiheiten des Parlaments werden in einer der nächsten Sitzungen über das erreichte Ergebnis abstimmen.
- Richtlinie über die Haftung für fehlerhafte Produkte (sog. Produkthaftungsrichtlinie)
Die Richtlinie über die Haftung für fehlerhafte Produkte soll die derzeit geltende Produkthaftungsrichtlinie 85/374/EWG ablösen. Der Vorschlag der Europäischen Kommission wurde Ende September 2022 vorgelegt (vgl. COM/2022/495 final). Die Europäische Kommission will sicherstellen, dass Anbieter von KI-Systemen bzw. Hersteller, die ein KI-System in ein anderes Produkt integrieren, zum Schadensersatz verpflichtet sind, wenn fehlerhafte KI-Systeme physische Schäden, Sachschäden oder Datenverluste verursachen. Am 14.12.2023 haben sich das Europäische Parlament und der Rat auf eine neue Richtlinie über die Haftung für fehlerhafte Produkte geein...