Prütting/Wegen/Weinreich, BGB - Kommentar, BGB § 823 BGB ... / e) Haftung für Software und selbstlernende Systeme.

Rn 170

Zunehmend werden auch Verkehrspflichten beim Inverkehrbringen unsicherer Software thematisiert (s etwa Raue NJW 17, 1841, 1843 ff, im Ansatz auch Bilski/Schmid NJOZ 19, 657, 660). Schwierig ist hier insbesondere, dass jedenfalls komplexe Software kaum je fehlerfrei sein dürfte, so dass der anzusetzende Pflichtenstandard problematisch ist (dazu etwa Schaub JZ 17, 342, 344 mwN). Da hier häufig das Verschulden des Inverkehrbringenden zweifelhaft ist, könnte eine Präzisierung derartiger Verkehrspflichten durch die Rspr – die zudem mit Blick auf die Unsicherheit in Bezug auf den anzulegenden Qualitätsstandard nicht einfach werden dürfte – noch auf sich warten lassen. Eng damit verbunden sind Verkehrspflichten beim Inverkehrbringen oder bei der Nutzung selbstlernender Systeme (dazu zB Thöne Autonome Systeme und deliktische Haftung 20, 195 ff; Sommer Haftung für autonome Systeme 20, 322 ff; Spindler in Beck/Kusche/Valerius, Digitalisierung, Automatisierung, KI und Recht 20, 255, 262 ff; Wittig Die produzentenrechtlichen Verkehrssicherungspflichten von Softwareproduzenten 21, 161 ff; Haagen Verantwortlichkeit für Künstliche Intelligenz 21, 236 ff; Weingart Vertragliche und außervertragliche Haftung für den Einsatz von Softwareagenten unter Berücksichtigung der technischen Möglichkeiten und des gesamtwirtschaftlichen Nutzens 21, 175 ff; zu autonomen Fahrzeugen Hartmann PHI 21, 136, 140 ff; Rosenberger Die außervertragliche Haftung für automatisierte Fahrzeuge 22, 156 ff, 273 f; Dötsch Außervertragliche Haftung für Künstliche Intelligenz am Beispiel von autonomen Systemen 23, 138 ff). Die Verkehrspflichten beim Inverkehrbringen selbstlernender Systeme dürften sich regelmäßig mit denjenigen bei der Produzentenhaftung (s.u. Rn 185 f) decken (s dazu auch Weingart Vertragliche und außervertragliche Haftung für den Einsatz von Softwareagenten unter Berücksichtigung der technischen Möglichkeiten und des gesamtwirtschaftlichen Nutzens 21, 190 ff; Dötsch Außervertragliche Haftung für Künstliche Intelligenz am Beispiel von autonomen Systemen 23, 196 ff). Zusätzlich treffen aber auch den Betreiber eines solchen Systems Sorgfaltspflichten. So sollte er ein derartiges System nur betreiben, wenn er – ggf mit Hilfe der Instruktionen des Herstellers – von einem Funktionieren ohne Gefährdung von Rechtsgütern Dritter ausgehen kann (s auch Denga CR 18, 69, 74; Dötsch Außervertragliche Haftung für Künstliche Intelligenz am Beispiel von autonomen Systemen 23, 141 ff; Mayrhofer Außervertragliche Haftung für fremde Autonomie 23, 345 ff; zu Sorgfaltspflichten bei der Nutzung generativer KI Schaub NJW 23, 2145, 2146 ff [BGH 23.06.2023 - V ZR 89/22]). Weiterhin ist er verpflichtet, sicherheitsrelevante Aspekte der Funktionsweise des Systems im Blick zu behalten (s zB Denga CR 18, 69, 74; Grünvogel/Dörrenbacher ZVertriebsR 19, 87, 91; Chibanguza/Schubmann GmbHR 19, 313, 315 ff; Marly FS Taeger 1, 8 f; Wittig Die produzentenrechtlichen Verkehrssicherungspflichten von Softwareproduzenten 21, 218 ff; Spindler in Beck/Kusche/Valerius, Digitalisierung, Automatisierung, KI und Recht 20, 255, 264 f; Lüftenegger Rdi 21, 293, 294 ff; Haagen Verantwortlichkeit für Künstliche Intelligenz 21, 248 ff, 270 ff; Weingart Vertragliche und außervertragliche Haftung für den Einsatz von Softwareagenten unter Berücksichtigung der technischen Möglichkeiten und des gesamtwirtschaftlichen Nutzens 21, 223 f; Lesser Haftungsprobleme und Versicherungslösungen bei Cyber-Risiken 21, 171 ff; Dötsch Außervertragliche Haftung für Künstliche Intelligenz am Beispiel von autonomen Systemen 23, 147 ff) und ggf auf Risiken zu reagieren (Dötsch Außervertragliche Haftung für Künstliche Intelligenz am Beispiel von autonomen Systemen 23, 147 ff). Zu spezifischen Pflichten des Verwenders Dötsch Außervertragliche Haftung für Künstliche Intelligenz am Beispiel von autonomen Systemen 23, 185 ff. Auch die in der geplanten europäischen KI-Verordnung (Artificial Intelligence Act) enthaltenen Verhaltensstandards können verkehrspflichtenbegründend wirken, tw dürften sie darüber hinaus als Schutzgesetze iSd § 823 II in Betracht kommen (so auch zB Spindler in Vendrell/Gsell/Kindl, Die Schadensersatzhaftung 22, 139, 176). Ähnliches dürfte für die Verhaltensstandards nach dem jetzt verabschiedeten Cyber Resilience Act gelten.

Rn 170a

Neuerdings werden auch Verkehrspflichten beim Inverkehrbringen von Software-Trainingsdaten diskutiert (Zech NJW 22, 502, 506f). Diese lassen sich mit Hilfe einer Abwägung der involvierten Rechtsgüter und Interessen unter Berücksichtigung regulatorischer Vorgaben entwickeln (Zech NJW 22, 502, 506f); insofern können sich die allgemeinen Grundsätze zur Begründung von Verkehrspflichten bewähren.