Produkthaftung und KI in Italien: Risikoprofile nach den letzten Entwicklungen in den USA und den Perspektiven in der EU

veröffentlicht am 18 März 2025 | Lesedauer ca. 4 Minuten

Unternehmen, die KI-basierte Software entwickeln und vermarkten, stehen aufgrund regulatorischer und rechtlicher Entwicklungen im Bereich der Produkthaftung vor entscheidenden Fragen. Die Ausweitung der Produkthaftung auf Software, die kürzlich durch die Richtlinie (EU) 2024/2853 eingeführt wurde, und die sich abzeichnenden Entwicklungen in den USA verdeutlichen die Risiken im Zusammenhang mit Konstruktionsfehlern, Informationsauslassungen und Schäden, die sich aus dem Einsatz von KI ergeben.

Am 18. November 2024 wurde die neue Richtlinie (EU) 2024/2853 im Amtsblatt der Europäischen Union veröffentlicht, mit der die traditionelle Produkthaftungsregelung unter anderem auf Software ausgedehnt wird, um auf die Herausforderungen zu reagieren, die sich aus der zunehmenden Verbreitung digitaler Technologien und künstlicher Intelligenz (KI) ergeben.

In Erwartung des Inkrafttretens der neuen europäischen Bestimmungen können die in den Vereinigten Staaten aufkommenden Entwicklungen im Bereich der Rechtsstreitigkeiten wichtige Anhaltspunkte für künftige Fälle im Zusammenhang mit der Haftung für digitale Produkte und KI liefern, da sie bereits jetzt die potenziellen Risiken für Wirtschaftsakteure aufzeigen, die solche Produkte auf den Markt bringen.

In diesem Zusammenhang wird auf den Fall Garcia versus Character Techs, Inc., Nr. 6:24-CV-01903, hingewiesen, der derzeit vor einem Bundesgericht in Florida anhängig ist.

Der Fall

Im Oktober 2024 reichte Frau Garcia vor einem Bundesgericht in Florida eine Klage gegen verschiedene Personen ein, darunter die Entwickler eines bekannten KI-Chatbots.

Die Klage betrifft eine Schadensersatzforderung im Zusammenhang mit dem Tod von Garcias Sohn, dessen angebliche Abhängigkeit von der Nutzung des Chatbots zu seinem Selbstmord geführt haben soll.

Die Klägerin erhob ihre Ansprüche gegen verschiedene Personen, darunter auch die Entwickler des Chatbots, Diese hätten ein fehlerhaftes Produkt entwickelt und vermarktet, das keinen angemessenen Schutz für Minderjährige biete und zudem keine angemessenen Informationen enthalte.

Anwendbarkeit der Produkthaftungsregelung

Ein vorläufiger und zentraler Streitpunkt des vorliegenden Rechtsstreits betrifft die rechtliche Qualifizierung von Software als "Produkt" im Hinblick auf die Frage der Anwendbarkeit des Produkthaftungsrechts. Zuvor wäre diese (Chatbot) als Dienstleistung behandelt worden.

Unter Anwendung der Produkthaftungsregelung wurde dagegen ein Fehler in der Konzeption des Produkts geltend gemacht und insbesondere vorgebracht, dass das dem Chatbot zugrunde liegende Modell anhand eines unzureichenden Datensatzes trainiert wurde, was zur Erzeugung gefährlicher und schädlicher Ergebnisse für die Benutzer und insbesondere für Minderjährige führte.

Darüber hinaus wurde das Fehlen angemessener Warnhinweise gerügt, da die Entwickler es angeblich versäumt hätten, die Benutzer angemessen zu warnen, sodass Minderjährige ohne Schutzvorkehrungen mit der Software interagieren konnten.

Die Klägerin erhob daher Klage auf Schadenersatz, für den Schaden, der ihr durch den Tod ihres Kindes entstanden war, einschließlich des Schadens für das von ihr erlittene seelische Leid.

Risikoprofile für Wirtschaftsbeteiligte

Die vorliegende Klage - die vom Bundesgericht von Florida vorläufig für zulässig befunden wurde – ist zwar in den USA anhängig, bietet aber wichtige Einblicke in die möglichen rechtlichen Risiken für Unternehmen, die Produkte auf der Grundlage von künstlicher Intelligenz vermarkten, auch im Hinblick auf die im italienischen Recht vorgesehene Entschädigung für elterlichen und existenziellen Schaden.

Die oben genannten Risiken verdeutlichen, wie wichtig es für die im KI-Sektor tätigen Wirtschaftsakteure ist, unverzüglich strenge Maßnahmen zur Einhaltung der Vorschriften sowie eine angemessene und umfassende Offenlegung zu ergreifen, um das Risiko von Rechtsstreitigkeiten im Zusammenhang mit den von ihnen auf den Markt gebrachten Produkten - einschließlich Software - zu mindern und die Einhaltung der geltenden Vorschriften zu gewährleisten, auch im Hinblick auf die bevorstehende Anwendbarkeit der Richtlinie (EU) 2024/2853.

Die Entwicklung der Produkthaftungsgesetzgebung stellt einen grundlegenden Wandel in der Behandlung von Software und KI-basierten Technologien dar, der sich unmittelbar auf die in diesen Sektoren tätigen Unternehmen auswirkt.

Die Erfahrungen in den USA zeigen in einem Rechtsbereich, der sich bereits seit Jahren entwickelt, wie die Grenzen der Haftung für Schäden, die durch die Verwendung der oben genannten Produkte entstehen, definiert werden.

Die in diesem Sektor tätigen Unternehmen werden ihre Compliance- und Sicherheitspolitik überprüfen müssen. Auch im Hinblick auf die Information der Endnutzer werden sie geeignete Maßnahmen ergreifen müssen, um rechtliche Risiken und potenzielle Streitigkeiten zu vermeiden, und die Chancen, die der neue digitale Markt zunehmend bieten kann - und wird - , optimal zu nutzen.

Die Autoren:

Giuseppe F. Bonacci - Assoziierter Partner

Stephan Daniel Cascone - Associate

Federico Pavesi - Praktikant