Home

Intern

Deutsch|English

Neues Themenspecial "Quantitative Advisory – Ihr Kümmerer für komplexe Bewertungsherausforderungen" » |

Weltweit

Anscheinend ist in Ihrem Browser JavaScript nicht aktiviert. Aktivieren Sie bitte JavaScript, und versuchen Sie es erneut.

Künstliche Intelligenz: Gesetzesentwurf mit Bestimmungen und Befugnisübertragung an die italienische Regierung

veröffentlicht am 14. Mai 2024 | Lesedauer ca. 7 Minuten

Am 23. April billigte der Ministerrat einen Gesetzesentwurf (DDL) zur Umsetzung innerstaatlicher Bestimmungen zu einigen wichtigen Aspekten der Nutzung von Systemen der künstlichen Intelligenz, insbesondere in den Sektoren, in denen eine solche Nutzung erhebliche soziale und wirtschaftliche Auswirkungen haben könnte.

Die DDL enthält die Übertragung von Befugnissen an die Regierung, in Kontinuität mit und zur Ergänzung der europäischen Verordnung über Künstliche Intelligenz (KI-Gesetz), die in Kürze veröffentlicht werden soll.

Zu den interessantesten Bestimmungen der DDL gehören die folgenden:

Allgemeine Grundsätze

Die DDL stellt fest, dass Forschung, Erprobung, Entwicklung, Einführung, Anwendung und Nutzung von Systemen und Modellen der Künstlichen Intelligenz (KI) im Einklang mit den in der Verfassung verankerten Grundrechten und -freiheiten, dem Recht der Europäischen Union sowie den Grundsätzen der Transparenz, der Verhältnismäßigkeit, der Sicherheit, des Schutzes personenbezogener Daten, der Vertraulichkeit, der Genauigkeit, der Nichtdiskriminierung, der Gleichstellung der Geschlechter und der Nachhaltigkeit erfolgen müssen.

Darüber hinaus soll die Entwicklung von Systemen und Modellen der Künstlichen Intelligenz (KI) auf der Grundlage von Daten und durch Prozesse erfolgen, deren Korrektheit, Zuverlässigkeit, Sicherheit, Qualität, Angemessenheit und Transparenz unter Beachtung des Grundsatzes der Verhältnismäßigkeit in Bezug auf die Bereiche, in denen sie eingesetzt werden, gewährleistet und überwacht werden müssen.

Bei der Entwicklung und Anwendung von Systemen und Modellen der Künstlichen Intelligenz (KI) müssen die Autonomie und Entscheidungsbefugnis des Menschen, die Schadensverhütung, die Erkennbarkeit und die Erklärbarkeit berücksichtigt werden. Daher ist die menschliche Kontrolle von grundlegender Bedeutung.

Schließlich muss die Cybersicherheit während des gesamten Lebenszyklus von Systemen und Modellen der Künstlichen Intelligenz (KI) als wesentliche Voraussetzung nach einem verhältnismäßigen und risikobasierten Ansatz gewährleistet werden, ebenso wie die Annahme spezifischer Sicherheitskontrollen, auch um ihre Widerstandsfähigkeit gegen Versuche, ihre Nutzung, ihr beabsichtigtes Verhalten, ihre Leistung oder ihre Sicherheitseinstellungen zu verändern, zu gewährleisten.

Grundsätze zur Information und Vertraulichkeit personenbezogener Daten

Der Einsatz von KI-Systemen in der Information darf die Freiheit und den Pluralismus der Medien, die Meinungsfreiheit, die Objektivität, die Vollständigkeit, die Unparteilichkeit und die Fairness der Information nicht beeinträchtigen.

In jedem Fall muss der Einsatz von Systemen der Künstlichen Intelligenz (KI) die rechtmäßige, korrekte und transparente Verarbeitung personenbezogener Daten und die Vereinbarkeit mit den Zwecken, für die sie erhoben wurden, unter Einhaltung der Datenschutzbestimmungen gewährleisten.

In voller Übereinstimmung mit dem Grundsatz der Transparenz müssen Informationen und Mitteilungen über die Datenverarbeitung im Zusammenhang mit dem Einsatz von Systemen der Künstlichen Intelligenz (KI) in klarer und einfacher Sprache erfolgen, um sicherzustellen, dass der Nutzer die unzulässige Verarbeitung seiner personenbezogenen Daten in vollem Umfang kennt und das Recht hat, dieser zu widersprechen.

Minderjährige

Die DDL sieht vor, dass der Zugang zu Technologien der Künstlichen Intelligenz (KI) für Minderjährige unter vierzehn Jahren die Zustimmung der Erziehungsberechtigten erfordert. Kinder unter achtzehn Jahren, die das vierzehnte Lebensjahr vollendet haben, können ihre Einwilligung zur Verarbeitung personenbezogener Daten im Zusammenhang mit der Nutzung von Systemen der Künstlichen Intelligenz (KI) geben, sofern die Informationen leicht zugänglich und verständlich sind.

Einsatz von Künstlicher Intelligenz (KI) in bestimmten Sektoren: Gesundheitswesen, Arbeit und geistige Leistung

Die DDL enthält dann einige Bestimmungen, die darauf abzielen, den Einsatz von Künstlicher Intelligenz (KI) in bestimmten Sektoren zu regeln, wie z.B.:

Den Gesundheitssektor. Insbesondere sieht der Entwurf vor, dass die Einführung von Systemen der Künstlichen Intelligenz (KI) im Gesundheitssystem den Zugang zu Gesundheitsdienstleistungen nicht nach diskriminierenden Kriterien auswählen und konditionieren darf. Die betroffene Person hat auch das Recht, über den Einsatz von Technologien der Künstlichen Intelligenz (KI) und die Vorteile, die sich aus dem Einsatz der neuen Technologien in diagnostischer und therapeutischer Hinsicht ergeben, informiert zu werden und Informationen über die verwendete Entscheidungslogik zu erhalten. Schließlich müssen die im Gesundheitswesen eingesetzten Systeme der Künstlichen Intelligenz (KI) und die dazu verwendeten Daten zuverlässig sein und regelmäßig überprüft und aktualisiert werden, um das Fehlerrisiko zu minimieren;
Der Beschäftigungssektor. Die DDL regelt auch den Einsatz von Künstlicher Intelligenz am Arbeitsplatz und besagt, dass dieser sicher, zuverlässig und transparent sein muss und nicht unter Verletzung der Menschenwürde oder der Vertraulichkeit personenbezogener Daten durchgeführt werden darf. Der Arbeitgeber oder Auftraggeber ist verpflichtet, den Arbeitnehmer über den Einsatz von künstlicher Intelligenz in den Fällen und auf die Art und Weise zu informieren, die in Artikel 1-bis des Gesetzesdekrets Nr. 152 vom 26. Mai 1997 festgelegt sind. Schließlich garantiert der Einsatz von Künstlicher Intelligenz in der Organisation und Verwaltung des Arbeitsverhältnisses die Einhaltung der unverletzlichen Rechte des Arbeitnehmers ohne Diskriminierung aufgrund des Geschlechts, des Alters, der ethnischen Herkunft, der religiösen Überzeugung, der sexuellen Orientierung, der politischen Meinung und der persönlichen, sozialen und wirtschaftlichen Verhältnisse, in Übereinstimmung mit dem Recht der Europäischen Union;
In Bezug auf die geistigen Berufe sieht die DDL vor, dass der Einsatz von Systemen der künstlichen Intelligenz in den geistigen Berufen nur für Tätigkeiten zulässig ist, die der beruflichen Tätigkeit dienlich und unterstützend sind und bei denen die ausgeführte geistige Arbeit überwiegt. Um das Vertrauensverhältnis zwischen dem Berufsangehörigen und dem Kunden zu gewährleisten, müssen die Informationen über die vom Berufsangehörigen verwendeten Systeme der Künstlichen Intelligenz (KI) dem Empfänger der geistigen Dienstleistung in klarer, einfacher und erschöpfender Sprache mitgeteilt werden.

Schließlich benennt die DDL die nationalen Behörden für künstliche Intelligenz für die Zwecke des KI-Gesetzes als zwei staatliche und bereits bestehende Behörden, die Agentur für digitales Italien (AgID) und die Agentur für nationale Cybersicherheit (ACN). Beide Behörden müssen sich mit anderen öffentlichen Verwaltungen und unabhängigen Behörden koordinieren und zusammenarbeiten. Zu diesem Zweck wird ein Koordinierungsausschuss im Büro des Premierministers eingerichtet.

Urheberrechte

Die DDL sieht die Einführung von Bestimmungen über die Identifizierung von Text-, Foto-, audiovisuellen und Rundfunkinhalten vor, die durch Systeme der Künstlichen Intelligenz (KI) erzeugt oder verändert wurden.

Insbesondere müssen alle Informationsinhalte, die von Anbietern audiovisueller und Hörfunkdienste über eine beliebige Plattform und auf beliebige Weise, einschließlich Video auf Abruf und Streaming, verbreitet werden und die nach Einholung der Zustimmung der Rechteinhaber durch den Einsatz von Systemen künstlicher Intelligenz vollständig erzeugt oder auch nur teilweise so verändert wurden, dass sie Daten, Tatsachen und Informationen darstellen, die nicht real sind, vom Urheber oder vom Inhaber der wirtschaftlichen Verwertungsrechte, falls dieser nicht der Urheber ist, deutlich sichtbar und von den Nutzern erkennbar gemacht werden, und zwar durch Einfügen eines identifizierenden Elements oder Zeichens, auch in Form eines Wasserzeichens oder einer eingebetteten Kennzeichnung, sofern diese deutlich sichtbar und erkennbar ist, mit dem italienischen Akronym „IA“ („KI“ auf Deutsch), oder, im Falle von Tonaufnahmen, durch Tonansagen oder Technologien, die eine Erkennung ermöglichen.

Darüber hinaus ändert die DDL einige Artikel des Urheberrechtsgesetzes (22.4.1941 Nr. 633), indem sie den Schutz von schöpferischen Werken der Literatur, der Musik, der bildenden Künste, der Architektur, des Theaters und der Filmkunst vorsieht, „auch wenn sie mit Hilfe von KI-Werkzeugen geschaffen wurden, sofern der menschliche Beitrag schöpferisch, relevant und nachweisbar ist“. Der Vorschlag bezieht daher Werke, die mit Hilfe von KI-Werkzeugen geschaffen wurden, in den Schutz ein, wobei das neue Kriterium der „Relevanz“ des menschlichen Beitrags gegenüber dem der Maschine gilt.

Strafen

Schließlich sieht die DDL eine Reihe von Maßnahmen vor, um Straftaten, die durch den Einsatz von Systemen der Künstlichen Intelligenz (KI) begangen werden, härter zu bestrafen. Zunächst gibt es einen spezifischen erschwerenden Umstand für den Einsatz von Systemen der Künstlichen Intelligenz (KI): Wenn sie in heimtückischer Weise eingesetzt wird oder die öffentliche oder private Verteidigung behindert oder die Folgen einer Straftat verschlimmert, wird das Strafmaß erhöht.

Um ein klareres Bild von der Regulierung der Künstlichen Intelligenz (KI) zu erhalten, müssen wir nun aus lokaler Sicht abwarten, bis das italienische Parlament die DDL in unser Rechtssystem einführt und aus europäischer Sicht, bis die KI-ACT im Amtsblatt der Europäischen Union veröffentlicht wird. Danach müssen alle Organisationen Maßnahmen ergreifen, um ihre Prozesse - durch spezielle Risikoanalysen - an die neue Gesetzgebung anzupassen.