AI Act – Was gilt es zu beachten?

Mit dem AI Act bzw. der KI-Verordnung hat die Europäische Union (EU) eine umfassenden Verordnung über Künstliche Intelligenz (KI) veröffentlicht, welche die KI-Anwendung selbst, die Einführung und das Handeln mit KI reguliert.

Der AI Act lässt sich grob in folgende Bereiche untergliedern:

Der AI Act hat die Förderung von menschenzentrierter und vertrauenswürdiger KI sowie die Sicherstellung eines hohen Schutzniveaus für Gesundheit, Sicherheit und Grundrechte zum Ziel. Der Anwendungsbereich erstreckt sich über alle Marktteilnehmer, die an der Entwicklung, dem Einsatz und der Nutzung von KI-Systemen in der EU beteiligt sind. So sind Anbieter, die in der Europäischen Union KI-Systeme in Verkehr bringen oder in Betrieb nehmen, Betreiber von KI-Systemen oder auch Einführer und Händler von KI-Systemen betroffen. Mit dem risikobasierten Ansatz erfolgt eine Klassifizierung der KI-Systeme bezüglich des potenziellen Risikos, welches die KI-Anwendung bei ihrem Einsatz verursacht. Hier wird zwischen niedrigem (z.B. KI in Computerspielen), mittlerem (z.B. KI für die Videogenerierung) und hohem Risiko (z.B. KI in Medizinprodukten) unterschieden. Zusätzlich werden noch verbotene KI-Anwendungen (z.B. KI für Social Scoring) beschrieben. Es bestehen gewisse Transparenzpflichten für Anbieter und Betreiber von KI-Systemen, welche für die direkte Interaktion mit natürlichen Personen bestimmt sind, synthetische Audio-, Bild-, Video-, oder Textinhalte erzeugen oder manipulieren oder zur Emotionserkennung bzw. zur biometrischen Kategorisierung eingesetzt werden. Je nach Risiko-Einstufung müssen für den Einsatz der KI bestimmte Anforderungen erfüllt werden. Die Anforderungen unterscheiden sich danach, ob man Anbieter oder Betreiber von KI-Systemen mit hohem Risiko ist. Als Anbieter eines KI-Systems müssen mehr Pflichten erfüllt werden als von einem Betreiber eines KI-Systems. Werden die Pflichten oder verbotene Praktiken missachtet, können unterschiedlich stark ausgeprägte Sanktionen verhängt werden, welche im schlimmsten Fall bis zu 35 Mio. Euro betragen können.

Wichtig ist dabei zu beachten, dass es sich hier um eine Verordnung der Europäischen Union handelt. Im Gegensatz zu einer Richtlinie bedarf es hier keiner Umsetzung mehr in das nationale Recht, die Verordnung gilt unmittelbar in den Mitgliedsstaaten der Europäischen Union.

Seit dem 2. Februar 2025 greift bereits das Verbot bestimmter KI-Anwendungen. Zudem müssen seit diesem Zeitpunkt die Anbieter und Betreiber von KI-Systemen die KI-Kompetenz in ihrem Unternehmen oder in ihrer öffentlichen Einrichtung sicherstellen.

​​Es sind Maßnahmen zu ergreifen, um nach besten Kräften zu gewährleisten, dass das Personal und andere Personen, die in deren Auftrag mit dem Betrieb und der Nutzung von KI-Systemen befasst sind, über ein ausreichendes Maß an KI-Kompetenz verfügen. In der KI-Verordnung werden den Betreibern viele Freiheiten gelassen, wie sie die KI-Kompetenz in ihren Unternehmen oder Einrichtungen sicherstellen wollen.