Künstliche Intelligenz und Datenschutz – Eine Einführung

veröffentlicht am 1. April 2025 | Lesedauer ca. 5 Minuten

Künstliche Intelligenz (KI) existiert bereits seit über 50 Jahren, doch erst in den letzten Jahren haben Fortschritte bei der Rechenleistung sowie die Verfügbarkeit großer Datenmengen und neue Algorithmen zu bahnbrechenden Entwicklungen geführt. KI ist heute ein wesentlicher Treiber für die digitale Transformation unserer Gesellschaft. Umso wichtiger ist eine datenschutzkonforme Umsetzung, die die neuen Potenziale und Herausforderungen von KI mit den geltenden datenschutzrechtlichen Anforderungen in Einklang bringt. Aufgrund der Menge an Daten, die oftmals einen Personenbezug aufweisen, spielt die Datenschutz-Grundverordnung (DS-GVO) eine entscheidende Rolle bei der Gestaltung und Implementierung von KI-Systemen. Um DSGVO-konform zu handeln, müssen Unternehmen eine Reihe von Maßnahmen ergreifen, die sowohl technische als auch organisatorische Aspekte umfassen.

Was ist künstliche Intelligenz? »
Die Rolle von Künstlicher Intelligenz im Datenschutz »
Datenschutzrechtliche Herausforderungen bei Künstlicher Intelligenz »
Zusammenfassung und Massnahmen »

Was ist künstliche Intelligenz?

Künstliche Intelligenz bezeichnet die Fähigkeit von Maschinen, Aufgaben zu bewältigen, die üblicherweise menschliche Intelligenz erfordern. Dazu gehört das Lernen aus Erfahrungen, das Erkennen von Mustern, das Treffen von Entscheidungen und das Lösen von Problemen.

Das Prinzip von KI besteht darin, mit Hilfe eines Algorithmus aus einer großen Datenmenge (Big Data) Muster zu erkennen, um daraus eine Schlussfolgerung abzuleiten. Hierzu werden sogenannte neuronale Netzwerke eingesetzt, die aus Trainingsdaten lernen und deren Algorithmen und Struktur sich an die Funktionsweise des menschlichen Gehirns angelehnt sind.

Der am 1. August 2024 in Kraft getretene AI Act enthält die erste rechtliche Definition von KI. Er stellt zugleich die erste EU-weite Regulierung von KI dar. KI-Systeme werden darin als „autonome, adaptive Systeme mit der Fähigkeit zur Schlussfolgerung“ bezeichnet. Nach Art. 3 Abs. 1 AI Act muss ein KI-System die folgenden Merkmale aufweisen:

Maschinengestütztes System
Autonomer Betrieb
Potenzielle Anpassungsfähigkeit
Explizite oder implizite Zielverfolgung
Fähigkeit der Ableitung (Inferenz)
Ausgaben
Beeinflussung der physischen oder virtuellen Umgebung

Die Rolle von Künstlicher Intelligenz im Datenschutz

Künstliche Intelligenz (KI) spielt eine zentrale Rolle im Datenschutz, da die Leistungsfähigkeit von KI-Systemen stark von der Qualität und Menge der zugrundeliegenden Daten abhängt. Diese Daten enthalten oft personenbezogene Informationen, die durch die Datenschutz-Grundverordnung (DS-GVO) geschützt sind. Daher stellt der Datenschutz einen wesentlichen Aspekt beim Einsatz von KI dar.

Jede Verarbeitung personenbezogener Daten, sei es bei der Erhebung von Trainingsdaten, beim KI-Training oder im Produktivbetrieb, muss auf einer datenschutzrechtlichen Rechtsgrundlage i.S.v. Art. 6 DS-GVO basieren, wie zum Beispiel Einwilligung, einem Vertrag oder berechtigten Interessen. Neben dem Grundsatz der Rechtmäßigkeit sind auch andere Datenschutzgrundsätze von hoher Relevanz, wie das Transparenzgebot, die Zweckbindung, die Richtigkeit der Daten sowie das Prinzip der Datenminimierung.

Datenschutzrechtliche Herausforderungen bei Künstlicher Intelligenz

KI wird in Unternehmen bereits heute auf vielfältige Weise eingesetzt, um die Effizienz zu steigern, Zeit zu sparen und Kosten zu senken. Beispiele hierfür sind der Einsatz von Chat-Bots im Kundenservice, die automatisierte Content-Produktion und auch Prozesse im Personalwesen. Künstliche Intelligenz ist aus dem Unternehmensalltag kaum mehr wegzudenken und hat das Potenzial, unser Leben grundlegend zu verändern.

Zugleich kann der Einsatz von KI aber auch datenschutzrechtliche Risiken mit sich bringen. Dazu gehören regelmäßig:

Datenmissbrauch: KI-Systeme können missbraucht werden, um personenbezogene Daten zu sammeln und zu analysieren, ohne dass die betroffenen Personen davon in-formiert sind oder zugestimmt haben.
Bias und Diskriminierung: KI-Algorithmen können bestehende Vorurteile in den Daten verstärken und zu diskriminierenden Entscheidungen führen.
Transparenz und Nachvollziehbarkeit: Viele KI-Systeme sind komplex und schwer zu verstehen, was es erschwert, ihre Entscheidungen nachzuvollziehen und zu überprüfen.

Bei Verstößen gegen datenschutzrechtliche Anforderungen und einer damit einhergehenden unrechtmäßigen Verarbeitung von personenbezogenen Daten haben betroffene Personen umfangreiche Rechte und können Schadensersatzansprüche gegenüber dem verantwortli-chen Unternehmen geltend machen. Darüber hinaus kann es aber auch zu behördlichen Ver-fahren kommen, die mit der Verhängung von Bußgeldern verbunden sein können. Daher sollte eine Datenschutz-Compliance beim Einsatz von KI ein zentraler Bestandteil jeder Unterneh-mensstrategie sein. Nur so können die Vorteile von KI voll ausgeschöpft werden, ohne die Pri-vatsphäre und die Rechte Einzelner zu gefährden.

Zusammenfassung und Maßnahmen

Künstliche Intelligenz bietet Unternehmen große Chancen, bringt jedoch auch erhebliche Herausforderungen für den Datenschutz mit sich. Der Einsatz von KI-Systemen erfordert eine sorgfältige Abwägung der Risiken und die Umsetzung umfassender datenschutzrechtlicher Maßnahmen.

Um Datenschutzrisiken beim Einsatz von KI zu minimieren, sollten Unternehmen eine Reihe von technischen und organisatorischen Maßnahmen ergreifen. Dazu gehören Maßnahmen wie Privacy by Default (datenschutzfreundliche Voreinstellungen) bzw. Privacy by Design (Integration von Datenschutz bereits bei der Entwicklung von KI-Systemen). Auch regelmäßige Audits von KI-Systemen sowie die Schulung von Mitarbeitenden sind zentrale Bestandteile einer wirksamen Datenschutz-Compliance.

Neben der technischen Vorsorge ist auch menschliche Expertise unverzichtbar. Damit Datenschutz und KI in einem Unternehmen Hand in Hand gehen, ist die Zusammenarbeit mit dem Datenschutzbeauftragten oder datenschutzrechtlichen Beratern ein wesentlicher Baustein für eine verlässliche Datenschutz-Compliance. Dies spielt vor allem im Zeitalter der Künstlichen Intelligenz eine bedeutende Rolle. Unternehmen, die dieser Verantwortung frühzeitig nachkommen, können nicht nur rechtliche Risiken verringern, sondern zugleich auch das Vertrauen ihrer Kunden und Geschäftspartner stärken. Eine proaktive Auseinandersetzung mit datenschutzrechtlichen Anforderungen beim Einsatz von Künstlicher Intelligenz, bietet die Chance langfristig erfolgreich zu sein.