Home

Intern

Deutsch|English

Rödl & Partner eröffnet neue Niederlassung in Hannover » |

Weltweit

Anscheinend ist in Ihrem Browser JavaScript nicht aktiviert. Aktivieren Sie bitte JavaScript, und versuchen Sie es erneut.

Generative Künstliche Intelligenz: Chinas Rechtsrahmen

veröffentlicht am 25. Juli 2024 | Lesedauer ca. 5 Minuten

Generative Künstliche Intelligenz (KI) entwickelt sich weltweit rasant. China ist dabei keine Ausnahme. Im Gegenteil, China gilt als einer der Hotspots der Entwicklung. Die schnelle Entwicklung bringt jedoch auch Herausforderungen mit sich, so dass sich Gesetzgeber weltweit fragen, wie KI am besten und sinnvollsten reguliert werden kann. Eine der jüngsten Maßnahmen Chinas zur Regulierung sind die „Vorläufigen Maßnahmen für die Verwaltung von Diensten der generativen künstlichen Intelligenz“ (Provisional Measures for the Administration of Generative Artificial Intelligence Services – die „Maßnahmen“), die 2023 unter Federführung der Cyberspace Administration of China (CAC) unter Beteiligung anderer Regierungsbehörden ausgearbeitet und verabschiedet wurden. Die Maßnahmen werden die Zukunft von KI in China prägen und Auswirkungen auf die globale KI-Governance haben.

Die Maßnahmen im Überblick

Die Maßnahmen sind Teil der umfassenden Strategie Chinas, im Bereich KI eine weltweit führende Rolle einzunehmen. Gleichzeitig soll sichergestellt werden, dass die Technologie verantwortungsvoll entwickelt, eingesetzt und genutzt wird. Mit den Regelungen werden verschiedene Aspekte generativer KI abgedeckt, darunter Datenschutz, Content Management, ethische Standards und die Verantwortlichkeiten von KI-Entwicklern und -Nutzern.

Datenschutz und Datensicherheit: Die Maßnahmen betonen den Schutz personenbezogener Daten. KI-Entwickler müssen sicherstellen, dass alle Daten, die für das Training von KI-Modellen verwendet werden, rechtmäßig und mit Zustimmung der Betroffenen erhoben wurden. Zum Schutz der Daten vor unberechtigtem Zugriff und Missbrauch sind strenge Maßnahmen vorgesehen. Zusätzlich sind die Vorschriften des Cybersecurity-Gesetzes, des Datensicherheitsgesetzes, insbesondere des Gesetzes zum Schutz persönlicher Daten und die Regelungen der einschlägigen (Fach-)Behörden zu beachten.

Verwaltung von Inhalten: Generative KI-Systeme, die Texte, Bilder und andere Medien erzeugen können, müssen sich an strikte Content-Richtlinien halten. Die Richtlinien sehen vor, dass mit KI erzeugte Inhalte entsprechend gekennzeichnet werden (Wasserzeichen/Watermark). Sie verbieten die Erzeugung von Inhalten, die schädlich, irreführend oder störend für die soziale Ordnung sein könnten. Dazu gehören auch Inhalte, die als politisch sensibel angesehen werden könnten oder die im Widerspruch zur öffentlichen Moral stehen. Zu nennen sind hier zum Beispiel unbelegte Gerüchte, Falschinformationen, die zu öffentlicher „Unruhe“ führen können, Pornographie, kinder- und jugendgefährdende Inhalte oder Inhalte, die zu Suchtverhalten oder unkontrolliertem Konsum beitragen können.

Ethische Standards: Die Maßnahmen sehen vor, dass KI-Systeme nach ethischen Grundsätzen entwickelt und eingesetzt werden müssen. Der Fokus liegt hierbei insbesondere auf der Einhaltung der „öffentlichen Ordnung und Moral“, wobei dies jedoch nicht näher definiert wird. Die Maßnahmen regeln allerdings ausdrücklich, dass Voreingenommenheit in KI-Algorithmen zu vermeiden ist und sichergestellt wird, dass KI-generierte Inhalte keine Einzelpersonen oder Gruppen diskriminieren. Entwickler werden ermutigt, Fairness, Verantwortlichkeit und Transparenz in ihre KI-Systeme zu integrieren.

IP-Rechte und fairer Wettbewerb: Entwickler und Nutzer von KI-Systemen sind ferner verpflichtet, Rechte an geistigem Eigentum und die Geschäftsethik zu achten, vertrauliche Geschäftsgeheimnisse zu wahren und KI-Systeme nicht zur Erlangung von Monopolstellungen oder als Mittel im unlauteren Wettbewerb zu verwenden.

Verantwortlichkeit und Haftung: KI-Entwickler und -Betreiber sind für die Ergebnisse ihrer generativen KI-Systeme rechtlich verantwortlich. Das bedeutet, dass Entwickler und Betreiber sanktioniert werden können, wenn ein KI-System schädliche Inhalte erzeugt. Darüber hinaus sind regelmäßige Audits und Evaluierungen von KI-Systemen vorgeschrieben, um die Einhaltung der Vorschriften zu gewährleisten.

Auswirkungen auf die KI-Entwicklung in China

Die Einführung dieser Vorschriften stellt einen wichtigen Schritt in Chinas Ansatz zur KI-Governance dar. Sie zielen darauf ab, ein verantwortungsvolles und ethisches KI-Umfeld zu fördern, stellen KI-Entwickler jedoch auch vor Herausforderungen.

Förderung einer verantwortungsbewussten KI

Eines der Hauptziele der Maßnahmen ist die Förderung der Entwicklung einer verantwortungsvollen KI. Die mit der generativen KI verbundenen Risiken sollen durch die Festlegung klarer Leitlinien für den Datenschutz, die Verwaltung von Inhalten und die ethische Nutzung verringert werden. Dadurch soll das Vertrauen der Öffentlichkeit in KI-Technologien gestärkt und ihre breite Anwendung in verschiedenen Sektoren gefördert werden.

Herausforderungen für Entwickler

Die strengen Anforderungen können KI-Entwickler in China jedoch auch vor Herausforderungen stellen. So kann es zum Beispiel erforderlich sein, die Art und Weise der Erfassung, Speicherung und Nutzung von Daten erheblich zu ändern, um die Einhaltung der Datenschutzgesetze zu gewährleisten. Auch kann das kreative Potenzial generativer KI-Systeme eingeschränkt werden, wenn Inhalte so gestaltet werden müssen, dass sensible politische oder sensible soziale Inhalte vermieden werden.

Globale Auswirkungen

Die im Bereich der generativen KI ergriffenen Maßnahmen werden mit hoher Wahrscheinlichkeit auch Auswirkungen über die nationalen Grenzen hinaus haben. Als eine der führenden Nationen in der KI-Forschung und -Entwicklung könnte der Regulierungsansatz Chinas Einfluss auf andere Länder haben und zu einem Präzedenzfall für die globale KI-Governance werden.

Vorbildfunktion der Maßnahmen

Der detaillierte und umfassende Ansatz, den China bei der Regulierung generativer KI verfolgt, könnte als Vorbild für andere Länder dienen, die ihre eigenen Vorschriften entwickeln wollen. Die Betonung des Datenschutzes, der ethischen Nutzung und der rechtlichen Verantwortung sowie Haftung von Entwicklern und Betreibern trägt der weltweiten Besorgnis über die möglichen Auswirkungen von KI auf die Gesellschaften Rechnung.

Auswirkungen auf die internationale Zusammenarbeit

Es ist davon auszugehen, dass die Regelungen auch Auswirkungen auf die internationale Zusammenarbeit im Bereich der KI-Forschung und -Entwicklung haben werden. Unternehmen und Forschungseinrichtungen außerhalb Chinas, die an einer Zusammenarbeit mit chinesischen Einrichtungen interessiert sind, müssen die Vereinbarkeit ihrer Praktiken mit den chinesischen Vorschriften sicherstellen. Die Folge könnte eine stärkere Harmonisierung der KI-Standards auf globaler Ebene sein, aber auch die Schaffung von Hindernissen für die Zusammenarbeit, wenn die Vorschriften als zu restriktiv empfunden werden.

Auswirkungen auf Unternehmen in China

Der Einsatz von generativer KI in China ist in einer Vielzahl von Sektoren und Branchen bereits etabliert. Unter anderem wird im Gesundheits- und Bildungswesen, der Finanzbranche, im Handel, aber auch in der Fertigungsindustrie KI eingesetzt. In Branchen mit sensiblen Daten wie dem Gesundheits- und Medizinbereich, könnten sich die aktuellen Leitlinien als große Herausforderung darstellen und die Art und Weise der Datenerhebung,
-speicherung und -analyse auf Grund der datenschutzrechtlichen, aber auch ethischen Vorgaben grundlegend verändern.

Im Bildungs- und Medienbereich könnten die Content-Management-Vorschriften erheblichen Einfluss haben, aber auch die Vorgaben zu politisch und sozial sensiblen Themen. Beispielsweise könnte sich die Art und Weise, wie Lehrmaterialien erstellt, kuratiert und verteilt wird, ändern. Im Medienbereich könnte die Berichterstattung noch mehr einschränkt werden, einerseits durch die bereits bestehenden strengen Zensurgesetze, aber auch durch die KI-Leitlinien. Insbesondere bei der KI-gestützten Textgenese, der Recherche mittels Suchmaschinen uvm. könnte die Nachrichtenberichterstattung beeinträchtigen. Dasselbe trifft auch auf die Unterhaltungsindustrie und hier insbesondere die sozialen Medien (z.B. Plattformen wie Weibo oder WeChat) sowie die Film- und Musikindustrie zu.

Die Anwendung von KI in der Fertigungsindustrie spielt eine entscheidende Rolle bei der Steigerung der Effizienz, Optimierung von Prozessen und Automatisierung von Aufgaben. Allerdings könnten die ethischen Standards, die in den Leitlinien festgelegt sind, Auswirkungen auf die Gestaltung und Durchführung dieser Prozesse haben. Es ist daher wichtig, dass diese Standards bei der Implementierung von KI-Technologien berücksichtigt werden, um sicherzustellen, dass die Technologie verantwortungsvoll und zum Wohl aller Beteiligten eingesetzt wird.

Ebenso wird KI im Maschinen- und Anlagenbau oder der Automotive-Industrie angewandt. Neben der KI-basierten Produktionssteigerung oder Betriebsoptimierung findet KI ebenfalls Einsatz in autonomen Fahrzeugen, hier insbesondere bei der Software und der Entwicklung von Algorithmen, aber auch bei der Wartung, Instandhaltung und Ursachen- und Fehleranalyse von Maschinen und Anlagen.

Dies ist nur ein kleiner Teil, wo KI in China eingesetzt wird. Für Unternehmen, die KI-Anwendungen in China nutzen, bedeuten die Maßnahmen, dass sie ihre Methoden überprüfen und entsprechend anpassen müssen, um den Vorschriften gerecht zu werden. Dies kann insbesondere in Bereichen wie dem Datenschutz, dem Content-Management und der ethischen Nutzung von KI eine Herausforderung darstellen. Unternehmen sollten sicherstellen, dass sie die rechtlichen und ethischen Aspekte berücksichtigen, wenn sie KI-Technologien implementieren und anwenden.

Zusammenfassung

Chinas Maßnahmen markieren einen entscheidenden Schritt in der Regulierung von KI-Technologien – sowohl auf nationaler als auch internationaler Ebene. Durch die Adressierung von Schlüsselthemen wie Datenschutz, Content Management und ethischen Standards zielen die Maßnahmen auf die Förderung einer verantwortungsvollen Entwicklung von KI bei gleichzeitiger Minderung potenzieller Risiken ab. Die Vorschriften stellen zwar eine Herausforderung für KI-Entwickler und Anwender dar, bieten aber auch einen Rahmen für den Aufbau von Vertrauen in KI-Technologien.

Für KI-Technologieentwickler bedeuten die Maßnahmen, dass die (Weiter-)Entwicklung neuer KI-Technologien geprüft und anpasst werden sollte, um den Vorgaben zum Datenschutz gerecht zu werden. Zudem sollte sichergestellt werden, dass ihre KI-Systeme keine schädlichen oder irreführenden Inhalte erzeugen und dass die Systeme nach den ethischen Grundsätzen entwickelt und eingesetzt werden.

Für andere Länder könnte der chinesische Ansatz ein wichtiger Bezugspunkt sein. In den kommenden Jahren wird sich zeigen, wie diese Vorschriften die Zukunft von KI in China und weltweit gestalten werden.