Europa muss zum Kontinent der aufgeklärten KI werden

veröffentlicht am 12. Oktober 2023 | Lesedauer ca. 3 Minuten

Mittlerweile wird jede Leserin und jeder Leser Erfahrungen mit KI gemacht haben. Zutreffend ist aber auch, dass wir im Alltag nicht erst seit der Veröffentlichung von ChatGPT von KI-Technologien profitieren. Das tun wir immer dann, wenn Maschinen personalisierte Auswertungsergebnisse liefern, Medienbrüche überwunden, gesprochene Sprache in Text überführt oder Texte automatisch in eine Fremdsprache übersetzt werden, wenn das Smart Home clevere Interaktionen ermöglicht, das Auto selbsttätig einparkt, empfohlene Produkte punktgenau zu persönlichen Wünschen passen, Produktion ressourcenschonender geplant, Lieferketten resilienter gestaltet oder Qualitätskontrollen robuster gemacht und in kürzerer Zeit zuverlässigere Ergebnisse geliefert werden.

Prof. Dr. Antonio Krüger kommentiert

Prof. Dr. Antonio Krüger ist seit November 2019 Vorsitzender der Geschäftsführung des Deutschen Forschungszentrums für Künstliche Intelligenz GmbH (DFKI), leitet als wissenschaftlicher Direktor den DFKI-Forschungsbereich Kognitive Assistenzsysteme, hat 2010 den Studiengang Medieninformatik an der Universität des Saarlandes etabliert und ist bis heute für diesen verantwortlich. Er war Mitglied der Enquete-Kommission Künstliche Intelligenz des Deutschen Bundestags, hat mehr als 200 Beiträge in anerkannten Fachzeitschriften und Konferenzen veröffentlicht und ist in internationalen und nationalen Fachgremien aktiv.

CopyRight: DFKI / Jürgen Mai

Die Talente von Menschen und Maschinen haben Überschneidungen, sind aber in ihren wesentlichen Leistungsspitzen komplementär verteilt. Das Ziel des „KI-Projekts“ ist, menschliches Feingefühl, lebensweltliche Urteilsfähigkeit und situative Handlungskompetenz zu verbinden mit maschineller Kraft und Geschwindigkeit, Ermüdungsfreiheit oder der modularen Erweiterungs- und Reparaturmöglichkeit von Maschinen und dies so, und das möchte ich betonen, dass die theoretischen Mehrwerte auch praktisch für das gesellschaftliche und private (Wohl-)Leben realisiert werden.

Um die kompensatorischen Chancen der Mensch-Maschine-Kooperation zu nutzen, entwickeln Wissenschaft und Wirtschaft zunehmend erfolgreichere Ansätze. KI als werkzeugermöglichende Fortschrittstechnologie steht aber erst am Anfang der Entwicklung und die oberen Grenzen der erreichbaren Leistungsfähigkeit lassen sich heute noch nicht präzise benennen. Für den öffentlichen Diskurs sind die persönlichen Erfahrungen mit KI wichtig für Informiertheit und Urteilsfähigkeit, insofern kam die Veröffentlichung von ChatGPT zur rechten Zeit und ist als KI-Bildungserfahrung ein Beitrag zur Weltkultur.

Da KI-Anwendungslösungen einen grundsätzlichen Einfluss auf den Einzelnen und die demokratische Zivilgesellschaft haben können, ist die Legislative gefragt. Im politischen Diskurs geht es deshalb um die zentrale gesetzgeberische Frage, welche Regulierung sinnvoll und gesellschaftlich notwendig ist. Konsens besteht, dass einerseits personenbezogene Daten von KI-Systemen nur DSGVO-konform verarbeitet werden dürfen, dass Copyrightfragen und Urheberrechte auch bei der Akquisition von Trainingsdaten zu berücksichtigen sind, und dass andererseits das noch unausgeschöpfte Innovationspotenzial und die technisch-wissenschaftliche Verbesserung von KI nicht blockiert werden sollten. Wir dürfen die gesundheitlichen und ökologischen Mehrwerte nicht verpassen, die mit KI realisiert werden können.

Das regulierungsstrategische Problem ist, wie man regionale Kulturunterschiede respektvoll aufgreifen und gleichzeitig global konstruktive Rahmenbedingungen implementieren kann. Zusammenarbeit sollte unterstützt, lokale Besonderheiten müssen berücksichtigt werden. Als Orientierung sollte gelten, dass nationale oder kontinentale Einzelinitiativen die grenzüberschreitende Interoperabilität der Systeme nicht verunmöglichen. Dazu brauchen nicht alle Regionen die gleichen Regeln, sie müssen sich aber bei der Formulierung absprechen und gewagten Fortschritt nicht verhindern. Für diese Abstimmungen ist eine überstaatliche Instanz notwendig, die diesen Prozess begleitet, ohne eine eigene Agenda zu verfolgen. Ein Kandidat für diese Rolle könnte die OECD sein. Und diese Ansicht wurde auch in dem am 30. April 2023 veröffentlichten Abschlusskommuniqué der G7-Digitalminister im Rahmen des G7 Summit Japan ausgedrückt.

Aber selbst, wenn die Regulierungsinitiativen zu einem zukunftsoffenen Konsens führen, sind grundsätzliche Fragen wissenschaftlich noch nicht beantwortet. Je mehr generative KI-Systeme in Entscheidungsprozesse integriert werden, desto wichtiger wird die Selbsterklärungsfähigkeit dieser Systeme. Aktuell entsprechen sie dem behavioristischen Verständnis einer BlackBox, bei der der Lösungsweg intransparent ist, und Erfolg sich daran bemisst, wie hoch die Wahrscheinlichkeit einer problemlösenden Ausgabe ist. Das ist in zahlreichen Anwendungsdomänen vollkommen brauchbar, aber für Entscheidungsunterstützung in vielen Fällen nicht ausreichend. Damit sich der Mensch auf eine KI-gestützte Empfehlung verlassen kann, brauchen wir deutliche Fortschritte bei der dialogischen Erklärbarkeit der Resultate. In Entscheidungsprozessen geht es eben nicht nur um wahrscheinlich korrekte, sondern um nachvollziehbar begründete Empfehlungen, so dass die Nutzenden die Verantwortung übernehmen können für deren Konsequenzen sie in die Haftung genommen werden. Obwohl das Problem wissenschaftlich noch nicht gelöst ist, ist die KI-Forschung in Deutschland und der EU auf dem richtigen Weg. Im September wurde in Saarbrücken der Start für ein europäisches Zentrum für erklärbare KI verkündet. Das Ziel von CERTAIN ist die Erforschung und der intensive internationale Austausch über Ansätze, die starke Garantien für KI-Systeme dadurch ermöglichen, dass die Entscheidungsempfehlungen nachvollziehbar und die Qualität gesichert sind. Die Richtung stimmt, wir sollten diesen Weg interdisziplinär und intensiv verfolgen.