KI in der Gesundheitswirtschaft: Chance oder Herausforderung?

​​​veröffentlicht am 31. Mai 2023; Autorin: Franziska Witt

Künstliche Intelligenz (KI) ist ein Megatrend und macht dementsprechend auch vor dem Gesundheitssektor nicht Halt. Die Anwendung von KI hat auch hier das Potential, zahlreiche Prozesse zu vereinfachen und sogar zu verbessern. Doch was bedeutet das für den Gesundheitssektor? Chance aus der aktuellen Krise oder Zunahme an Herausforderungen? Diesen und anderen Fragen gehen wir im nachfolgenden Artikel nach.

1. Einsatz von KI in der Gesundheitswirtschaft

Auch in der Gesundheitswirtschaft kommt es vermehrt zum Einsatz von KI. Durch sie können Prozesse effektiver und effizienter gestaltet werden. In der Gesundheitsversorgung, in der Forschung und letztlich im administrativen Bereich. So ist KI bereits in Anfängen in der Lage, Erkrankungen frühzeitiger festzustellen als dies durch den Menschen möglich wäre.

2. Welche Chancen ergeben sich daraus?

Dass der Gesundheitssektor in der Krise steckt, ist hinlänglich bekannt. KI kann in diesem Zusammenhang eine Lösung sein, aus der Krise zu kommen. Der Markt für KI soll in der Gesundheitswirtschaft laut Precedence Research in den nächsten Jahren um 37 Prozent wachsen. Und sogar dem Fachkräftemangel könnte eine KI gegensteuern. Laut des Berufsverbands für Pflegeberufe fehlen aktuell 200.000 Vollzeitkräfte. KI kann natürlich nicht die Fachkräfte als solche ersetzen (und soll sie auch nicht), denn Pflege ist u.E. nach wie vor Vertrauenssache. Und Vertrauen wird zwischen Menschen geschaffen. Allerdings kann sie den eingesetzten Kräften einen erheblichen Anteil an Arbeit abnehmen und sie so entlasten, damit sie sich auf ihre Kerntätigkeiten konzentrieren können.

3. Wie soll das umgesetzt werden?

Zum einen kann KI administrative Aufgaben zuverlässig übernehmen und hinsichtlich Patientenakten und Terminabsprachen eingesetzt werden. Denn KI sorgt dafür, dass in kürzester Zeit größere Mengen an Daten verarbeitet werden können.
Zum anderen kann KI aber auch dafür sorgen, dass die medizinische Behandlung in ihrer Qualität verbessert wird. So kann KI beispielsweise in der Gesundheitsprävention und in der Diagnose eingesetzt werden. KI arbeitet nachweisbar nicht nur schneller als der Mensch, sondern ist auch genauer und damit letztlich kostensparender. Natürlich sind die Ergebnisse qualitativ zu überprüfen. Zudem muss die Letztentscheidung auch durch einen Menschen erfolgen.

Eine Studie aus dem Jahr 2017 kam zu dem Ergebnis, dass der Einsatz von KI im europäischen Gesundheitssektor zu einer Kostensenkung in Höhe eines dreistelligen Milliardenbetrages innerhalb der nächsten zehn Jahre führen könne. Dies erklärt sich mit der Früherkennung von Krankheiten durch KI, beispielsweise bei Demenz (durch die Früherkennung im Anfangsstadium lassen sich etwa 8 Milliarden Euro sparen), die Fettleibigkeit von Kindern (durch gezielte Präventionsmaßnahmen lassen sich demnach ca. 90 Milliarden Euro einsparen) oder der Diagnose und passgenauen Therapieformen von Brustkrebs (Einsparungen von ca. 74 Milliarden Euro).

Letztlich können durch den Einsatz von KI erhebliche Kosten als auch Zeit gespart werden. Diese gewonnene Zeit lässt sich besser am Patienten einsetzen.

4. Herausforderungen

Um KI allerdings wirklich rechtssicher nutzen zu können, muss sichergestellt sein, dass die KI technisch ausgereift ist und gute Algorithmen, ausreichende Rechenkraft und eine sichere Datenübertragung gewährleistet.

Es hat sich aber schon jetzt gezeigt, dass KI auch diskriminierende Entscheidungen treffen kann und so in ihrer Anwendung einzelne Personengruppen benachteiligen könnte, da Vorurteile der Gesellschaft (Sexismus, Rassismus etc.) automatisch in den Algorithmus übertragen werden. Es hat sich z.B. gezeigt, dass KI teilweise Frauen diskriminiert, weil sie mit Infos von Personen „gefüttert“ worden ist, die vom Grundtenor her die Auffassung vertreten, dass Männer „besser“ sind als Frauen und dieses Gedankengut entsprechend in den Algorithmus einspielen. Das kann schon dann der Fall sein, dass jemand der KI „beibringt“, dass Männer gute Ärzte sind. Geht die KI dann davon aus, dass dies im Umkehrschluss bedeutet, dass Frauen deswegen eben keine guten Ärzte sind, ist die Diskussion vorprogrammiert. Es könnte also in der konkreten Anwendung dazu kommen, dass die KI einzelne Personengruppen benachteiligt. Denn letztlich kann die KI natürlich nur mit Daten arbeiten, die ihr zugefügt werden. Es wird allerdings bereits an transparenten Algorithmen geforscht, um so durch ausgereifte Programme das Risiko von Diskriminierungen in der Zukunft weitestgehend zu minimieren.

Auch werden in der Gesundheitswirtschaft besonders sensible personenbezogene Daten verarbeitet. Somit muss bei der Anwendung von KI die in Europa geltende Datenschutzgrundverordnung (DSGVO) beachtet werden. Diese ist in Deutschland besonders streng umgesetzt worden und wird überdies auch noch von dem Bundesdatenschutzgesetz (BDSG), den Landesdatenschutzgesetzen (LDSG) und den Sozialgesetzbüchern (SGB) flankiert, die spezifische Regelungen und Anforderungen für den Schutz von personenbezogenen Gesundheitsdaten festlegen. Die strengen Datenschutzbestimmungen sind allerdings bedeutend, um die Vertraulichkeit und Sicherheit dieser sensiblen Daten gewährleisten zu können. Es ist daher erforderlich, dass Anwender von KI die datenschutzrechtlichen Anforderungen genau prüfen und sicherstellen, dass die Grundsätze und Vorschriften der Gesetze eingehalten werden. Darüber hinaus wurden in Deutschland, für einen verantwortungsvollen Einsatz von KI im Einklang mit den Datenschutzgesetzen, ethische Leitlinien und Rahmenwerke entwickelt sowie die Rolle der Datenschutzbehörden zur Überwachung und Durchsetzung des Datenschutzes gestärkt.
Es wird sich daher erst in den nächsten Jahren zeigen, ob die in Deutschland geltenden Datenschutzbestimmungen uns im Zuge der fortschreitenden Technologie vom Rest der Welt „abhängen” oder uns vielmehr durch ihre engen rechtlichen Vorgaben schützen.

Zu guter Letzt wirft der Einsatz von KI auch etliche haftungsrechtliche Fragen auf. Was passiert zum Beispiel, wenn eine Operation durch KI durchgeführt wird und der Patient bei einem Misslingen einen Schadensersatzanspruch geltend macht?

Im Grundsatz haftet in Deutschland derjenige, der mit seinem Verhalten ursächlich einen Schaden herbeiführt. Es könnte daher nahe liegen, dass der Hersteller der KI (bspw. bei einem Roboter) für den Schaden haftet.

Dafür könnte der Grundgedanke des Produkthaftungsgesetzes (ProdHaftG) eingreifen, wonach der Hersteller eben am nächsten an seinem Produkt ist und daher nach §§ 1 ff. ProdHaftG haften soll. Allerdings müsste der Geschädigte danach den Fehler in der Programmierung nachweisen können, was mitunter schwierig sein dürfte.

Abzugrenzen von dieser verschuldensunabhängigen Gefährdungshaftung (Produkthaftung) ist daher auch noch die Produzentenhaftung nach § 823 BGB, nach welcher eine Beweislastumkehr erfolgt und der Produzent beweisen muss, dass er gerade kein fehlerhaftes Produkt in den Rechtsverkehr gebracht hat. Doch auch hier wird es schwer sein nachzuweisen, ob der Fehler bereits im Zeitpunkt des Inverkehrbringens vorlag oder sich vielmehr durch die selbstständige Fortentwickelung der KI im Laufe der Zeit gebildet hat.

Letztlich könnte auch der die KI anwendende Arzt haften. Auch hier kommt eine Haftung nach § 823 BGB in Betracht. Fraglich bleibt allerdings auch hier (sofern er die KI ordnungsgemäß bedient hat), ob man ihm Vorsatz oder Fahrlässigkeit im Umgang mit der KI nachweisen kann. Dies könnte sich bereits schwierig gestalten, da Ärzte während der Operation nicht einsehen können auf welcher Grundlage die KI welche (falsche) Entscheidung trifft. Und auch wenn hier grundsätzlich dem Geschädigten die Beweislast für die Voraussetzungen eines Schadensersatzanspruches (Behandlungsfehler, Kausalität, Schaden) obliegt, so hat die Rechtsprechung insbesondere für die haftungsbegründende Kausalität zahlreiche Ausnahmen geschaffen, bei denen dem Geschädigten Beweiserleichterungen bis hin zu einer Beweislastumkehr zugutekommen können. So soll beispielsweise nach § 630h Abs.1 BGB ein Fehler des Arztes vermutet werden, wenn sich das allgemeine Behandlungsrisiko verwirklicht hat, das für den Arzt voll beherrschbar war und das zum Eintritt eines Schadens geführt hat. Unter einem solchen allgemeinen Behandlungsrisiko sind Schäden zu verstehen, die der Patient auf Grund der Verwirklichung von Risiken erleidet, die im Organisationsbereich des Arztes/ des Krankenhauses liegen, nicht in der Sphäre des Patienten liegen und nicht den Kernbereich ärztlichen Handelns betreffen. Zu klären wäre daher auch, ob die Einhaltung ausreichender Sorgfaltsmaßnahmen im Umgang mit KI eine solche Organisationspflicht des Arztes darstellen kann.

Die Frage der Haftung bei der Anwendung von KI gilt es daher noch zu klären. Eine Absicherung vor finanziellen Schäden könnten die Anwender im Gesundheitssektor hier womöglich durch den Abschluss einschlägiger Versicherungen erzielen.

5. Ausblick

Die KI ist da und allgegenwärtig. Man muss sich also mit den Themen im Unternehmen auseinandersetzen. Letztlich stellt die KI in der Gesundheitswirtschaft sowohl eine Chance, als auch gleichzeitig eine Herausforderung dar. Doch auch, wenn ihre Nutzung noch einige klärungsbedürftige (rechtliche) Fragen aufwirft, so sollten Sie mögliche Herausforderungen als einen Weg aus der Krise annehmen – und sich schon heute bereit machen für die Chancen, die Ihnen die Zukunft bietet.