Das Gesundheitswesen gilt als einer der großen Zukunftsmärkte von KI. Damit verbunden entstehen Erwartungen, aber auch Befürchtungen und Verunsicherungen: Werden KI-gesteuerte Systeme Ärzte und Pflegekräfte ersetzen? Lassen sich Kosten verringern? Wie steht es um die Sicherheit der algorithmisch erstellten Diagnosen? Wer haftet bei Roboter-Operationen? Werden wir zu Opfern einer undurchschaubaren „Algokratie“ und generieren Daten ohne Ende? Oder unterstützt KI die bessere Versorgung und ermöglicht dank neuer Effizienz mehr Zeit für den Patienten?
Der schwedische Ethiker Michael Strange analysiert in einem aktuellen im Fachjournal AI and Ethics publizierten Beitrag (14.3.2024) konstruktive Vorschläge für einen differenzierten Diskurs und plädiert für ein ganzheitliches Bild des Menschen.
Der Einfluss der augenblickliche Hype auf die weitere Verwendung von KI im Gesundheitswesen
Der von einem Hype (‚Aufregung‘) getriebene Diskurs sei laut Strange, Ethiker am Department of Global Political Studies der Universität Malmö in Schweden, zu wenig differenziert. Je nachdem, ob eine eher utopische oder dystopische Sichtweise hinsichtlich KI vorherrscht, habe dies Einfluss darauf, ob es tatsächlich zu einer innovativen Nutzung von KI im Gesundheitswesen kommen wird. Strange unterscheidet dabei drei Typen eines KI-Hypes:
Hype Typ A) Die ungebremste Rechenleistung von KI revolutioniert das gesamte Gesundheitssystem
Diese utopische Vision sieht die KI als „Zaubermittel“. Das Narrativ geht etwa so: In Verbindung mit unbegrenzter Rechenleistung wird die KI das gesamte Gesundheitswesen revolutionieren. Es werden überall Daten gesammelt und diese auf neue Weise in der gesamten Gesellschaft genutzt. Bei der Diagnose wird es einfach. Hochdetaillierte digitale Scans werden erstellt und Anomalien erkannt. Für Kliniker, die mit Patienten arbeiten, vereinfacht sich der Alltag, da die KI Vorabinformationen bereitstellt (z. B. Basisdaten, Herzfrequenzschwankungen, Verläufe).
Hype Typ B) KI rettet die Gesundheitssysteme vor dem finanziellen Zusammenbruch
Diese dystopische Vision bedient das Narrativ, wonach sich die Gesundheitssysteme in einer Krise befinden und kurz vor dem Zusammenbruch stehen. Diese Einschätzung deckt sich mit den persönlichen Erfahrungen vieler Menschen und wird von den Mainstream-Medien unterstützt. Die Hauptsorge der Gesundheitsverwaltungen ist darauf gerichtet, wie die schnell steigenden Kosten im Gesundheitswesen eingedämmt und wie man sich auf weiter steigende Kosten vorbereiten kann („Babyboomer“-Generation benötigt zunehmend intensive Gesundheitsversorgung).
Aufgabe der KI ist als automatisierte Entscheidungssystem dazu beizutragen, den Einsatz von mehr Krankenhauspersonal – etwa zugunsten von Altenpflege – zu vermeiden und Kosten einzusparen. „Die Angst vor einem Zusammenbruch des Gesundheitssystems lässt es als tollkühn erscheinen, der Einführung der KI-Technologie im Wege zu stehen“, urteilt Strange.
Hype Typ C) KI führt zu einer globalen Privatisierung des Gesundheitssystems durch Daten-Giganten
Die dritte Form des KI-Hypes im Gesundheitswesen nennt Strange einen „AI-Hype-Cocktail“: Die Verwendung von KI im Gesundheitswesen führe letztlich zu einer globalen Privatisierung des Gesundheitswesens und zu einer Übernahme durch US-amerikanische Unternehmen. Führend sind bei der Entwicklung von Anwendungen vor allem US-Unternehmen wie Microsoft (OpenAI), Google und Apple. Halter und Eigentümer der Daten gewinnen also die Oberhand. Eine weltweite Dequalifizierung mit der Folge einer Machtverschiebung setzt ein.
Hier werde, so Strange, der KI-Begriff (englisch ‚AI‘ für artificial intelligence) undifferenziert gebraucht. Der Sammelbegriff KI sollte zugunsten von detaillierten Beschreibungen ersetzt werden, aus denen ersichtlich wird, worin genau der Mensch ersetzt und was automatisiert werden soll.
Der Einsatz von KI muss das menschliche Verhalten mitberücksichtigen
Gerade im Gesundheitsbereich spielen die individuelle Beziehung zum Patienten, Vertrauen und soziale Kompetenz eine große Rolle. Viele Entscheidungen werden also von Nicht-KI-Faktoren abhängig bleiben (Bioethik aktuell, 10.4.2023). Wenn das Ziel sein soll, ein gerechteres und ganzheitlicheres Gesundheitssystem zu schaffen, dann dürfen sich die Zukunftsvisionen nicht alleine auf KI beschränken. Hier besteht sonst die Gefahr, ein Narrativ zu bedienen, wonach Probleme in der Patientenversorgung rein technischer Natur und mit KI zu lösen sind.
Damit KI Benefits bringe, müsse auch immer der soziale Kontext und das menschliche Verhalten mitberücksichtigt werden. Strange regt daher einen Dialog mit den verschiedenen Gruppen der Gesundheitsberufe an, damit sie ihre Expertise und die Werte ihrer professionellen Identität einbringen können. Auch NGOs wie Patientenverbänden sollte ermöglicht werden, KI ihren Bedürfnissen entsprechend mitzuentwickeln und sie sollten ein Mitspracherecht haben, wie KI im Gesundheitswesen angemessen eingesetzt wird.
