Das schnelle Durchsuchen riesiger Datenmengen, das Erstellen von Profilen oder das Abgleichen von bildlichen Strukturen ist die große Stärke der künstlichen Intelligenz. Auch für medizinische Diagnostik und in der Planung einer Therapie gilt künstliche Intelligenz als vielversprechende Technik. Nun gab der Deutsche Ethikrat eine 287 Seiten umfassende Stellungnahme zu den rasanten Entwicklungen im Bereich KI samt ethischer Bewertung heraus. Unter dem Titel „Mensch und Maschine – Herausforderungen durch Künstliche Intelligenz“ werden vier Themenbereiche beleuchtet: Medizin, schulische Bildung, öffentliche Kommunikation und Meinungsbildung sowie öffentliche Verwaltung.
KI soll menschliche Entfaltung erweitern, nicht vermindern
„KI darf den Menschen nicht ersetzen", bilanzierte die Ethikratsvorsitzende Alena Buyx bei der Veröffentlichung des Berichts in Berlin (Pressemitteilung, 20.3.2023). Der Einsatz künstlicher Intelligenz müsse „menschliche Entfaltung erweitern und darf sie nicht vermindern“. Dies seien Leitprinzipien für die ethische Bewertung des Zusammenwirkens von Mensch und KI-gesteuerter Technologie.
Die Zulassung von KI-Produkten am Markt ist nicht geregelt
KI-gestützte digitale Produkte kommen zunehmend im Gesundheitssystem zum Einsatz, wobei diese derzeit noch kein Prüfungsverfahren durchlaufen. Ähnlich wie bei der Veröffentlichung von „ChatGPT“, der Software zur Erstellung von Texten mit Hilfe der KI, entscheidet derzeit auch bei medizinischen Produkten die Marktsituation über den Moment der Verfügbarkeit. Der Ethikrat empfiehlt deshalb Prüf-, Zertifizierungs- und Auditierungsmaßnahmen, damit nur hinreichend geprüfte KI-Produkte zum Einsatz kommen. Hohe Anforderungen an die Qualität der verwendeten Trainingsdaten sollten in der Medizin beachtet werden, „um vermeidbare Verzerrungen der Ergebnisse von vorneherein zu minimieren.“
Vorteile gibt es für die medizinische Forschung
Vorteile sieht der Ethikrat für die KI in der medizinischen Forschung. Wenn der Schutz der an den Studien teilnehmenden Personen und ihrer Daten sichergestellt sei, könnten hilfreiche Vor- und Zuarbeiten bei Literaturrecherchen geleistet werden, um „neue Korrelationen zwischen bestimmten Phänomenen zu entdecken und auf dieser Grundlage treffsichere Vorhersagen zu machen, etwa zur Ausbreitung eines Virus oder zur Struktur komplexer Moleküle.“
Die Früherkennung von Krankheiten wird verbessert
Auch in der medizinischen Versorgung sieht der Ethikrat Vorteile. Etwa wenn KI-Instrumente zur Diagnostik und Therapie eingesetzt werden. Als Beispiel nennt der Bericht Entscheidungsunterstützungssysteme bei Brust- und Prostatakrebserkrankungen. Auch könnten Diagnosevorschläge bei der Bildbearbeitung und Bildbeurteilung sowie der automatisierten Durchsicht von Patientenakten und wissenschaftlichen Datenbanken erfolgen. Fortschritte in der KI-gestützten Bilderkennung eröffneten neue Möglichkeiten der Früherkennung, Lokalisation und Charakterisierung pathologischer Veränderungen.
Sorge vor Personalbbau und Abwertung der sprechenden Medizin
„Die verstärkte Nutzung von KI-Komponenten in der Versorgung darf nicht zu einer weiteren Abwertung der sprechenden Medizin oder einem Abbau von Personal führen.“ Stattdessen sollte dafür gesorgt werden, dass die KI ärztlichem Personal die Chance eröffnet, von „monotonen Routinearbeiten entlastet zu werden und mehr Zeit für den Austausch mit der jeweiligen Patientin zu gewinnen.“
Eine Maschine kann keine ärztlichen Entscheidungen ersetzen
Risiken sieht der Bericht dahingehend, dass durch Delegation bestimmter Aufgaben an technische Systeme eigene Kompetenzen verloren gehen. Auch bestünde die Gefahr, dass Sorgfaltspflichten im Umgang mit KI-gestützter Technik aufgrund eines „Automation-Bias“ vernachlässigt werden. "Eine vollständige Ersetzung der ärztlichen Fachkraft durch ein KI-System gefährdet das Patientenwohl", schreiben die Ethiker.
