Welchen Erwartungen können Systeme Künstlicher Intelligenz im medizinischen Umfeld gerecht werden? Den aktuellen Entwicklungsstand hat sich die Zentrale Ethikkommission bei der Bundesärztekammer angesehen und eine Stellungnahme zur "Entscheidungsunterstützung ärztlicher Tätigkeit durch Künstliche Intelligenz" erarbeitet. Die Verantwortlichen schauen dabei aus medizinischer, ethischer und rechtlicher Perspektive auf das Zukunftsthema, welches sich in einem Spannungsfeld zwischen "potentielle Verbesserung der Patientenversorgung" und "Ängste, die sich negativ auf die Arzt-Patient-Beziehung auswirken könnte" bewegt.

Ethische Sensibilisierung der Ärzteschaft

Im Fokus stehen sogenannte "Clinical Decision Support Systems" (CDSS). Hierbei handelt es sich um KI-basierte Datenverarbeitungssysteme, die Ärztinnen und Ärzte bei ihrer Entscheidungsfindung unterstützen sollen. "Die Stellungnahme soll dazu beitragen, für die ethischen Herausforderungen bei der Entwicklung und dem Einsatz von KI-basierten CDSS zu sensibilisieren", sagt der Vorsitzende der ZEKO, Prof. Dr. jur. Jochen Taupitz. Mit Künstlicher Intelligenz werden enorme Erwartungen für den medizinischen Fortschritt verbunden, insbesondere im Bereich der Diagnostik und der personalisierten Medizin, betont er. Da aber auch KI nicht frei von Fehlern sein werde, weist Taupitz darauf hin, wie wichtig es sei, dass sich Ärztinnen und Ärzte mit den Besonderheiten der KI-gestützten Entscheidungsassistenz befassen.

Die ZEKO begrüßt in ihrer Stellungnahme den Einsatz von CDSS - vorausgesetzt, diese tragen dazu bei, die Qualität und Effektivität der Patientenversorgung zu verbessern. CDSS sollen Ärzten und Patienten darin unterstützen, eine große Menge klinisch-diagnostischer Informationen für den gemeinsamen Entscheidungsprozess zur Verfügung zu stellen, die Individuums-bezogen und fallorientiert durch integrierte Software-Systeme ausgewählt werden. So detektieren CDSS beispielsweise in der radiologischen Bildgebung auffällige Areale und kommen in der Dermatologie bei der Beurteilung der Malignität von Hautläsionen zur Anwendung. "Bereits jetzt können CDSS durch den Einsatz moderner Methoden der Datenverarbeitung bei bestimmten Teilaufgaben Ergebnisse erzielen, die mit denen von Ärztinnen und Ärzten vergleichbar sind oder diese sogar übertreffen", heißt es in der Stellungnahme.

KI-Systeme arbeiten nicht autonom

Ärztinnen und Ärzte sollten sich dennoch darüber bewusst sein, dass CDSS Fehler und Verzerrungen aufweisen könnten. Damit ist die Gefahr fehlerhafter Diagnose- und Therapieempfehlungen verbunden. "Beim Einsatz von KI liegt die Verantwortung und Rechenschaftspflicht für Diagnose, Indikationsstellung und Therapie nach wie vor beim Arzt beziehungsweise bei der Ärztin. Diese Verantwortung kann nicht an ein CDSS abgetreten werden", hebt Taupitz hervor. Optimale Behandlungsergebnisse würden insbesondere erzielt, wenn CDSS und ärztliches Erfahrungswissen zusammenwirken. "Nur Ärztinnen und Ärzte vermögen das Krankheitsbild gesamtbiographisch zu verorten und auch psychische sowie emotionale Faktoren zu berücksichtigen, die sowohl für die Diagnose Gewicht haben als auch für eine angemessene Therapie ausschlaggebend sein können", heißt es in der Stellungnahme der ZEKO.

Sie wollen die komplette Stellungnahme der ZEKO lesen? Hier finden Sie die den Volltext.