Georg Thieme Verlag KG
Der kma Entscheider-Blog

KI im GesundheitswesenWie steht es um den Patientenschutz?

Beim Einsatz von KI-Systemen in Krankenhäusenr ist zum Schutz der Patientinnen und Patienten ein hoher Sorgfaltsmaßstab einzuhalten. Zunehmende Autonomie fordert das Recht heraus.

Dr. Daniel Koch
Kohnen Partner Rechtsanwälte

Dr. Daniel Koch, Fachanwalt für Medizinrecht bei Kohnen Partner Rechtsanwälte.

Mit steigender Autonomie der KI-Systeme stößt das Recht an seine Grenzen. Der medizinische Einsatz von Künstlicher Intelligenz (KI) verspricht enormes Potential, birgt aber gleichzeitig Gefahren und Unsicherheiten. Auch wenn vollständig autonome System noch Zukunftsmusik sind, müssen Patientinnen und Patienten schon jetzt im klinischen Alltag umfassend informiert und aufgeklärt werden. Dies fördert langfristig Akzeptanz und Innovationsoffenheit jenseits potentieller rechtlicher Verantwortungsdefizite.

Der Einsatz von KI im Gesundheitswesen verspricht eine Verbesserung der medizinischen Versorgung der Bevölkerung. Die diagnostische Genauigkeit steigt ebenso wie die therapeutische Effizienz. Zudem soll die Ärzteschaft und das Pflegepersonal entlastet werden. Vielfach besteht zudem die Annahme, dass Sicherheit und Qualität der medizinischen Versorgung erhöht und hierdurch medizinische Haftungsfälle reduziert werden.

Die Definition von KI fällt naturgemäß schwer. Einigkeit dürfte dahingehend bestehen, dass es sich bei der KI um selbständig lernende Software handelt, die eigenständig komplexe Auswahlprozesse auf der Basis von Trainingsdaten trifft und diese durch softwaregesteuerte Maschinen umsetzt. Entscheidend dürfte insoweit sein, dass es sich bei KI-Systemen um autonome Systeme handelt, auf deren Entscheidung der Mensch – wenn überhaupt – nur geringen Einfluss hat. Dies wirft die Frage auf, wer für Schädigungen durch eine KI-System haftet.

Keine Haftung ohne Verschulden

Bei der Anwendung von KI-Systemen durch Ärzte und Krankenhäuser ist ein strenges Pflichtenprogramm zu beachten. Dieses geht aufgrund der Autonomie der KI-Systeme über das hinaus, was ohnehin beim Einsatz von technischen Geräten zu gewährleisten ist. Nun wird man vom Anwendenden nicht erwarten können, dass dieser für das fehlerfreie Funktionieren des KI-Systems einsteht. Problematisch wird auch sein, dass eine volle Beherrschbarkeit des KI-Systems aufgrund seiner Autonomie wohl nicht erreicht werden kann. Im Hinblick auf das zivilrechtliche Haftungssystem dürfte aktuell eine Behandlungsfehlerhaftung aus dem Behandlungsvertrag schwerlich durchsetzbar sein, da eine fahrlässige Begehungsweise stets voraussetzt, dass der schädigende Erfolg vorhersehbar ist, was angesichts der autonomen Entscheidungsfindung ausscheiden dürfte. Nur wenn für den Anwendendenden erkennbar ist, dass das System versagen wird und er es dennoch einsetzt, wird man zu einer haftungsrelevanten, wenn auch eher theoretischen Pflichtverletzung kommen können.

Patienten sind umfassend aufzuklären

Neben einer Sorgfaltspflichtverletzung kann – und das wird in der Praxis noch immer häufig unterschätzt – ein Verstoß gegen die Aufklärungspflicht haftungsbegründend sein. Für jede Behandlung hat ein Patient eine Einwilligung zu erteilen. Voraussetzung für eine wirksame Einwilligung ist stets eine Aufklärung, die den Patienten in die Lage versetzt, die Vor- und Nachteile eine Behandlung abzuwägen. Der Einsatz von KI-Systemen stellt eine neue Methode dar, über deren Neuartigkeit und die damit verbundenen (unbekannten) Risiken wird man die Patienten umfassend aufklären müssen. Auch wenn sich KI-Systeme weiter etablieren, wird sicherlich ebenfalls darüber aufzuklären sein, dass es sich um ein autonomes System handelt. Dabei dürfen analoge Behandlungsalternativen nicht ausgelassen werden. Auch sieht das Gesetz vor, dass die Aufklärung in verständlicher Sprache und angemessener Weise erfolgt, was im Hinblick auf die Komplexität der KI ebenfalls berücksichtigt werden muss.

KI-Systeme werden zukünftig auch im Gesundheitswesen zunehmend eingesetzt werden. Grundlegendes Vertrauen ist unerlässlich für eine breite Akzeptanz. Angesichts der Undurchsichtigkeit algorithmischer Entscheidungsprozesse für Patienten sind diese so früh wie möglich einzubinden. Die hier kursorisch aufgezeigte Haftungsproblematik ist nur eine von vielen Fragestellungen, deren Lösung herausfordernd sein wird.

2022. Thieme. All rights reserved.
Nutzungs­bedingungen

Bitte loggen Sie sich ein, um einen neuen Kommentar zu verfassen oder einen bestehenden Kommentar zu melden.

Jetzt einloggen

  • Derzeit sind noch keine Kommentare vorhanden. Schreiben Sie den ersten Kommentar!