Seit mehr als zehn Jahren wird im deutschen Gesundheitswesen über Digitalisierung, mindestens seit fünf Jahren auch über Künstliche Intelligenz (KI), debattiert. Mit eher mittelmäßigen Ergebnissen. Hinter der Funktionsfähigkeit von IT-Systemen und KI stehen Algorithmen, die eine Software oder Anwendung steuern. Die Algorithmen haben damit einen ultimativen Einfluss auf das Gesundheitsverhalten. Sie können zu mehr Bewegung motivieren oder Zusatzprodukte empfehlen, die zum Verhalten der Person passen.

Die zugrundeliegenden Daten werden zu Nutzendenprofilen aggregiert. Dadurch können Digitalunternehmen zu Behandelnde, Gesunde und Kranke klassifizieren und ihnen genau das Produkt oder die Dienstleistung anbieten, die benötigt wird. Es stellt sich nur die Frage, welche Intention bei Digitalunternehmen an erster Stelle steht. Mehr Umsatz, mehr Daten, mehr Zeit auf der Plattform oder in der App, bessere Gesundheit?

Das Silicon Valley ist mit der Vision angetreten, die Welt besser zu machen. Menschen zu verbinden, Informationen für alle verfügbar machen und einen Zusatznutzen für die digital-Konsumierenden zu schaffen. Letzteres ist sicherlich realisiert worden, sonst wäre Big Tech nicht so erfolgreich. Seit den Facebook-Leaks wissen wir jedoch auch, dass moralische Prämissen bei dem Konzern, der sich kurzerhand in Meta umbenannt hat, nicht an erster Stelle stehen. Profite sind King. Das ist im Kapitalismus auch grundsätzlich okay, so lange moralische Mindeststandards eingehalten werden. Wie könnten sich Algorithmen also auswirken auf die zukünftige Gesundheitsversorgung?

Szenario 1: Gesundheitsfördernde Maschinenpower

In diesem Szenario ist der Algorithmus dem Menschen überlegen. Er hat einen umfassenden steuernden Einfluss auf die Menschen. Dabei verfolgt er das Ziel der Gesundheitsförderung. So könnte er für die Menschen vollautomatisiert gesunde Nahrungsmittel einkaufen und sie zu mehr Bewegung animieren. Zwar würden Individuen dann weniger selbstbestimmt entscheiden, es wäre jedoch zu ihrem Wohle. Bei einem dominierenden Algorithmus müsste dann die Intention ganz klar und ausschließlich gesundheitsfördernd ausgerichtet sein. Dafür könnten dem Algorithmus verschiedenen Grundregeln einprogrammiert werden, analog der Roboter-Gesetze nach Asimov. Der Staat müsste hier bei der Gestaltung des Rahmenwerks mitwirken, sodass Unternehmen keine eigenen Ziele über die Gesundheitsverbesserung der Nutzenden stellen können.

Szenario 2: Big Tech ist die Gesundheit egal

Im zweiten Szenario wäre der Algorithmus ebenfalls dominierend. Menschen werden maßgeblich von ihm gesteuert, jedoch mit negativen Gesundheitseffekten. So könnten Algorithmen Personen zu ungesunden Lebensmitteln oder einem ungesunden Lebensstil lenken, wenn sie dadurch mehr Umsatz generieren. Ein Beispiel wäre die Erhöhung der Bildschirmzeit am Smartphone, die dann zu Bewegungsmangel und sozialer Isolation führen können. Andererseits könnte Werbung für gesundheitsschädliche Produkte den Menschen angezeigt werden, die ein bestimmtes Profil aufweisen und anfällig für diese Produkte sind, wie beispielsweise Energydrinks oder zukünftig vielleicht Cannabis. Dieses Phänomen kennen wir bereits von Big Tech.

Es geht um Zeit auf der Plattform (u.a. Facebook), mehr Konsum (u.a. Amazon) oder Werbeplätze in der Suche (u.a. Google). Hier würden private Unternehmen mit geheimen Algorithmen die gesamte Gesundheitssteuerung vornehmen. Somit muss der Gesetzgeber hinreichende Rahmenbedingungen setzen und die Unternehmen sich einem Ethik-Kodex unterwerfen.

Szenario 3: Mensch-dominierter Gesundheitssupport

Im dritten Szenario ist der Mensch die dominierend handelnde Person und der Algorithmus dient nur zur Unterstützung bei der Entscheidungsfindung. Mithilfe von Wearables, Implantaten und anderen Gadgets optimiert der Mensch seine Gesundheit selbst. In der Fachsprache spricht man auch von Human Augementation. Durch die Assistenzsysteme ist stets klar, dass der Mensch mit KI mithält und die Algorithmen, wie in Szenario 1, bestimmten moralischen Gesetzen unterliegen, die Allgemeingültig sind. So könnten in diesem Szenario tendenziell Krankheiten ausgerottet, völlige Informationstransparenz geschaffen und das gesunde Altern enorm herausgezögert werden. Es wäre ein selbstbestimmtes Leben möglich, womit dieses Szenario für die meisten Menschen das erstrebenswerteste sein dürfte.

Die Grundbedingungen von Szenario eins würden auch hier weitestgehend zum Tragen kommen. Das heißt, es müsste Allgemeingültige Regeln auf einer supranationalen Ebene geben, wie beispielsweise durch die WHO festgelegt.

Szenario 4: Algorithmen dienen dem ungesund lebenden Menschen

Auch in diesem Szenario ist der Mensch dem Algorithmus unterlegen. Er nutzt ihn jedoch aus, um sich ungesund verhalten zu können oder bei anderen solches auszulösen. So könnte durch gezielte Fehleingabe von Daten der Algorithmus manipuliert werden, um sich Vorteile zu verschaffen, beispielsweise einen günstigeren Krankenversicherungstarif. Das damit angestrebte gesundheitsfördernde Verhalten der Krankenversicherung wird jedoch von der Person nicht umgesetzt. Sicherlich könnten KIs Manipulationen früher oder später entdecken.

Der Mensch ist der Maschine jedoch immer einen Schritt voraus, da der Algorithmus erst ein geändertes Verhalten antizipieren und überhaupt darauf trainiert werden muss. Im schlechtesten Fall würden Bots gezielt zur Manipulation eingesetzt. Beispielsweise um Fake-News über das Impfen zu verbreiten, wodurch schließlich ein gesundheitsschädigendes Verhalten die Folge sein kann (wenn Menschen sich nicht impfen lassen). Die Algorithmen werden in diesem Szenario ganz gezielt genau für diese Zwecke eingesetzt.

Die richtigen Rahmenbedingungen als Schlüssel zum Erfolg

Damit die Algorithmen grundsätzlich die Gesundheit der Menschen fördern, müssen die genannten Rahmenbedingungen geschaffen werden. Der Gesetzgeber hat dafür zu sorgen, dass sie ein besseres Verständnis für Algorithmen entwickeln und den Markt besser überblicken können. Big Tech hat natürlich die besten Anwälte, Lobbyisten und Berater, die eine engmaschige Regulierung verhindern. Das wird der Staat weder auf nationaler noch auf EU-Ebene verändern können. Eine Adaption bzw. Ausweitung der Robotergesetze und deren konsequente Einhaltung wäre ein erster Schritt, auf den sich alle Akteure verständigen könnten.

Man wird Big Tech, egal ob aus den USA oder bald aus China, nicht vom Markt ausschließen können. Die Nutzenden wollen innovative digitale Dienste. Und Europa hat leider wenig Konkurrenzfähiges zu bieten. Im Gesundheitssektor ist dies sicherlich anders. Hier haben wir auch einige europäische Player, mit großem Potenzial. Aber auch dort wird Profitmaximierung möglicherweise die treibende Handlungsmaxime, wodurch nicht zwingend die beste Gesundheitsleistung zum Zuge kommt.