Lassers Forschungsgruppe hatte den Algorithmus namens FusionM4Net, bedingt durch die Limitationen des verwendeten öffentlichen Datensatzes, zur Unterscheidung fünf verschiedener Kategorien von Hautveränderungen trainiert. Mittlerweile ist das Spektrum am LMU Klinikum breiter geworden. Neben den verschiedenen Hautkrebsarten werden nun unter anderem ebenso häufige dermatologische Krankheitsbilder wie Akne, Rosazea, Psoriasis oder Atopisches Ekzem klassifiziert. Krammer verspricht sich davon eine sinnvolle Unterstützung in der Diagnosefindung von Ärztinnen und Ärzten.

Integration in Patientenportal

Aktuell liegt der Fokus noch darauf, den Algorithmus an realen klinischen Daten – inklusive Metadaten – weiter zu trainieren und robuster zu machen. Doch für die Zukunft sieht Krammer noch weiteres Potential in der Anwendung des TUM-Algorithmus, wenn Avelios Medical diesen beispielsweise in ihr Patientenportal integriert: „Man kann ihn in telemedizinische Services oder bei Online-Terminvergaben einbinden. Dadurch kann man zum Beispiel auch eine automatische Triagierung der Patienten möglich machen. Es lassen sich sehr viele Anwendungsszenarien erstellen, die tatsächlich zu einer Verbesserung in der Patientenversorgung führen können.“

Termine in der Dermatologie sind mit einer bestimmten Wartezeit von Wochen, manchmal auch Monaten verbunden. Wenn Patienten bei der Online-Terminvergabe nun ein Foto von ihrer Hauterkrankung bereitstellen, wäre durch den Algorithmus eine automatische Triagierung denkbar. So könnten Fälle, die eine Notfallversorgung benötigen – zum Beispiel, wenn auf dem Bild Schwarzer Hautkrebs erkannt wird – automatisch höher priorisiert werden. Auf diese Weise wäre eine zeitnahe Diagnose durch den Arzt und dadurch ein schneller Therapiebeginn möglich, was letztlich den Behandlungserfolg des Patienten verbessern könnte.

Interpretierbarkeit von Algorithmen

Doch damit der Algorithmus in der Klinik erfolgreich eingesetzt werden kann, braucht es neben vielen und vor allem qualitativ hochwertigen Daten für Tobias Lasser und Sebastian Krammer noch etwas Wesentliches: Das KI-System muss vertrauensvoll sein, Ärzte müssen den Prozess der Entscheidungsfindung nachvollziehen können. Es muss klar sein, warum eine Hauterkrankung klassifiziert wurde, welche Daten zu diesem Ergebnis geführt haben. Derzeit wird an der TU München unter anderem an der Interpretierbarkeit von Algorithmen geforscht und an der sogenannten out-of-distribution detection. Das heißt, es wird nach Wegen gesucht, wie der Algorithmus erkennt, dass er Bildmaterial nicht einordnen kann – weil es beispielsweise in den Trainingsdaten nicht vorgekommen ist – und deshalb keine Vorhersage getroffen werden sollte.

„Die Erklärbarkeit des Algorithmus ist absolut essentiell – die Ärzte können sonst nicht darauf vertrauen oder es kann auch zu Fehlentscheidungen führen. Es muss für den Arzt so nachvollziehbar wie möglich sein, damit er weiß: In diesem Fall kann der Algorithmus nicht sinnvoll eingesetzt werden, während er in einem anderen Fall hilft, unter anderem weil der Arzt vielleicht noch nicht so viele Hautkrebsformen gesehen hat und ihm dadurch eine auffällige Region auf einem Bild gezeigt wird“, sagt Sebastian Krammer dazu. Insgesamt sieht er in dem Algorithmus einen Gewinn sowohl für Ärzte als auch Patienten. Deshalb beabsichtigt Avelios Medical auch, den Zertifizierungsprozess anzugehen, damit der Algorithmus als Medizinprodukt zugelassen wird. Sobald dies geschehen ist, soll er dann als Add-On ins Unternehmensprogramm aufgenommen werden.