Foundation Models haben eine neue Zeitrechnung in der Entwicklung von Künstlicher Intelligenz (KI) eingeleitet. Während eine klassische KI anhand von Röntgenbildern nur darauf trainiert ist, etwa Pneumothorax zuverlässig zu erkennen, scheitert sie an dieser Aufgabe, sobald man ihr statt Röntgenaufnahmen CT-Bilder vorlegt. Und zwar, weil ihr dazu der Kontext fehlt. Ein Foundation Model ist hingegen in der Lage, nach einer entsprechenden Einarbeitungsphase auch neue Aufgaben zu erlernen – und damit Pneumothorax nicht nur in Röntgenaufnahmen, sondern auch in CT-Bildern zu erkennen.
„Diese Robustheit gegenüber neuen Situationen ist es, was den Einsatz von Foundation Models für Kliniken so attraktiv macht“, sagte KI-Expertin Dr. Lisa C. Adams, Leitende Oberärztin und stellvertretende Klinikdirektorin am Institut für Diagnostische und Interventionelle Radiologie der TU München, in einem Vortrag im Rahmen der Veranstaltungsreihe Zukunft Teleradiologie.
Basis für unterschiedliche Anwendungen
Damit brechen sie das traditionelle Paradigma, nach dem für jede spezifische Aufgabe ein komplett neues, spezialisiertes KI-Modell entwickelt und trainiert werden muss. Stattdessen besitzen solche Grundlagenmodelle ein breites Basiswissen, das auf riesigen Datensätzen beruht. Zudem sind sie in der Lage, verschiedene Arten von Daten gleichzeitig zu verarbeiten. Dazu gehören Texte, Bilder, Videos und Audiodaten. Diese Fähigkeit ermöglicht es, Informationen aus unterschiedlichen Quellen zu kombinieren und daraus umfassendere und genauere Ergebnisse abzuleiten. Ein Schlüsselfaktor dieses Lernprozesses ist das sogenannte self-supervised learning, eine Technik, die es ermöglicht, aus Daten zu lernen, die nicht vorher aufwendig aufbereitet wurden. Dafür nutzen sie inhärente Muster und Strukturen innerhalb dieser Datensätze, ohne dabei auf kostspielige, von Menschen händisch hinzugefügte Annotationen angewiesen zu sein.
Ein gutes Beispiel für Foundation Models sind Large Language Models (LLMs) wie ChatGPT, die eine spezialisierte Untergruppe dieser Modelle bilden, da ihre Trainingsdaten ausschließlich aus Text bestehen – mittlerweile können viele Sprachmodelle allerdings auch Bilder und Audiodaten verarbeiten. Ihre Datengrundlage bildet eine Mischung aus lizenzierten und öffentlich verfügbaren Daten, die etwa im Internet vorhanden sind. Der daraus erlernte Kontext bildet das Fundament oder die Basis dieser Modelle.
In der anschließenden Feinabstimmung wird das Basismodell zusätzlich mit kleineren, domänenspezifischen Datensätzen trainiert – etwa medizinischen Wissensdatenbanken, Lehrbüchern oder Bilddaten. Der entscheidende Vorteil dabei ist, dass ein Foundation Model damit die Zusammenhänge von Erkrankungen wie dem Pneumothorax auf Grundlage jener Muster erlernt, die im Vortraining und in der Feinabstimmung antrainiert wurden. So besitzt es einen viel breiteren Kontext und kann diese nicht nur in Röntgenbildern, sondern auch in MRT oder CT-Aufnahmen erkennen.
Das Problem der Zweckbindung
Aufgrund jener Robustheit lassen sich auch KI-Anwendungen entwickeln, die klassische KI-Modelle nicht beantworten können, beispielsweise zu selteneren Erkrankungen. Außerdem sogar KI-Lösungen, die darauf trainiert sind, gleich mehrere Krankheitsmuster auf einmal zu detektieren – neben Pneumothorax etwa auch Tumore oder Rippenfrakturen. „Theoretisch wäre das kein Problem, ich glaube aber, dass das regulatorisch nicht so ohne weiteres zu machen sein wird. So schreibt etwa die MDR vor, dass sie als Hersteller eines Medizinproduktes genau spezifizieren müssen, zu welchem Zweck die Anwendung dient. Die Zweckbindung macht ein Modell, das flexibel ist und alles Mögliche kann, mit dieser Regulatorik nicht ohne weiteres vereinbar“, erklärt Prof. Felix Nensa, Professor für Radiologie mit Schwerpunkt KI am Institut für Künstliche Intelligenz in der Medizin (IKIM) und leitender Oberarzt am Institut für Diagnostische und Interventionelle Radiologie und Neuroradiologie an der der Universitätsklinik Essen.
Daher müssen Entwickler diese Modelle nachträglich auf eine ganz gezielte Anwendung reduzieren, sodass den Anwendern pro Fragestellung wieder ein spezialisiertes, nur darauf limitiertes Modell zu Verfügung gestellt wird. Sogar derart zweckgebunden birgt ihre Robustheit noch einen entscheidenden Vorteil gegenüber klassischen KI-Anwendungen, die immer auf ganz bestimmte Bildgebungssysteme und Patientenpopulation zugeschnitten sind. Ändern sich diese, bricht ihre Performance ein. „Da Foundation Modelle einfach viel besser generalisieren können als klassische KI-Anwendungen, können sie mit Problemen wie dem Data Drift, Domain Shift und Performance Drift häufig besser umgehen“, erläutert Nensa.
Mit Foundation Models lässt sich die Entwicklungszeit für eine einzelne KI-Anwendung massiv verkürzen.
Was der der Essener KI-Experte dort anmerkt, sind regelmäßig auftretende Probleme im Gebrauch von KI-Modellen. So beschreibt zum Beispiel das Phänomen Data Shift, dass aktuelle Daten plötzlich nicht mehr den historischen Trainingsdaten entsprechen, mit denen das Modell trainiert wurde. Unter Domain Shift oder auf Deutsch Verteilungsverschiebung werden Situationen verstanden, wo ein Modell zunächst mit Daten einer bestimmten Verteilung trainiert wurde (Quelldomäne), dann aber auf Daten einer anderen Verteilung (Zieldomäne) angewendet wird. Das führt aufgrund statistischer Differenzen zu Ungenauigkeiten - und geht zu Lasten der Zuverlässigkeit.
Kürzere Entwicklungszeit
Foundation Models bietet indes auch Entwicklern einen immensen Vorteil. „Mit Foundation Models lässt sich die Entwicklungszeit für eine einzelne KI-Anwendung wirklich massiv verkürzen“, betont der Radiologe. Schließlich müssen die Hersteller eine KI nicht mehr komplett neu trainieren, sondern können dafür das bereits vorhandene Basiswissen nutzen, um daraus eine neue, spezialisierte Anwendung zu erstellen. Vor diesem Hintergrund erwartet er, dass in Zukunft viel mehr KI-Anwendungen in kürzerer Zeit auf den Markt kommen werden. Auch für Einsatzfelder, für die es bisher noch keine Anwendungen gab.
Trotz dieser Vorteile halten die KI-Anwendungen zur Bildanalyse, die bisher mit Foundation Models entwickelt wurden, den Erwartungen noch nicht stand. Das liegt daran, dass sie derzeit noch nicht so exakte Ergebnisse liefern wie klassische KI-Anwendungen. Dr. Lisa C. Adams verdeutlichte das in ihrem Vortrag anhand sechs bekannter Foundation Models („RAD-DINO“, „MAIRA-2“, „CT-RATE“, „MERLIN“, „Med-Gemma 1.5“ und „RADFM“), die für die Radiologie-Bildgebung entwickelt wurden, bisher aber keine Medizinprodukte-Zulassung besitzen.
„Es ist weiterhin so, dass schmale, aufgabenspezifische KI-Modelle die Foundation Models in ihrem eigenen Spezialgebiet schlagen. Wer etwa nur Lungenrundherde detektieren will, ist aktuell mit einem solchen dezidierten Modell immer noch besser bedient. Foundation Models geben gewissermaßen etwas Spitzenleistung auf, haben dafür aber eine viel breite Dateneffizienz und die Möglichkeit, viele Anwendungen aus einer einzelnen Basis zu bedienen“, so das Fazit der KI-Expertin.
Foundation Modelle sind die ersten praktikablen KI Anwendungen, die es uns ermöglicht, die semantische klinische Textinformation und die Bildinformation in einen Kontext zu bringen.
Das bestätigt auch Dr. Jonathan Kottlors, Oberarzt in der Neuroradiologie des Instituts für Diagnostische und Interventionelle Radiologie der Uniklinik Köln und Leiter der Arbeitsgruppe „AI Foundation Models in der Radiologie“: „Wir haben bei unseren Experimenten festgestellt, dass die Foundation Modelle zur Bilderkennung bisher noch nicht auf einer Wellenlänge mit den klassischen KIs sind.“ Das könnte sich angesichts der rasanten Weiterentwicklung von neuronalen Netzen aber schnell ändern. Ihre Fähigkeit, Text und Bildinformationen gleichzeitig zu verarbeiten, berge zudem ein weiteres Einsatzfeld.
„Foundation Modelle sind die ersten praktikablen KI Anwendungen, die es uns ermöglicht, die semantische klinische Textinformation und die Bildinformation in einen Kontext zu bringen“, führt Jonathan Kottlors aus. Damit sind sie in der Lage, Informationen zur Patientenhistorie aus dem KIS mit jenen aus Bildgebungssystemen zu kombinieren. So können sie Ärzte viel besser dabei unterstützen, die Ursachen aktueller Beschwerden zu finden und dafür eine zielgerichtete Behandlung zu planen.
Orchestrierung kompletter radiologischer Prozesse
Bislang werden Foundation Models im Krankenhaus vor allem für administrative Tätigkeiten eingesetzt. Hier unterstützen sie etwa bei der Formulierung strukturierter Befunddokumentationen oder dem Zusammenfassen und Bereitstellen von Patientenhistorien. Allerdings existieren bereits auch erste Ansätze dazu, Foundation Models für die Koordination kompletter radiologischer Prozesse zu nutzen. Ein solches Modell ermittelt etwa zunächst anhand der Anamnesedaten und einer konkreten Fragestellung zu Erkrankungen eines Patienten, welche Bildgebungssysteme für eine Untersuchung in Frage kommen. Dann wählt es dazu aus dem Pool klassischer KI-Anwendungen einer Klinik die richtige aus und verwendet diese Information anschließend, um daraus einen vorgefertigten Befund zu generieren.
Neben diversen Forschungsprojekten großer Anbieter wie GE, Siemens und anderen bietet etwa das israelische Medizintechnikunternehmen Aidoc mit der Clinical AI Reasoning Engine (CARE) eine solche Plattformlösung auf Basis eines Foundation Models, die sogar bereits eine CE-Zertifizierung als Medizinprodukt besitzt. Sie analysiert multimodale Patientendaten wie CT-Bilder, Laborwerte und elektronische Patientenakten und dient als intelligente Ebene über den Krankenhaus-Systemen zur Triage von Notfällen, zur automatischen Befunderstellung und zur abteilungsübergreifenden Koordinierung von Behandlungen. Ob Foundation Models zukünftig auch die klassischen KI-Anwendungen zur Bildanalyse ersetzen, bleibt abzuwarten. Auch ihre Fähigkeiten, mehrere Krankheitsmuster gleichzeitig zu entdecken, können in der Praxis nur dann zur Anwendung kommen, wenn sich die regulatorischen Hürden überwinden lassen.
Wenn die EU ihre Verantwortung in diesem Bereich ernst nimmt, sollte sie die Entwicklung eines europäischen Foundation Models finanzieren.
Dass sie das Potenzial haben, viel mehr Arbeitsprozesse zu unterstützen als klassische KI-Anwendungen, steht laut den Experten jedenfalls außer Frage. Allerdings bestehe die Gefahr, dass europäische Entwickler hier den Anschluss verlieren. Nicht von ungefähr stammen die stärksten Foundation Modelle von Hyperscalern wie OpenAI, Google, Microsoft, Anthropic und Meta. Denn das Entwickeln eines Basismodelles erfordert immens große Datensätze und ist so teuer, dass sich das nur sehr große Hersteller leisten können. Daher müssen gerade KI-Startups auf deren Modelle zurückgreifen, um daraus einzelne Anwendungen zu entwickeln.
„Wenn die EU ihre Verantwortung in diesem Bereich ernst nimmt, sollte sie die Entwicklung eines europäischen Foundation Models finanzieren”, sagt Felix Nensa. Diese Modell sollte als sogenannte Open-Weight-Lösung verfügbar gemacht werden, fordert der Essener KI-Spezialist. Unter Open Weight-Modellen werden teiloffene KI-Modelle verstanden. Dadurch könnten laut Nensa „Quasimonopole verhindert werden, die Startup- und Entwicklerszene effektiv unterstützt und der eigene Standort gestärkt werden.“
Derzeit sind noch keine Kommentare vorhanden. Schreiben Sie den ersten Kommentar!
Jetzt einloggen