Warum benötigt die künstliche Intelligenz (KI) in der Medizin eigene Normen?

Filiz Elmas: Normen und Standards legen allgemeine Anforderungen technischer Art fest. Sie helfen den Anwendern, indem sie beispielsweise den Handel erleichtern und eine Interoperabilität zwischen verschiedenen Systemen herstellen. Auch sorgen sie dafür, dass Umwelt und Gesellschaft geschützt werden. Dies ist besonders im Kontext der Medizin ein wichtiges Thema. Neue Technologien wie die KI, die ja eine Querschnittstechnologie ist, stellen uns vor größere Herausforderungen. In der öffentlichen Wahrnehmung werden sie häufig auch mit Angstszenarien in Verbindung gebracht. In Normen werden die Spielregeln für KI in der Medizin festgeschrieben. Normen bieten Sicherheit und Qualität und stellen damit auch Vertrauen her.

Die EU-Kommission hat einen Vorschlag für ein Gesetz über künstliche Intelligenz (AI-Act) gemacht. Welche Rolle spielen dabei die Normen?

Elmas: Normen und Standards sind in der Anwendung freiwillig. Wir sehen aber, dass der Gesetzgeber zunehmend auch auf Normen und Standards verweist. Ein aktuelles Beispiel dafür ist der Vorschlag der EU-Kommission für eine KI-Regulierung, dem sogenannten Artificial Intelligence Act (AI-Act).  Der erste Entwurf für die KI-Regulierung wurde vor rund zwei Jahren veröffentlicht. Der AI-Act soll einen einheitlichen europäischen Regelungsrahmen für den Einsatz und die Nutzung von KI schaffen.

Der AI-Act soll einen einheitlichen europäischen Regelungsrahmen für den Einsatz und die Nutzung von KI schaffen.

Die Europäische Kommission hat einen risikobasierten Ansatz vorgeschlagen, der die KI-Anwendungen in vier Kategorien unterteilt: Risikofreie KI-Systeme, Anwendungen mit geringem Risiko wie zum Beispiel Chatbots, gefährliche KI-Anwendungen – die die Europäische Kommission gänzlich verbieten möchte und Hochrisiko-Anwendungen, die gerade aus Normungssicht sehr interessant sind. Nach den Plänen der EU-Kommission sollen Normen und Standards für diese Kategorie eine besonders wichtige Rolle spielen. In diese Kategorie fallen Anwendungen, die nach dem sogenannten Prinzip des New Legislative Frameworks (NLF) reguliert und letztendlich auch auf dem europäischen Binnenmarkt in Verkehr gebracht werden sollen.

Was bedeutet das konkret?

Elmas: Der Gesetzgeber definiert grundlegende Anforderungen an KI-Systeme, zum Beispiel an das Risikomanagement, die Transparenz, IT-Sicherheit und Robustheit. Zur technischen Konkretisierung dieser Anforderungen verweist der Gesetzgeber auf Normen und Standards. Das heißt, wir haben von der Europäischen Kommission Aufträge für Normen erhalten, die genau diese Anforderungen noch einmal technisch beschreiben und definieren sollen. Der Vorteil dieses Ansatzes ist, dass der Gesetzgeber keine technischen Details vorgeben und konkretisieren muss, sondern auf Normen und Standards verweisen kann. Kommen neuen KI-Technologien hinzu oder werden bestehende weiterentwickelt, muss nicht mehr der Gesetzestext, sondern nur die Norm verändert werden.

Ein weiterer Vorteil: Wir als Normungsinstitute können sicherstellen, dass alle Blickwinkel in den Normungsprozess einfließen. Das erreichen wir, indem wir alle relevanten Stakeholder bspw. Anwender, Unternehmen, Forschung, Politik, Prüfindustrie und Zivilgesellschaft einbeziehen.

Der Gesetzgeber definiert grundlegende Anforderungen zum Beispiel an das Risikomanagement, die Transparenz, IT-Sicherheit und Robustheit.

DIN

Filiz Elmas leitet seit Juni 2019 die Geschäftsfeldentwicklung für Künstliche Intelligenz beim Deutschen Institut für Normung. Die Wirtschaftsingenieurin (TU Berlin) koordiniert in Zusammenarbeit mit den verantwortlichen Projektleitern alle laufende KI-Projekte beim DIN.

Wie funktioniert das Zusammenspiel zwischen der EU und den nationalen Normungsinstituten?

Elmas: Die Europäische Kommission hat einen Normungsauftrag an das Europäische Normungsinstitut gegeben, also an das CEN (Europäisches Komitee für Normung) bzw.  CENELEC (Europäisches Komitee für elektrotechnische Normung). Dieses setzt sich aus den verschiedenen Normungsinstituten der Mitgliedsländer zusammen – DIN ist folglich Teil von CEN. Alle europäischen Länder haben einen Sitz bei CEN/CENELEC. Im Falle von KI gibt es bei CEN/CENELEC einen Ausschuss, der sich explizit mit KI-Themen auseinandersetzt und unter deutscher Leitung steht. Hier versuchen wir Themen aus Deutschland proaktiv einzubringen.

Ulrike Schröder: Gerade im KI-Medizinbereich arbeiten die verschiedensten Arbeitsgruppen bereits an Dokumenten. Die Normungsarbeit ist so aufgebaut, dass die Experten aus den nationalen Bereichen in die europäischen und internationalen Arbeitsgruppen entsendet werden. Deshalb ist es für uns sehr wichtig, dass unsere Delegierten und Experten die deutsche Meinung in den entsprechenden Arbeitsgruppen abbilden.

Welche Rolle spielt die deutsche Normungsroadmap Künstliche Intelligenz für Ihre Arbeit?

Elmas: Die Bundesregierung hat in ihrer KI-Strategie die Erarbeitung von Normen und Standards vorgeschlagen. Daher haben wir im Auftrag des Bundeswirtschaftsministeriums eine Normungsroadmap für KI auf den Weg gebracht. Die Roadmap ist eine erste, umfassende Analyse darüber, wo Deutschland Bedarfe für Normen und Standards im Bereich der KI sieht. Die Roadmap bildet den Status Quo ab und zeigt die Herausforderungen und ganz explizit auch die Normungsbedarfe zu verschiedenen Schwerpunktthemen der künstlichen Intelligenz auf. Damit gibt sie den Weg vor für die zukünftige Normung im Bereich der KI.

An der Erstellung der Roadmap waren knapp 600 Experten aus den unterschiedlichsten Bereichen beteiligt.

Eine erste Version der Normungsroadmap wurde bereits vor über zwei Jahren erstellt. Ende letzten Jahres haben wir eine zweite Version veröffentlicht. An der Erstellung der Roadmap waren knapp 600 Experten aus den unterschiedlichsten Bereichen beteiligt, die sich in Arbeitsgruppen zu verschiedenen Themenschwerpunkten eingebracht haben. Auf europäischer Ebene dient die Normungsroadmap als Basisdokument, um die Bedarfe an Normen und Standards im Bereich der künstlichen Intelligenz zu ermitteln.

Mit welchen Themenschwerpunkten haben sich die Arbeitsgruppen befasst?

Elmas: Wie haben die Themen Grundlagen, Prüfung und Zertifizierung, Sicherheit sowie soziotechnische Systeme beleuchtet. Darüber hinaus haben wir uns mit verschiedenen Anwendungsbereichen befasst wie zum Beispiel industrielle Automation, Mobilität, Finanzdienstleistungen, Energie und Umwelt sowie Medizin. Als ein Ergebnis dieser Arbeiten ist letztendlich der Arbeitsausschuss für KI in der Medizin gegründet worden, der sich jetzt genau diesen Bedarfen, die in der Roadmap identifiziert wurden, widmet und die entsprechenden Normungsdokumente erarbeiten wird.

Wissen Sie schon, wie Sie vorgehen werden?

Schröder: Wir wollen uns sehr breit aufstellen, um die unterschiedlichen Aspekte von KI in der Medizin abbilden zu können. Es ist daher unser Anliegen, dass alle interessierten Kreise, von den Entwicklern und Forschern über Ärzte bis zu den Anwendern, in diesem Ausschuss vertreten sein werden. Wir werden uns in vielen Feldern anschauen, an welcher Stelle die Normung anknüpfen kann. Dabei geht es beispielsweise auch um Daten und wie diese genutzt werden können.

Ein nationaler Alleingang wäre nicht zielführend.

Wichtig ist, dass die interessierten Kreise auf derselben Ebene arbeiten, und das gleiche Verständnis haben für die Dinge, über die wir sprechen. Hierzu benötigen wir eine einheitliche Sprache, weshalb wir die Arbeit an der Terminologie an den Anfang stellen. Wichtig in diesem Ausschuss, aber auch generell bei der Arbeit an Normen ist, dass wir die entsprechenden europäischen und internationalen Arbeiten berücksichtigen. Ein nationaler Alleingang wäre nicht zielführend. Wir werden deshalb schon zu Beginn die Dokumente spiegeln, die wir auf europäischer und internationaler Ebene aus den entsprechenden Arbeitsgruppen erhalten. Und damit wir wissen, wo wir stehen, schauen wir uns an, was auf internationaler Ebene State of the Art ist.

Die KI entwickelt sich rasant weiter. Wie beeinflusst das die Arbeit an Normen?

Schröder: Wir verfügen über „Instrumente“ für unterschiedliche Geschwindigkeiten bei der Normungsarbeit. Bei den klassischen Produkten wird die Öffentlichkeit in die Entwicklung der Normen einbezogen. Aufgrund des sehr hohen Konsensgrades haben diese Normen eine höhere Entwicklungszeit. Bei sehr dynamischen Entwicklungen im Bereich der KI kann es auch sinnvoll sein, wenn die Erstellung von Dokumenten zeitnah erfolgt. Für diesen Fall gibt es Standards – wir nennen sie DIN SPECs – , die in einem kleineren Rahmen schneller entwickelt, revidiert und überarbeitet werden können. Diese DIN SPECs bilden später oftmals die Basis für eine tatsächliche Norm. Gerade haben wir eine DIN SPEC zu Deep Learning-Algorithmen in der medizinischen Bildgebung veröffentlicht.

Auf internationaler Ebene verhält es sich genauso mit den sogenannten Technical Reports oder den sogenannten Workshop Agreements, die auch schneller in der Entwicklung sind. Damit wir diese schnellere Entwicklung abbilden können bemühen wir uns darum, in den entsprechenden Forschungsprojekten involviert zu sein.  Durch eine Beteiligung als Projektpartner in Forschungsprojekten können wir so noch stärker am Puls der Zeit sein.

Daniela Schröder

Mit einem Hintergrund in Bionik und Biomedical Technologies, betreut Ulrike Schröder als Senior Projektmanagerin im DIN-Normenausschuss Gesundheitstechnologien (NAGesuTech) diverse Arbeitsausschüsse im medizinischen Bereich. Sie ist auch verantwortlich für den neu gegründeten DIN-Arbeitsschuss NA 176-02-05 AA „KI in der Medizin“.

Wie ist der Zeithorizont für die geplante Normen?

Schröder: Wir stehen mit unserer Arbeit im Ausschuss ganz am Anfang und können deshalb noch keinen Zeithorizont angeben. Da wir keine rein nationalen Normen planen ist es absehbar, dass durch die entsprechende Spiegelung aus dem internationalen Gremium ein technischer Bericht entstehend wird, den wir voraussichtlich im Laufe des nächsten Jahres veröffentlichen werden. Gleichzeitig entwickeln wir in den spezifischen Bereichen die Dokumente beispielsweise für die Standardisierung der Algorithmen in der Bildgebung.

Wie geht es nach der Veröffentlichung der KI-Normen in der Medizin weiter?

Schröder: Die Arbeitsausschüsse innerhalb der Normenausschüsse sind auf Langfristigkeit ausgelegt. Wir haben in der Normungsarbeit verschiedenen Prozesse, die generell sicherstellen, dass die Dokumente aktuell gehalten werden. Üblicherweise finden alle fünf Jahre systematische Überprüfungen einer Norm statt. Dabei wird geschaut, ob der technische Inhalt der Norm noch dem aktuellen technischem Stand entspricht. Gerade im Bereich der KI kann in einem Zeitraum von fünf Jahren sehr viel passieren. Wir müssen aber nicht diese fünf Jahre nach Veröffentlichung eines Dokuments abwarten, sondern können die Norm direkt aktualisieren. Hierzu gibt es einen automatisierten Prozess, zu dem es aber entsprechenden Input aus den interessierten Kreisen und aus dem Ausschuss bedarf.