{"id":5379662,"date":"2025-10-20T13:35:17","date_gmt":"2025-10-20T11:35:17","guid":{"rendered":"https:\/\/www.johner-institut.de\/blog\/?p=5379662"},"modified":"2025-10-20T13:51:26","modified_gmt":"2025-10-20T11:51:26","slug":"ai-act-eu-ki-verordnung","status":"publish","type":"post","link":"https:\/\/www.johner-institut.de\/blog\/regulatory-affairs\/ai-act-eu-ki-verordnung\/","title":{"rendered":"Was der AI Act f\u00fcr Medizinprodukte- und IVD-Hersteller bedeutet"},"content":{"rendered":"\n

Die EU-KI-Verordnung<\/strong> (EU AI Act<\/strong>) ist ver\u00f6ffentlicht. Viele Hersteller von Medizinprodukten und IVD sowie andere Akteure im Gesundheitswesen stehen vor der gro\u00dfen Aufgabe, den \u00fcber 140 Seiten umfassenden Gesetzestext <\/a>zu verstehen und die Anforderungen zu erf\u00fcllen. Beachten Sie: Verst\u00f6\u00dfe gegen den AI Act werden mit Geldstrafen in H\u00f6he von bis zu 7 % des j\u00e4hrlichen Umsatzes geahndet.<\/p>\n\n\n\n

Dieser Artikel erspart Recherchearbeit und gibt konkrete Tipps, wie Hersteller (und andere Akteure) die Anforderungen schnell erf\u00fcllen.<\/p>\n\n\n\n

<\/path><\/path><\/g><\/svg><\/div>Praxistipp<\/span><\/div>\n

Nutzen Sie das kostenlose AI Act Starter-Kit<\/a>, um schnell Konformit\u00e4t zu erreichen und im n\u00e4chsten QM-Audit zu gl\u00e4nzen.<\/p>\n<\/div>\n\n\n\n

<\/path><\/g><\/svg><\/div>Weiterf\u00fchrende Informationen<\/span><\/div>\n

Medizinprodukte- und IVD-Hersteller ohne<\/strong> KI-basierte Produkte sollten diesen Artikel lesen<\/a>.<\/p>\n<\/div>\n\n\n\n\n\n\n\n

1. Wen der AI Act betrifft (nicht nur Hersteller!)<\/h2>\n\n\n\n

Die EU-KI-Verordnung 2024\/1689 (kurz: AI Act)<\/a><\/strong> betrifft viele Akteure im Gesundheitswesen. Der AI Act ist meist anwendbar, wenn die daf\u00fcr hergestellten oder dort verwendeten Produkte ein \u201eKI-System\u201c sind oder beinhalten. Er betrifft auch die Hersteller, welche KI anwenden, beispielsweise LLMs bei der Entwicklung von Medizinprodukten und bei regulatorischen Prozessen.<\/p>\n\n\n\n

Leider definiert der AI Act den Begriff \u201eKI-System\u201c sehr schwammig.<\/p>\n\n\n\n

<\/path><\/path><\/g><\/g><\/svg><\/div>Definition \u201eKI-System\u201c<\/span><\/div>\n

Maschinengest\u00fctztes System, das f\u00fcr einen in unterschiedlichem Grade autonomen Betrieb ausgelegt ist und das nach seiner Betriebsaufnahme anpassungsf\u00e4hig sein kann und das aus den erhaltenen Eingaben f\u00fcr explizite oder implizite Ziele ableitet, z. B. Ausgaben wie etwa Vorhersagen, Inhalte, Empfehlungen oder Entscheidungen erstellt werden, die physische oder virtuelle Umgebungen beeinflussen k\u00f6nnen;<\/em><\/p>\n\n\n\n

KI-Verordnung, Artikel 3 (1)<\/p>\n<\/div>\n\n\n\n

Eine Kritik dieser Definition findet sich in diesem Fachartikel<\/a>.<\/p>\n\n\n\n

Eine hilfreiche Vereinfachung der Definition besteht darin, die KI-Systeme im Sinne der KI-Verordnung mit Software-Systemen oder Software-Komponenten<\/a> gleichzusetzen, die Verfahren des maschinellen Lernens (ML) nutzen, d. h. ein \u201eML-Modell\u201c sind oder beinhalten.<\/p>\n\n\n\n

<\/path><\/g><\/svg><\/div>Weiterf\u00fchrende Hinweise<\/span><\/div>\n

Der AI Act ist eines von vielen Gesetzen, die Hersteller KI-basierter Medizinprodukte beachten m\u00fcssen. Sie finden hier eine \u00dcbersicht der regulatorischen Anforderungen an diese KI-basierten Produkte<\/a> und hier eine \u00dcbersicht zum Einsatz der KI im Gesundheitswesen<\/a>.<\/p>\n<\/div>\n\n\n\n

1.1 Anbieter\/Hersteller<\/h3>\n\n\n\n

1.1.1 Definitionen<\/h4>\n\n\n\n

Alleine die Tatsache, dass ein IVD<\/a> oder ein Medizinprodukt Verfahren des maschinellen Lernens verwendet, bedeutet nicht<\/strong> zwingend, dass diese Produkte und deren Hersteller nennenswerte Anforderungen des AI Act (Anforderungen an Hochrisiko-Systeme) erf\u00fcllen m\u00fcssen.<\/p>\n\n\n\n

Das ist nur der Fall, falls zwei Bedingungen erf\u00fcllt sind (s. Abb. 1):<\/p>\n\n\n\n

    \n
  1. Das Produkt (Medizinprodukt bzw. IVD) f\u00e4llt in eine Klasse, bei der eine Benannte Stelle in das Konformit\u00e4tsbewertungsverfahren nach MDR bzw. IVDR eingebunden werden muss. Das sind die Medizinprodukte der Klassen I*, IIa, IIb und III bzw. IVD der Klassen As, B, C und D.<\/li>\n\n\n\n
  2. Die KI (pr\u00e4ziser: das Machine-Learning-Modell) stellt entweder selbst das Produkt dar oder dient als \u201eSicherheitsbauteil\u201c eines Produkts.<\/li>\n<\/ol>\n\n\n\n
    \"Bild<\/a>
    Abb. 1: Die KI-Verordnung betrifft IVD und Medizinprodukte v. a. dann, wenn das KI-System das Produkt ist oder als Teil eines Sicherheitsbauteils (safety component) verwendet werden soll (rot markiert).<\/figcaption><\/figure>\n\n\n\n

    Der AI Act definiert den Begriff \u201eSicherheitsbauteil\u201c.<\/p>\n\n\n\n

    <\/path><\/path><\/g><\/g><\/svg><\/div>Definition Sicherheitsbauteil<\/span><\/div>\n

    Bestandteil eines Produkts oder KI-Systems, der eine Sicherheitsfunktion f\u00fcr dieses Produkt oder KI-System erf\u00fcllt oder dessen Ausfall oder St\u00f6rung die Gesundheit und Sicherheit von Personen oder Eigentum gef\u00e4hrdet;<\/em><\/p>\n\n\n\n

    KI-Verordnung, Artikel 3 (14)<\/p>\n<\/div>\n\n\n\n

    Somit kann ein Sicherheitsbauteil sowohl ein Teil einer Standalone-Software<\/a> als auch Teil eines physischen Produkts sein.<\/p>\n\n\n\n

    Produkte der niedrigsten Klasse (z. B. MDR Klasse I<\/a>), welche Verfahren des maschinellen Lernens verwenden, fallen zwar unter die KI-Verordnung, aber sie z\u00e4hlen nicht als Hochrisiko-Produkte. Daher m\u00fcssen sie in der Regel keine in der Praxis relevanten (gepr\u00fcften) Anforderungen erf\u00fcllen.<\/p>\n\n\n\n

    1.1.2 K\u00fcnftige Erg\u00e4nzung durch <\/h4>\n\n\n\n

    \u201eOnly certain AI systems are subject to regulatory obligations and oversight under the AI Act\u201d<\/em> d\u00fcrfte f\u00fcr viele der Lieblingssatz aus dem Entwurf der Leitlinie \u201eon the definition of an artificial intelligence system established by Regulation (EU) 2024\/1689 (AI Act)\u201d<\/em><\/a> lauten. Denn er stellt klar, dass nicht alle KI-basierten Medizinprodukte bzw. IVD unter den AI Act fallen.<\/p>\n\n\n\n

    Damit kl\u00e4rt er aber weder, was KI-basierte Produkte sind, noch, welche dieser Produkte vom AI Act betroffen sind.<\/p>\n\n\n\n

    Auf 13 Seiten m\u00fchen sich die Autoren um Klarstellung. Das gelingt nicht immer. So hei\u00dft es etwa an einer Stelle, dass KI zu unterscheiden sei von \u201esystems that are based on the rules defined solely by natural person\u201c<\/em>. An anderer Stelle schreiben die Autoren, dass KI-Systeme Ziele verfolgen m\u00fcssten. Dazu z\u00e4hlten \u201eclearly stated goals that are directly encoded by the developer into the system\u201c<\/em>.<\/p>\n\n\n\n

    Was zumindest klarer wird, ist, dass die Definition von KI sich nicht auf das Machine Learning beschr\u00e4nkt, sondern auch \u201ereasoning\u201c<\/em> und \u201elogical inference\u201c<\/em> einbezieht, wie das bei \u201eearly generation expert systems\u201c<\/em> der Fall sei.<\/p>\n\n\n\n

    Dass bereits \u201eoperations such as sorting, searching, matching, chaining\u201c<\/em> dazuz\u00e4hlen k\u00f6nnen, wundert. Denn welche Software f\u00fchrt diese Operationen nicht aus? Hingegen z\u00e4hlen die Autoren die logistische Regression nicht mehr zur KI, weil diese nicht \u00fcber \u201ebasic data processing\u201c<\/em> hinausginge.<\/p>\n\n\n\n

    <\/path><\/svg><\/div>Achtung<\/span><\/div>\n

    Es wird nur wenige Medizinprodukte geben, die maschinelles Lernen (ML) verwenden und nicht<\/strong> als Hochrisiko-Produkte z\u00e4hlen. Denn KI\/ML-basierte Produkte enthalten immer Software oder sind eigenst\u00e4ndige Software. F\u00fcr derartige Medizinprodukte greift die Regel 11 der MDR<\/a>. Diese wird inzwischen (leider) so ausgelegt, dass insbesondere Software as a Medical Device mindestens als Klasse IIa klassifiziert werden muss.<\/p>\n\n\n\n

    F\u00fcr IVD sind die Klassifizierungsregeln nach Anhang VIII der IVDR anzuwenden.<\/p>\n\n\n\n

    Eine praktikable Vereinfachung ist es daher, ML-basierte IVD und Medizinprodukte zun\u00e4chst mit Hochrisiko-Produkten gleichzusetzen. Beispiele f\u00fcr Ausnahmen von dieser Regel nennt Kapitel 1.1.2.<\/p>\n<\/div>\n\n\n\n

    1.1.3 Beispiele f\u00fcr Hochrisiko-Produkte und Nicht-Hochrisiko-Produkte<\/h4>\n\n\n\n
    Kategorie: KI-System ist \u2026<\/strong><\/td>Beispiel<\/strong><\/td>Einstufung<\/strong><\/td><\/tr>
    das Medizinprodukt selbst<\/td>KI-\/ML-basierte Standalone-Software, die dazu dient, maligne Hautver\u00e4nderungen zu diagnostizieren (Je nach Architektur und Funktionalit\u00e4t der Software bildet das KI-System f\u00fcr die Diagnose nur einen Teil des Produkts. Damit w\u00e4re dieses \u201eDiagnose-Modul\u201c als Sicherheitsbauteil zu betrachten.)<\/td>Hochrisiko-Produkt<\/td><\/tr>
    Teil eines Sicherheitsbauteils des Medizinprodukts<\/td>KI\/ML-basierte Software einer Dialysemaschine, welche die Ultrafiltration steuert<\/td>Hochrisiko-Produkt<\/td><\/tr>
    Teil eines Bauteils des Produkts, das kein Sicherheitsbauteil ist<\/td>KI\/ML-basierte Softwarekomponente, welche die Nutzung des Produkts auswertet, um dem Hersteller Hinweise \u00fcber den Versto\u00df gegen Lizenzbedingungen zu geben<\/td>Kein Hochrisiko-Produkt<\/td><\/tr>
    eine General-Purpose-AI (konkret ein LLM eines der gro\u00dfen Anbieter, etwa OpenAI)<\/td>LLM zum Schreiben von Software-Code, der Teil eines Medizinprodukts wird<\/td>Kein Hochrisiko-Produkt<\/td><\/tr><\/tbody><\/table>
    Tabelle 1: Beispiele f\u00fcr Hochrisiko-Produkte und Sicherheitsbauteile<\/figcaption><\/figure>\n\n\n\n

    1.1.4 Sonderfall \u201eBestimmte KI-Systeme\u201c<\/h4>\n\n\n\n

    In Artikel 50 f\u00fchrt der AI Act den Begriff der \u201ebestimmten KI-Systeme\u201c ein, ohne ihn zu definieren. Unter Umst\u00e4nden fallen auch IVD und Medizinprodukte darunter (s. Tabelle 2).<\/p>\n\n\n\n

    Eigenschaft des Produkts<\/strong><\/td>Beispiel<\/strong><\/td>Konsequenz<\/strong><\/td><\/tr>
    KI-System ist f\u00fcr direkte Interaktion mit nat\u00fcrlichen Personen bestimmt<\/td>Software zur Diagnose maligner Hautver\u00e4nderungen<\/td>Die Anbieter (Hersteller) m\u00fcssen die Personen \u00fcber den Einsatz der KI informieren.<\/td><\/tr>
    KI-System dient der Emotionserkennung<\/td>Software f\u00fcr den Einsatz in der Psychotherapie<\/td>Betreiber m\u00fcssen die betroffenen Personen \u00fcber den Einsatz der KI und die Verwendung der Daten informieren.<\/td><\/tr><\/tbody><\/table>
    Tabelle 2: Beispiele f\u00fcr \u201eBestimmte KI-Systeme\u201c<\/figcaption><\/figure>\n\n\n\n

    Auf diese \u201ebestimmten KI-Systeme\u201c geht dieser Beitrag im Folgenden nicht mehr ein, weil die Anforderungen durch die MDR bzw. IVDR im Wesentlichen bereits abgedeckt sind.<\/p>\n\n\n\n

    1.2 Sonstige Akteure<\/h3>\n\n\n\n

    Die KI-Verordnung stellt bei Hochrisiko-Produkten (und damit IVD und Medizinprodukten) Anforderungen nicht nur an die Hersteller, sondern auch an weitere Akteure:<\/p>\n\n\n\n