Die ISO/TS 24971-2:2026 konkretisiert erstmals, wie Hersteller die ISO 14971 auf Machine-Learning-Komponenten in KI-basierten Medizinprodukten und IVD anwenden sollten.
Diese Technische Spezifikation ist zwar nicht unmittelbar verbindlich, dürfte aber schnell zu einer wichtigen Referenz für Hersteller, Benannte Stellen und Behörden werden.
Der Beitrag zeigt, was die Norm fordert, wie sie aufgebaut ist, wo ihre Stärken liegen – und was Hersteller jetzt konkret tun sollten.
- Kein neues Modell, sondern eine Konkretisierung: Die ISO/TS 24971-2:2026 ersetzt die ISO 14971 nicht, sondern zeigt erstmals, wie deren Risikomanagementprozess auf Machine-Learning-Komponenten in Medizinprodukten und IVD anzuwenden ist.
- Nicht verbindlich, aber schnell relevant: Wie alle Technischen Spezifikationen ist sie nicht unmittelbar verpflichtend – dürfte aber als Stand der Technik von Benannten Stellen und Behörden als Auslegungshilfe herangezogen werden.
- Risikomanagement ist Teamsport: Für ML-Produkte reicht Software-Expertise nicht aus. Erforderlich sind zusätzlich Kompetenzen zu Datenqualität, Bias, Drift, Usability, Cybersecurity und klinischer Workflow-Integration.
- Gefährdungsanalyse muss ML-spezifisch werden: Intended Use, Misuse und Hazard Analysis müssen Automation Bias, Übervertrauen in KI-Outputs, Fehlinterpretationen und unklare Modellgrenzen explizit berücksichtigen.
- Risikomanagement endet nicht bei Zulassung: Monitoring, Drift-Erkennung, kontrollierte Updates, Retraining und Rollback müssen bereits im Risikomanagementplan verankert sein.
1. Bedeutung der ISO/TS 24971-2:2026
Mit der ISO/TS 24971-2:2026 liegt erstmals eine eigenständige Spezifikation vor, die die Anwendung des Risikomanagementprozesses gemäß ISO 14971 auf Künstliche Intelligenz, insbesondere auf Produkte mit Machine-Learning-Algorithmen, konkretisiert.
Für Hersteller von KI-basierten Medizinprodukten und IVD ist das eine wichtige Entwicklung. Denn die Anforderungen an das Risikomanagement sind zwar etabliert – ihre praktische Umsetzung bei ML-basierten Systemen wirft aber neue Fragen auf:
- Wie ist mit Bias umzugehen?
- Wie bewertet man Drift und Dataset Shift?
- Wie integriert man Monitoring, Retraining und Rollback in das Risikomanagement?
- Wie adressiert man Automation Bias – also die menschliche Tendenz, den Empfehlungen und Entscheidungen von automatisierten Systemen oder Algorithmen blind zu vertrauen –, Fehlgebrauch und mangelnde Transparenz?
Die Norm beantwortet diese Fragen nicht mit einem völlig neuen Risikomanagementmodell – das ist ihre Stärke. Hingegen zeigt sie, wie Hersteller die bewährte Logik der ISO 14971 auf Machine Learning anwenden sollten.
2. Anwendbarkeit der ISO/TS 24971-2:2026
Die Technische Spezifikation betrifft Hersteller von Medizinprodukten und IVD mit Machine-Learning-Komponenten.
Dazu zählen insbesondere Medical Device Software mit ML (MLMD) inkl. KI-basierter IVD-Software mit ML-Algorithmen sowie klassische Medizinprodukte mit integrierter ML-Funktion.
Betroffen von der Norm sind damit nicht nur Data Scientists oder Softwareentwickler. Relevanz hat die Norm unter anderem auch für:
- Regulatory Affairs
- Qualitätsmanagement
- Risikomanagement
- Clinical / Performance Evaluation
- Usability / Human Factors
- Post-Market Surveillance
Die Norm betrachtet den gesamten Lebenszyklus des Produkts. Sie reicht also von der Gefährdungs- und Risikoanalyse über die Risikokontrolle bis zu Überwachung, Updates und Rollback.
Die ISO/TS 24971-2:2026 ist eine Technische Spezifikation und keine gesetzlich direkt verbindliche Vorschrift. Trotzdem ist sie für Hersteller hochrelevant. Denn sie
- konkretisiert die Anwendung der ISO 14971 auf ML-basierte Medizinprodukte,
- kann als Ausdruck des Stands der Technik verstanden werden und
- dürfte von Benannten Stellen und Behörden als wichtige Auslegungshilfe herangezogen werden.
Für Hersteller unter MDR und IVDR bedeutet das: Die Norm ist nicht automatisch verpflichtend. In der Praxis dürfte sie jedoch schnell zu einem wichtigen Referenzrahmen werden.
3. Die Kernaussagen der ISO/TS 24971-2
Für KI-basierte Medizinprodukte mit Machine Learning gilt weiterhin die ISO 14971 – aber Hersteller müssen sie ML-spezifisch anwenden.
Die ISO/TS 24971-2:2026 ersetzt das klassische Risikomanagement also nicht. Sie konkretisiert es dort, wo Machine Learning neue oder anders gelagerte Risiken mit sich bringt. Gerade das macht sie wertvoll.
Die Norm bleibt konsequent in der Logik der ISO 14971. Sie ergänzt diese aber um die Besonderheiten von Machine Learning in Medizinprodukten.
a. ML-Risikomanagement ist mehr als Software-Risikomanagement
Risikomanagement ist bekanntermaßen ein Teamsport. Für den ML-spezifischen Risikomanagementprozess benötigen Hersteller nicht nur Softwarekompetenz. Erforderlich ist auch Expertise zu:
- Datenqualität und Repräsentativität
- Bias
- Typischen ML-Fehlermodi wie Drift, Dataset Shift oder OOD-Inputs
- KI-spezifischen Usability-Risken
- IT-/Plattformrisiken, Cybersecurity und Datenintegrität
- Klinische Workflow-Integration
b. Intended Use und Misuse müssen ML-spezifisch beschrieben werden
Die Norm fordert, dass Hersteller gezielt auch ML-typische Risiken betrachten. Dazu zählen zum Beispiel:
- Fehlinterpretation von Scores oder Klassifikationen
- Übervertrauen in die KI-Ausgabe (Output)
- Nutzung außerhalb der validierten Population oder Bedingungen
- Unklare Grenzen der Modellleistung
- Falsche Interpretation von Unsicherheit oder Konfidenz
- Missverständnisse wegen mangelnder Transparenz
c. Sicherheitsrelevante Merkmale gehen weit über Accuracy hinaus
Zu den sicherheitsrelevanten Merkmalen zählen nicht nur Accuracy und Performance. Wichtig sind auch:
- Anforderungen an Eingabedaten
- Grenzen der Zielpopulation
- Kalibrierung und Schwellenwerte
- Bekannte Fehlersituationen
- Abhängigkeiten von Cloud, Konnektivität oder Upstream-Systemen
d. Gefährdungen dürfen nicht auf Modellfehler reduziert werden
Die Norm betont, dass Hersteller nicht nur Modellfehler analysieren dürfen. Auch klassische Risiken bleiben relevant, zum Beispiel:
- Software- und IT-Fehler
- Usability-Probleme
- Cybersecurity
- Datenmanagement
- Laufzeitumgebung
- Diagnostische Informationsdarstellung
e. Risikoabschätzung ist bei ML oft unsicher
Wenn die Eintrittswahrscheinlichkeit eines Schadens nicht belastbar geschätzt werden kann, soll die Bewertung auf Basis der Schwere des möglichen Schadens erfolgen. Die Norm empfiehlt außerdem zusätzliche Evidenz, etwa durch:
- Usability-Evaluationen
- Analyse kritischer Nutzeraufgaben
- Bewertung der Repräsentativität von Trainings- und Testdaten
- Robustheits- und Subgruppenanalysen
f. Risikokontrolle beginnt bei Daten, Entwicklung und Nutzung
Die Spezifikation nennt typische ML-spezifische Risikokontrollmaßnahmen. Dazu gehören insbesondere:
- Datenqualität
- Trennung von Trainings- und Testdaten
- Realistische Eingabebegrenzungen
- Human Oversight (menschliche Aufsicht) und Interventionsmechanismen
- Plausibilitätsprüfungen und Alarme
- Transparente Warnungen, Nutzungsgrenzen und Elemente von Explainability
g. PMS, Monitoring und kontrollierte Änderungen sind zentral
Die Norm denkt Risikomanagement ausdrücklich über das Inverkehrbringen hinaus. Hersteller sollen bereits im Risikomanagementplan festlegen,
- wie die Performance überwacht wird,
- ob Drift-Monitoring erforderlich ist,
- wann Updates, Retraining oder Rollback notwendig werden,
- wie Versionierung und Traceability sichergestellt werden.
h. Bias, Transparenz, Explainability und Autonomie sind sicherheitsrelevant
Die Norm behandelt diese Themen nicht als Nebenaspekte. Sie können das Sicherheitsprofil und das Restrisiko eines ML-basierten Medizinprodukts wesentlich beeinflussen.
4. Aufbau der Norm
Die Struktur orientiert sich eng an der ISO 14971. Das ist sinnvoll, weil Herstellern kein paralleles KI-Risikomanagement aufgezwungen wird.
Die Hauptkapitel sind:
- Scope
- Normative references
- Terms and definitions
- General requirements for risk management system
- Risk analysis
- Risk evaluation
- Risk control
- Evaluation of overall residual risk
- Risk management review
- Production and post-production activities
Besonders wertvoll sind die Anhänge:
- Annex A: Erklärung von Bias
- Annex B: Beispiele für Gefährdungen und Gefährdungssituationen
- Annex C: Die Checkliste hilft bei der Identifikation von sicherheitsrelevanten Merkmalen und Gefährdungen und kann als KI-spezifische PHA-Checkliste genutzt werden.
- Annex D: Wertvolle Überlegungen zum Autonomiegrad von MLMD
Gerade die Anhänge sind in der Praxis sehr hilfreich. Sie geben Herstellern Denkanstöße für Hazard Analysis, Intended Use und Residual Risk.
5. Handlungsempfehlungen für Hersteller
Aus unserer Sicht sollten Hersteller von KI-basierten Medizinprodukten und IVD jetzt mindestens die folgenden Schritte gehen:
a. Kompetenzmodell erweitern
- Datenrepräsentativität
- klinischer Bedeutung der Daten
- Usability
- Cybersecurity
- Data Governance
- Modellentwicklung inkl. Training, Testing, Verifizierung und Validierung
Sichern Sie die Kompetenzen des Risikomanagementteams nicht nur bezüglich der Software-Expertise, sondern auch für:
b. Intended Purpose und Misuse überprüfen
Prüfen Sie, ob die Grenzen der Anwendung klar genug beschrieben sind. Und prüfen Sie, ob Fehlinterpretationen von Outputs realistisch adressiert werden.
c. Gefährdungs-/Risikoanalyse erweitern
Berücksichtigen Sie spezifische Ereignisketten aus z. B.:
- Datenfehlern
- Drift
- Fehlgebrauch
- Konnektivitätsprobleme
- Updatefehlern
- Unzureichender Transparenz
d. Gap-Analyse durchführen
Prüfen Sie Ihr bestehendes Risikomanagement gezielt auf ML-spezifische Lücken. Dazu sollte die Gap-Analyse insbesondere die folgenden Risikoobjekte umfassen:
- Eingabedaten und Data Governance, einschließlich Datenerhebung, Datenvorverarbeitung, Datenmanagement und Daten-Labeling sowie sämtliche Arten von Bias
- Modellentwicklung, einschließlich Modelltraining, Validierung und Testung
- KI-spezifische Anwendungsfehler, die bedingt sind durch z. B. hohe Komplexität der Benutzeroberfläche, Fehlinterpretation von Ausgaben, Übervertrauen in die KI, Misstrauen gegenüber korrekten Ausgaben, unzureichendes Bewusstsein für Grenzen und Limitationen, Automation Bias
- Deployment-Abhängigkeiten, etwa Cloud-Latenz oder Anforderungen an die Konnektivität, soweit diese die rechtzeitige Bereitstellung oder Verfügbarkeit der Ergebnisse beeinflussen
- Aktivitäten nach dem Deployment, insbesondere Performance Drift sowie kontrollierte Modell-Updates, Retraining oder Rollback
e. PMS aktiv gestalten
Nutzen Sie PMS als Sicherheitsinstrument, nicht nur als formale Pflicht. Definieren Sie, wie Performance, Drift und reale Nutzungsmuster überwacht und bewertet oder neue Hazard Scenarios frühzeitig erkannt werden.
6. Fazit
a. Unsere Bewertung: Ist die ISO/TS 24971-2 hilfreich?
Ja – und zwar deutlich.
Die Technische Spezifikation ist aus unserer Sicht
- hilfreich, weil sie typische Schwachstellen im KI-Risikomanagement adressiert,
- konzeptionell stimmig, weil sie in der Logik der ISO 14971 bleibt,
- praxisnah, weil sie Daten, Nutzung, Monitoring und Updates gemeinsam denkt.
Besonders positiv ist, dass sie KI nicht künstlich zum Sonderfall erklärt. Stattdessen entwickelt sie die bekannten Grundprinzipien des Risikomanagements vernünftig weiter.
Natürlich bleibt manches auf einer eher allgemeinen Ebene. Die Norm sagt oft überzeugend, was Hersteller berücksichtigen müssen, aber nicht immer bis ins Detail, wie dies methodisch umzusetzen ist. Das betrifft etwa Drift-Metriken, Monitoring-Design oder Explainability in komplexen Modellen. Diese Zurückhaltung ist aber nachvollziehbar, weil sich die Methoden in vielen Bereichen noch entwickeln.
b. Zusammenfassung
Die ISO/TS 24971-2:2026 ist ein wichtiger Schritt für das Risikomanagement von KI-basierten Medizinprodukten und IVD mit Machine Learning.
Sie zeigt klar, dass gutes Risikomanagement bei ML nicht bei Modellperformance endet. Entscheidend sind auch:
- Datenqualität und Repräsentativität
- Fehlgebrauch und Übervertrauen
- Transparenz und Explainability
- IT- und Nutzungskontext
- Post-Market-Surveillance
- Kontrollierte Updates und Retraining
Für Hersteller ist die wichtigste Erkenntnis:
Risikomanagement für MLMD ist Daten-, System-, Nutzungs- und Lebenszyklusmanagement.
Die KI-/ML-Experts des Johner Instituts stellen sicher, dass Hersteller von Medizinprodukten und IVD ihre Produkte schnell gesetzeskonform entwickeln und zulassen. Dabei achten Sie auch auf die Anforderungen des AI Act, der ISO/TS 24971-2 und weitere KI-/ML-spezifischen Anforderungen.
Nehmen Sie gleich Kontakt auf und erfahren Sie, wie auch Sie Ihre Produkte schnell, konform, sicher und wirksam entwickeln.
