{"id":5381962,"date":"2025-10-28T08:17:00","date_gmt":"2025-10-28T07:17:00","guid":{"rendered":"https:\/\/www.johner-institut.de\/blog\/?p=5381962"},"modified":"2025-11-03T08:35:03","modified_gmt":"2025-11-03T07:35:03","slug":"chatgpt-validieren-medizinprodukte","status":"publish","type":"post","link":"https:\/\/www.johner-institut.de\/blog\/regulatory-affairs\/chatgpt-validieren-medizinprodukte\/","title":{"rendered":"ChatGPT validieren: Was Medizinprodukte-Hersteller beachten m\u00fcssen"},"content":{"rendered":"\n<p>M\u00fcssen Medizinproduktehersteller eine KI wie ChatGPT validieren, die sie bei der Entwicklung, Produktion, Zulassung und \u00dcberwachung ihrer Produkte einsetzen?<\/p>\n\n\n\n<p>Falls ja, wie soll das gelingen mit Modellen, die nichtdeterministische Ergebnisse liefern?<\/p>\n\n\n\n<p>Antworten darauf und auf die Frage, was Ihre Auditoren erwarten (sollten), gibt dieser Fachartikel.<\/p>\n\n\n\n<!--more-->\n\n\n\n<div class=\"jig_defbox\"><div class=\"jig_defbox-definition\"><div class=\"jig_defbox-icon-wrapper\" style=\"fill:#919191\"><svg viewBox=\"0 0 50 50\" width=\"24\" height=\"24\" class=\"dashicons\" aria-hidden=\"true\"><rect width=\"10.16\" height=\"10.27\"><\/rect><rect y=\"13.24\" width=\"10.16\" height=\"10.27\"><\/rect><rect y=\"26.49\" width=\"10.16\" height=\"10.27\"><\/rect><rect x=\"13.15\" y=\"13.24\" width=\"10.16\" height=\"10.27\"><\/rect><rect x=\"13.15\" y=\"26.49\" width=\"10.16\" height=\"10.27\"><\/rect><rect x=\"13.15\" y=\"39.73\" width=\"10.16\" height=\"10.27\"><\/rect><\/svg><\/div><span class=\"jig_defbox-header\" style=\"color:#919191\">Key Takeaways<\/span><\/div>\n<ul class=\"wp-block-list\">\n<li>Medizinprodukte- und IVD-Hersteller m\u00fcssen darauf vorbereitet sein, dass ihre Auditoren die Validierung der GPTs ansprechen.<\/li>\n\n\n\n<li>In vielen F\u00e4llen gibt es die regulatorische Pflicht, Tools wie ChatGPT zu validieren. Das ist insbesondere dann der Fall, wenn diese bei Prozessen im QM-System eingesetzt werden.<\/li>\n\n\n\n<li>Diese Validierung ist m\u00f6glich, unterscheidet sich aber in einigen Punkten von der Validierung konventioneller computerisierter Systeme.<\/li>\n\n\n\n<li>Hersteller sollten den Aufwand f\u00fcr die Validierung der GPTs risikobasiert begrenzen.<\/li>\n\n\n\n<li>GPTs bzw. LLMs wegen CSV-Pflicht nicht einzusetzen, gef\u00e4hrdet die Wettbewerbsf\u00e4higkeit.<\/li>\n<\/ul>\n<\/div>\n\n\n\n<h2 class=\"wp-block-heading\">1. Einsatz von GPTs bei Medizinprodukte-Herstellern<\/h2>\n\n\n\n<p>Bei immer mehr T\u00e4tigkeiten greifen Medizinprodukte- und IVD-Hersteller auf GPTs zu, um ihre Produktivit\u00e4t, Innovation und manchmal sogar Konformit\u00e4t zu verbessern.<\/p>\n\n\n\n<div class=\"jig_defbox\"><div class=\"jig_defbox-definition\"><div class=\"jig_defbox-icon-wrapper\" style=\"fill:#919191\"><svg viewBox=\"0 0 512 512\" width=\"24\" height=\"24\" class=\"dashicons\" aria-hidden=\"true\"><g><path d=\"M430.9,177.6c-0.3-96-78.1-174.1-174-174.9c-0.1,0-0.2,0-0.4,0c-0.2,0-0.4,0-0.5,0c-0.2,0-0.4,0-0.5,0 c-0.1,0-0.2,0-0.4,0c-95.9,0.8-173.7,78.9-174,174.9c-0.4,7.3-1.9,60.3,36.6,109.2c29.5,37.6,49.4,74.7,55,85.9v63.5 c0,0,0,0.1,0,0.1c0,0.5,0,0.9,0.1,1.4c0,0.3,0.1,0.6,0.1,0.9c0,0.1,0,0.2,0,0.2c0.4,2.7,1.4,5.2,3,7.4l33.7,55.1 c3.1,5.1,8.7,8.2,14.7,8.2h61.8c6,0,11.5-3.1,14.7-8.2l33.7-55.1c1.5-2.1,2.6-4.6,3-7.4c0-0.1,0-0.2,0-0.2c0-0.3,0.1-0.6,0.1-0.9 c0-0.5,0.1-0.9,0.1-1.4c0,0,0-0.1,0-0.1v-60.3c1.2-2.4,22.3-45.5,56.7-89.2C432.8,237.8,431.3,184.9,430.9,177.6z M303.3,418.8 h-96.2v-33.1h96.2V418.8z M276.4,475h-42.5l-13.3-21.6h69L276.4,475z M311.6,351.4H200.4c-8.6-16.3-28-50.6-55.7-85.9 c-32-40.6-29.3-85.7-29.3-86c0-0.4,0.1-0.9,0.1-1.3c0-77.6,63-140.8,140.5-141.1c77.5,0.3,140.5,63.5,140.5,141.1 c0,0.4,0,0.9,0.1,1.3c0,0.4,3.1,44.9-29.3,86C339.5,300.8,320.2,335.1,311.6,351.4z\"><\/path><path d=\"M257.8,64.4c-62,0-112.5,50.5-112.5,112.5c0,9.5,7.7,17.2,17.2,17.2s17.2-7.7,17.2-17.2 c0-43.1,35-78.1,78.1-78.1c9.5,0,17.2-7.7,17.2-17.2S267.3,64.4,257.8,64.4z\"><\/path><\/g><\/svg><\/div><span class=\"jig_defbox-header\" style=\"color:#919191\">Beispiele<\/span><\/div>\n<ul class=\"wp-block-list\">\n<li>Brainstorming f\u00fcr neue Produktideen<\/li>\n\n\n\n<li>Pr\u00fcfen der Zweckbestimmung auf Vollst\u00e4ndigkeit und Konsistenz<\/li>\n\n\n\n<li>Extraktion von Anforderungen aus Dokumenten (z. B. Gesetze, Produktbeschreibungen)<\/li>\n\n\n\n<li>Erstellen einer System-Architektur<\/li>\n\n\n\n<li>Schreiben von Quell-Code<\/li>\n\n\n\n<li>Recherchieren und Bewerten klinischer Fachliteratur<\/li>\n\n\n\n<li>Bewerten von Kundenr\u00fcckmeldungen<\/li>\n\n\n\n<li>Ausformulieren von Testberichten<\/li>\n<\/ul>\n<\/div>\n\n\n\n<p>Manche dieser T\u00e4tigkeiten f\u00fchren die Mitarbeitenden nur einmal oder selten durch. Andere, wie die Bewertung von Kundenr\u00fcckmeldungen, stehen dagegen regelm\u00e4\u00dfig an.<\/p>\n\n\n\n<h2 class=\"wp-block-heading\">2. Regulatorische Anforderungen an die Validierung<\/h2>\n\n\n\n<p>Um \u00c4rger bei Audits und Inspektionen zu vermeiden, sollten die Hersteller die regulatorischen Vorgaben kennen und erf\u00fcllen.<\/p>\n\n\n\n<h3 class=\"wp-block-heading\">2.1 AI Act<\/h3>\n\n\n\n<p>Die Nutzung von LLMs bzw. GPTs f\u00e4llt unter den Anwendungsbereich des AI Act. Denn MP-Hersteller, die LLMs\/GPTs in dieser Art intern nutzen, z\u00e4hlen als \u201eDeployer\u201c dieser Systeme, auch wenn sie diese \u00fcberhaupt nicht selbst betreiben.<\/p>\n\n\n\n<p>In der Regel z\u00e4hlen diese Systeme <strong>nicht<\/strong> als high-risk, weshalb au\u00dfer der Pflicht, die KI-Kompetenz (\u201eAI Literacy\u201c) nachzuweisen, keine weiteren Anforderungen bestehen. Insbesondere verpflichtet der AI Act nicht zur Validierung.<\/p>\n\n\n\n<div class=\"jig_defbox\"><div class=\"jig_defbox-definition\"><div class=\"jig_defbox-icon-wrapper\" style=\"fill:#919191\"><svg viewBox=\"0 0 48 48\" width=\"24\" height=\"24\" class=\"dashicons\" aria-hidden=\"true\"><g><path d=\"M20,19.5h16v-3H20V19.5z M20,25.5h16v-3H20V25.5z M20,31.5h10v-3H20V31.5z M14.1,20c0.6,0,1-0.2,1.4-0.6 c0.4-0.4,0.6-0.9,0.6-1.4s-0.2-1-0.6-1.4c-0.4-0.4-0.9-0.6-1.4-0.6c-0.6,0-1,0.2-1.4,0.6c-0.4,0.4-0.6,0.9-0.6,1.4 c0,0.6,0.2,1,0.6,1.4C13,19.9,13.5,20,14.1,20z M14.1,26c0.6,0,1-0.2,1.4-0.6c0.4-0.4,0.6-0.9,0.6-1.4c0-0.6-0.2-1-0.6-1.4 S14.6,22,14.1,22c-0.6,0-1,0.2-1.4,0.6s-0.6,0.9-0.6,1.4c0,0.6,0.2,1,0.6,1.4S13.5,26,14.1,26z M14.1,32c0.6,0,1-0.2,1.4-0.6 c0.4-0.4,0.6-0.9,0.6-1.4c0-0.6-0.2-1-0.6-1.4c-0.4-0.4-0.9-0.6-1.4-0.6c-0.6,0-1,0.2-1.4,0.6s-0.6,0.9-0.6,1.4 c0,0.6,0.2,1,0.6,1.4S13.5,32,14.1,32z M7,40c-1.7,0-3-1.4-3-3V11c0-0.8,0.3-1.5,0.9-2.1C5.5,8.3,6.2,8,7,8h34 c0.8,0,1.5,0.3,2.1,0.9C43.7,9.5,44,10.2,44,11v26c0,0.8-0.3,1.5-0.9,2.1C42.5,39.7,41.8,40,41,40L7,40z M7,37h34V11H7V37z M7,11\"><\/path><\/g><\/svg><\/div><span class=\"jig_defbox-header\" style=\"color:#919191\">Weiterf\u00fchrende Informationen<\/span><\/div>\n<p>Beachten Sie die Fachartikel <a href=\"https:\/\/www.johner-institut.de\/blog\/regulatory-affairs\/ai-act-eu-ki-verordnung\/\">AI Act<\/a> und zu den weiteren <a href=\"https:\/\/www.johner-institut.de\/blog\/regulatory-affairs\/anwendbarkeit-des-ai-acts\/\">Pflichten von Medizinprodukte- bzw. IVD-Herstellern als Deployer<\/a>. Ein weiterer Artikel beleuchtet die <a href=\"https:\/\/www.johner-institut.de\/blog\/regulatory-affairs\/regulatorische-anforderungen-an-medizinprodukte-mit-machine-learning\/\">regulatorischen Anforderungen an Medizinprodukte bzw. IVD, die Verfahren des maschinellen Lernens<\/a> verwenden.<\/p>\n<\/div>\n\n\n\n<h3 class=\"wp-block-heading\">2.2 ISO 13485<\/h3>\n\n\n\n<p>Die <a href=\"https:\/\/www.johner-institut.de\/blog\/category\/qualitaetsmanagement-iso-13485\/\">ISO 13485<\/a> verlangt auch die Kompetenznachweise, sogar spezifisch f\u00fcr jedes Entwicklungsprojekt. Das ist jedoch nicht der Schwerpunkt dieses Artikels; hier geht es vorrangig um die Pflicht zur <a href=\"https:\/\/www.johner-institut.de\/blog\/tag\/validierung\/\">Validierung<\/a>.<\/p>\n\n\n\n<p>In Kapitel 4.1.6 fordert die ISO 13485, <strong>alle computerisierten Systeme zu validieren<\/strong>, welche im Rahmen des QM-Systems eingesetzt werden. Das ist beispielsweise bei allen oben genannten Anwendungsf\u00e4llen der Fall.<\/p>\n\n\n\n<p>Analoge, teilweise sogar buchstabenidentische Anforderungen stellt die ISO 13485 an die Infrastruktur (Kapitel 6.3) und an die Validierung der Prozesse einschlie\u00dflich der dabei eingesetzten Software (Kapitel 7.5.6).<\/p>\n\n\n\n<h3 class=\"wp-block-heading\">2.3 Weitere regulatorische Anforderungen<\/h3>\n\n\n\n<p>Die <strong>FDA<\/strong> formuliert in ihren Quality System Regulations (<strong><a href=\"https:\/\/www.ecfr.gov\/current\/title-21\/chapter-I\/subchapter-H\/part-820\/subpart-G\/section-820.75\">21 CFR part 820<\/a><\/strong>) \u00e4hnliche Anforderungen. Allerdings stellt die Beh\u00f6rde ihr System auf die Quality System Management Regulations und damit auf die ISO 13485 um.<\/p>\n\n\n\n<div class=\"jig_defbox\"><div class=\"jig_defbox-definition\"><div class=\"jig_defbox-icon-wrapper\" style=\"fill:#919191\"><svg viewBox=\"0 0 48 48\" width=\"24\" height=\"24\" class=\"dashicons\" aria-hidden=\"true\"><g><path d=\"M20,19.5h16v-3H20V19.5z M20,25.5h16v-3H20V25.5z M20,31.5h10v-3H20V31.5z M14.1,20c0.6,0,1-0.2,1.4-0.6 c0.4-0.4,0.6-0.9,0.6-1.4s-0.2-1-0.6-1.4c-0.4-0.4-0.9-0.6-1.4-0.6c-0.6,0-1,0.2-1.4,0.6c-0.4,0.4-0.6,0.9-0.6,1.4 c0,0.6,0.2,1,0.6,1.4C13,19.9,13.5,20,14.1,20z M14.1,26c0.6,0,1-0.2,1.4-0.6c0.4-0.4,0.6-0.9,0.6-1.4c0-0.6-0.2-1-0.6-1.4 S14.6,22,14.1,22c-0.6,0-1,0.2-1.4,0.6s-0.6,0.9-0.6,1.4c0,0.6,0.2,1,0.6,1.4S13.5,26,14.1,26z M14.1,32c0.6,0,1-0.2,1.4-0.6 c0.4-0.4,0.6-0.9,0.6-1.4c0-0.6-0.2-1-0.6-1.4c-0.4-0.4-0.9-0.6-1.4-0.6c-0.6,0-1,0.2-1.4,0.6s-0.6,0.9-0.6,1.4 c0,0.6,0.2,1,0.6,1.4S13.5,32,14.1,32z M7,40c-1.7,0-3-1.4-3-3V11c0-0.8,0.3-1.5,0.9-2.1C5.5,8.3,6.2,8,7,8h34 c0.8,0,1.5,0.3,2.1,0.9C43.7,9.5,44,10.2,44,11v26c0,0.8-0.3,1.5-0.9,2.1C42.5,39.7,41.8,40,41,40L7,40z M7,37h34V11H7V37z M7,11\"><\/path><\/g><\/svg><\/div><span class=\"jig_defbox-header\" style=\"color:#919191\">Weiterf\u00fchrende Informationen<\/span><\/div>\n<p>Beachten Sie die Fachartikel zu den <a href=\"https:\/\/www.johner-institut.de\/blog\/qualitaetsmanagement-iso-13485\/21-cfr-820\/\">Quality System Management Regulations (QMSR)<\/a>.<\/p>\n<\/div>\n\n\n\n<p>In Korea und weiteren L\u00e4ndern ist die Konformit\u00e4t mit der Norm <strong>ISO 42001<\/strong> verpflichtend, welche auch die Qualit\u00e4tssicherung KI-basierter Systeme thematisiert.<\/p>\n\n\n\n<div class=\"jig_defbox\"><div class=\"jig_defbox-definition\"><div class=\"jig_defbox-icon-wrapper\" style=\"fill:#919191\"><svg viewBox=\"0 0 48 48\" width=\"24\" height=\"24\" class=\"dashicons\" aria-hidden=\"true\"><g><path d=\"M20,19.5h16v-3H20V19.5z M20,25.5h16v-3H20V25.5z M20,31.5h10v-3H20V31.5z M14.1,20c0.6,0,1-0.2,1.4-0.6 c0.4-0.4,0.6-0.9,0.6-1.4s-0.2-1-0.6-1.4c-0.4-0.4-0.9-0.6-1.4-0.6c-0.6,0-1,0.2-1.4,0.6c-0.4,0.4-0.6,0.9-0.6,1.4 c0,0.6,0.2,1,0.6,1.4C13,19.9,13.5,20,14.1,20z M14.1,26c0.6,0,1-0.2,1.4-0.6c0.4-0.4,0.6-0.9,0.6-1.4c0-0.6-0.2-1-0.6-1.4 S14.6,22,14.1,22c-0.6,0-1,0.2-1.4,0.6s-0.6,0.9-0.6,1.4c0,0.6,0.2,1,0.6,1.4S13.5,26,14.1,26z M14.1,32c0.6,0,1-0.2,1.4-0.6 c0.4-0.4,0.6-0.9,0.6-1.4c0-0.6-0.2-1-0.6-1.4c-0.4-0.4-0.9-0.6-1.4-0.6c-0.6,0-1,0.2-1.4,0.6s-0.6,0.9-0.6,1.4 c0,0.6,0.2,1,0.6,1.4S13.5,32,14.1,32z M7,40c-1.7,0-3-1.4-3-3V11c0-0.8,0.3-1.5,0.9-2.1C5.5,8.3,6.2,8,7,8h34 c0.8,0,1.5,0.3,2.1,0.9C43.7,9.5,44,10.2,44,11v26c0,0.8-0.3,1.5-0.9,2.1C42.5,39.7,41.8,40,41,40L7,40z M7,37h34V11H7V37z M7,11\"><\/path><\/g><\/svg><\/div><span class=\"jig_defbox-header\" style=\"color:#919191\">Weiterf\u00fchrende Informationen<\/span><\/div>\n<p>Beachten Sie den Fachartikel zur <a href=\"https:\/\/www.johner-institut.de\/blog\/qualitaetsmanagement-iso-13485\/iso-iec-42001\/\">ISO 42001 und deren Anforderungen<\/a>.<\/p>\n<\/div>\n\n\n\n<h2 class=\"wp-block-heading\">3. LLMs als computerisierte Systeme<\/h2>\n\n\n\n<p><strong>Sind LLM-basierte GPTs computerisierte Systeme im Sinne der ISO 13485?<\/strong><\/p>\n\n\n\n<p>Die kurze Antwort lautet: ja.<\/p>\n\n\n\n<p>Die ausf\u00fchrlichere Antwort ist, dass LLM-basierte Systeme als computerisierte Systeme z\u00e4hlen. Falls Hersteller diese Systeme im Rahmen eines oder mehrerer QM-Prozesse einsetzen, fallen diese Systeme unter die Forderungen der ISO 13485.<\/p>\n\n\n\n<blockquote class=\"wp-block-quote is-layout-flow wp-block-quote-is-layout-flow\">\n<p><em>\u201cThe organization shall document procedures for the validation of the application of computer software used in the quality management system.\u201d<\/em><\/p>\n<\/blockquote>\n\n\n\n<p>Allerdings sind nicht die LLMs zu validieren, also die Modelle selbst, sondern das computerisierte System. Das besteht aus mehr als \u201enur\u201c dem LLM (s. Abb. 1), das meist von einem der gro\u00dfen Hersteller wie OpenAI (ChatGPT), Google (Gemini, SORA), Microsoft (Copilot) oder Anthropic (Claude) stammt.<\/p>\n\n\n\n<figure class=\"wp-block-image size-large\"><a href=\"https:\/\/www.johner-institut.de\/blog\/wp-content\/uploads\/2025\/10\/gpt-validieren-system-delineation.png\" data-rel=\"lightbox-image-0\" data-rl_title=\"\" data-rl_caption=\"\" title=\"\"><img loading=\"lazy\" decoding=\"async\" width=\"1024\" height=\"801\" src=\"https:\/\/www.johner-institut.de\/blog\/wp-content\/uploads\/2025\/10\/gpt-validieren-system-delineation-1024x801.png\" alt=\"Computerisierte Systeme umfassen ggf. die Hardware, Betriebssysteme, eigene Software, ggf. Daten f\u00fcr das Context-Window sowie das LLM.\" class=\"wp-image-5381966\" srcset=\"https:\/\/www.johner-institut.de\/blog\/wp-content\/uploads\/2025\/10\/gpt-validieren-system-delineation-1024x801.png 1024w, https:\/\/www.johner-institut.de\/blog\/wp-content\/uploads\/2025\/10\/gpt-validieren-system-delineation-300x235.png 300w, https:\/\/www.johner-institut.de\/blog\/wp-content\/uploads\/2025\/10\/gpt-validieren-system-delineation-768x601.png 768w, https:\/\/www.johner-institut.de\/blog\/wp-content\/uploads\/2025\/10\/gpt-validieren-system-delineation.png 1200w\" sizes=\"auto, (max-width: 1024px) 100vw, 1024px\" \/><\/a><figcaption class=\"wp-element-caption\"><em>Abb. 1: Computerisierte Systeme umfassen ggf. die Hardware, Betriebssysteme, eigene Software, ggf. Daten f\u00fcr das Context-Window sowie das LLM.<\/em><\/figcaption><\/figure>\n\n\n\n<p><\/p>\n\n\n\n<div class=\"jig_defbox\"><div class=\"jig_defbox-definition\"><div class=\"jig_defbox-icon-wrapper\" style=\"fill:#919191\"><svg viewBox=\"0 0 576 512\" width=\"24\" height=\"24\" class=\"dashicons\" aria-hidden=\"true\"><path d=\"M569.5,440c18.5,32-4.7,72-41.6,72H48.1c-36.9,0-60-40.1-41.6-72L246.4,24c18.5-32,64.7-32,83.2,0L569.5,440 L569.5,440z M288,354c-25.4,0-46,20.6-46,46s20.6,46,46,46s46-20.6,46-46S313.4,354,288,354z M244.3,188.7l7.4,136 c0.3,6.4,5.6,11.3,12,11.3h48.5c6.4,0,11.6-5,12-11.3l7.4-136c0.4-6.9-5.1-12.7-12-12.7h-63.4C249.4,176,244,181.8,244.3,188.7 L244.3,188.7z\"><\/path><\/svg><\/div><span class=\"jig_defbox-header\" style=\"color:#919191\">Achtung<\/span><\/div>\n<p>Es ist unerheblich, ob ein System beim Anbieter (z. B. OpenAI) oder beim Medizinprodukte- oder IVD-Hersteller selbst <strong>betrieben<\/strong> wird. Entscheidend ist, dass der Hersteller es unter seinem QM-Dach <strong>nutzt<\/strong>.<\/p>\n<\/div>\n\n\n\n<h2 class=\"wp-block-heading\">4. Validierungspflicht von GPTs<\/h2>\n\n\n\n<p>Hersteller m\u00fcssen ihre KI, z. B. ihr ChatGPT, validieren, falls die in Abb. 2 genannten Bedingungen erf\u00fcllt sind. Die folgenden Teilkapitel erl\u00e4utern die einzelnen Schritte.<\/p>\n\n\n\n<figure class=\"wp-block-image size-full\"><a href=\"https:\/\/www.johner-institut.de\/blog\/wp-content\/uploads\/2025\/10\/image-1.png\" data-rel=\"lightbox-image-1\" data-rl_title=\"\" data-rl_caption=\"\" title=\"\"><img loading=\"lazy\" decoding=\"async\" width=\"703\" height=\"261\" src=\"https:\/\/www.johner-institut.de\/blog\/wp-content\/uploads\/2025\/10\/image-1.png\" alt=\"Man muss nicht jedes ChatGPT validieren. Wann eine Validierung notwendig ist, zeigt dieses Entscheidungsdiagramm.\" class=\"wp-image-5381964\" srcset=\"https:\/\/www.johner-institut.de\/blog\/wp-content\/uploads\/2025\/10\/image-1.png 703w, https:\/\/www.johner-institut.de\/blog\/wp-content\/uploads\/2025\/10\/image-1-300x111.png 300w\" sizes=\"auto, (max-width: 703px) 100vw, 703px\" \/><\/a><figcaption class=\"wp-element-caption\"><em>Abb. 2: Das Ablaufdiagramm zeigt, dass Hersteller ein LLM-basiertes System wie ChatGPT validieren m\u00fcssen, falls sie es im Rahmen ihres QM-Systems einsetzen, aber dessen Ergebnisse nicht vollst\u00e4ndig verifizieren, bzw. falls Risiken durch fehlerhafte Outputs des GPTs entstehen.<\/em><\/figcaption><\/figure>\n\n\n\n<h3 class=\"wp-block-heading\">4.1 Entscheidungskriterien<\/h3>\n\n\n\n<h4 class=\"wp-block-heading\">4.1.1 Ja, falls im Rahmen des QM-Systems<\/h4>\n\n\n\n<p>Die ISO 13485 verpflichtet im Kapitel 4.1.2 die Organisationen dazu, im Rahmen ihres QM-Systems die Prozesse zu beschreiben. Das sind zumindest die Prozesse, die die Norm selbst vorgibt, beispielsweise:<\/p>\n\n\n\n<ul class=\"wp-block-list\">\n<li>Entwicklung einschlie\u00dflich <a href=\"https:\/\/www.johner-institut.de\/blog\/iec-62304-medizinische-software\/verifizierung-und-validierung-von-medizinprodukten\/\">Verifizierung und Validierung<\/a> der Produkte<\/li>\n\n\n\n<li>Erheben der regulatorischen und kundenbezogenen Anforderungen<\/li>\n\n\n\n<li>Produktion<\/li>\n\n\n\n<li>Dienstleistungserbringung<\/li>\n\n\n\n<li>\u201eMarkt\u00fcberwachung\u201c (<a href=\"https:\/\/www.johner-institut.de\/blog\/regulatory-affairs\/post-market-surveillance\/\">Post-Market Surveillance<\/a>)<\/li>\n\n\n\n<li>Umgang mit Kundenr\u00fcckmeldungen<\/li>\n\n\n\n<li>Kommunikation mit Beh\u00f6rden einschlie\u00dflich <a href=\"https:\/\/www.johner-institut.de\/blog\/regulatory-affairs\/vigilanz-system\/\">Vigilanz<\/a><\/li>\n<\/ul>\n\n\n\n<p>Alle in Abschnitt 1 genannten und von LLMs unterst\u00fctzten T\u00e4tigkeiten fallen in den Anwendungsbereich des eigenen QM-Systems!<\/p>\n\n\n\n<div class=\"jig_defbox\"><div class=\"jig_defbox-definition\"><div class=\"jig_defbox-icon-wrapper\" style=\"fill:#919191\"><svg viewBox=\"0 0 576 512\" width=\"24\" height=\"24\" class=\"dashicons\" aria-hidden=\"true\"><path d=\"M569.5,440c18.5,32-4.7,72-41.6,72H48.1c-36.9,0-60-40.1-41.6-72L246.4,24c18.5-32,64.7-32,83.2,0L569.5,440 L569.5,440z M288,354c-25.4,0-46,20.6-46,46s20.6,46,46,46s46-20.6,46-46S313.4,354,288,354z M244.3,188.7l7.4,136 c0.3,6.4,5.6,11.3,12,11.3h48.5c6.4,0,11.6-5,12-11.3l7.4-136c0.4-6.9-5.1-12.7-12-12.7h-63.4C249.4,176,244,181.8,244.3,188.7 L244.3,188.7z\"><\/path><\/svg><\/div><span class=\"jig_defbox-header\" style=\"color:#919191\">Achtung<\/span><\/div>\n<p>F\u00fcr LLMs, die bei <a href=\"https:\/\/www.johner-institut.de\/blog\/qualitaetsmanagement-iso-13485\/lieferantenbewertung-lieferantenauswahl-lieferantenaudit\/\">ausgelagerten Prozessen<\/a> verwendet werden, gelten die gleichen regulatorischen Anforderungen und damit auch die Pflicht zu deren Validierung.<\/p>\n<\/div>\n\n\n\n<h4 class=\"wp-block-heading\">4.1.2 Nein, falls die Ergebnisse vollst\u00e4ndig gepr\u00fcft werden<\/h4>\n\n\n\n<p>Die ISO 13485 beschreibt in Abschnitt 4.1.6 keine Ausnahme von der Validierungspflicht f\u00fcr computerisierte Systeme. Dennoch l\u00e4sst sich solch eine Ausnahme herleiten, falls die Ergebnisse des computerisierten Systems im Anschluss vollst\u00e4ndig gepr\u00fcft werden.<\/p>\n\n\n\n<p>Diese Argumentation st\u00fctzt sich auf folgende Gedanken:<\/p>\n\n\n\n<ul class=\"wp-block-list\">\n<li>Die sehr vergleichbaren Anforderungen an die Tool- bzw. Prozessvalidierung muss der Hersteller nicht erf\u00fcllen, falls gilt: <em>\u201eoutput [is] verified by subsequent monitoring or measurement and, as a consequence, deficiencies become apparent\u201c<\/em>.<\/li>\n\n\n\n<li>Die gleiche Sichtweise formuliert die FDA im <a href=\"https:\/\/www.ecfr.gov\/current\/title-21\/chapter-I\/subchapter-H\/part-820\/subpart-G\/section-820.75\">21 CFR part 820.75 a)<\/a>.<\/li>\n\n\n\n<li>Die Erlaubnis, risikobasiert vorzugehen, bedeutet, dass ohne Risiko auch keine Validierung notwendig ist.<\/li>\n<\/ul>\n\n\n\n<div class=\"jig_defbox\"><div class=\"jig_defbox-definition\"><div class=\"jig_defbox-icon-wrapper\" style=\"fill:#919191\"><svg viewBox=\"0 0 512 512\" width=\"24\" height=\"24\" class=\"dashicons\" aria-hidden=\"true\"><g><path d=\"M430.9,177.6c-0.3-96-78.1-174.1-174-174.9c-0.1,0-0.2,0-0.4,0c-0.2,0-0.4,0-0.5,0c-0.2,0-0.4,0-0.5,0 c-0.1,0-0.2,0-0.4,0c-95.9,0.8-173.7,78.9-174,174.9c-0.4,7.3-1.9,60.3,36.6,109.2c29.5,37.6,49.4,74.7,55,85.9v63.5 c0,0,0,0.1,0,0.1c0,0.5,0,0.9,0.1,1.4c0,0.3,0.1,0.6,0.1,0.9c0,0.1,0,0.2,0,0.2c0.4,2.7,1.4,5.2,3,7.4l33.7,55.1 c3.1,5.1,8.7,8.2,14.7,8.2h61.8c6,0,11.5-3.1,14.7-8.2l33.7-55.1c1.5-2.1,2.6-4.6,3-7.4c0-0.1,0-0.2,0-0.2c0-0.3,0.1-0.6,0.1-0.9 c0-0.5,0.1-0.9,0.1-1.4c0,0,0-0.1,0-0.1v-60.3c1.2-2.4,22.3-45.5,56.7-89.2C432.8,237.8,431.3,184.9,430.9,177.6z M303.3,418.8 h-96.2v-33.1h96.2V418.8z M276.4,475h-42.5l-13.3-21.6h69L276.4,475z M311.6,351.4H200.4c-8.6-16.3-28-50.6-55.7-85.9 c-32-40.6-29.3-85.7-29.3-86c0-0.4,0.1-0.9,0.1-1.3c0-77.6,63-140.8,140.5-141.1c77.5,0.3,140.5,63.5,140.5,141.1 c0,0.4,0,0.9,0.1,1.3c0,0.4,3.1,44.9-29.3,86C339.5,300.8,320.2,335.1,311.6,351.4z\"><\/path><path d=\"M257.8,64.4c-62,0-112.5,50.5-112.5,112.5c0,9.5,7.7,17.2,17.2,17.2s17.2-7.7,17.2-17.2 c0-43.1,35-78.1,78.1-78.1c9.5,0,17.2-7.7,17.2-17.2S267.3,64.4,257.8,64.4z\"><\/path><\/g><\/svg><\/div><span class=\"jig_defbox-header\" style=\"color:#919191\">Beispiele f\u00fcr eine nachfolgende \u00dcberpr\u00fcfung<\/span><\/div>\n<p>Ein \u201esubsequent monitoring or measurement\u201c kann erfolgen durch<\/p>\n\n\n\n<ul class=\"wp-block-list\">\n<li>eine manuelle \u00dcberpr\u00fcfung,<\/li>\n\n\n\n<li>automatisierte Tests (z. B. Software) oder<\/li>\n\n\n\n<li>nachfolgende Prozessschritte, die fehlerhafte Outputs des GPTs zwangsl\u00e4ufig offenbaren (etwa weil ein Bauteil nicht montiert werden kann).<\/li>\n<\/ul>\n<\/div>\n\n\n\n<h4 class=\"wp-block-heading\">4.1.3 Nein, falls keine (zus\u00e4tzlichen) Risiken durch fehlerhafte Outputs des LLMs entstehen<\/h4>\n\n\n\n<p>Der vorangegangenen \u00dcberlegung folgend, m\u00fcssen Hersteller ihr LLM nicht validieren, falls kein (zus\u00e4tzliches) Risiko besteht. In diesem Zusammenhang verbergen sich hinter dem Wort \u201eRisiko\u201c zwei verschiedene Arten von Risiken:<\/p>\n\n\n\n<ol class=\"wp-block-list\">\n<li>Risiken f\u00fcr Patienten, Anwender und Dritte im Sinne der <a href=\"https:\/\/www.johner-institut.de\/blog\/category\/iso-14971-risikomanagement\/\">ISO 14971<\/a> (streng genommen betrachtet die Norm auch die Umwelt und G\u00fcter)<\/li>\n\n\n\n<li>Risiken f\u00fcr die Konformit\u00e4t des eigenen Unternehmens und der eigenen Produkte<\/li>\n<\/ol>\n\n\n\n<div class=\"jig_defbox\"><div class=\"jig_defbox-definition\"><div class=\"jig_defbox-icon-wrapper\" style=\"fill:#919191\"><svg viewBox=\"0 0 48 48\" width=\"24\" height=\"24\" class=\"dashicons\" aria-hidden=\"true\"><g><path d=\"M20,19.5h16v-3H20V19.5z M20,25.5h16v-3H20V25.5z M20,31.5h10v-3H20V31.5z M14.1,20c0.6,0,1-0.2,1.4-0.6 c0.4-0.4,0.6-0.9,0.6-1.4s-0.2-1-0.6-1.4c-0.4-0.4-0.9-0.6-1.4-0.6c-0.6,0-1,0.2-1.4,0.6c-0.4,0.4-0.6,0.9-0.6,1.4 c0,0.6,0.2,1,0.6,1.4C13,19.9,13.5,20,14.1,20z M14.1,26c0.6,0,1-0.2,1.4-0.6c0.4-0.4,0.6-0.9,0.6-1.4c0-0.6-0.2-1-0.6-1.4 S14.6,22,14.1,22c-0.6,0-1,0.2-1.4,0.6s-0.6,0.9-0.6,1.4c0,0.6,0.2,1,0.6,1.4S13.5,26,14.1,26z M14.1,32c0.6,0,1-0.2,1.4-0.6 c0.4-0.4,0.6-0.9,0.6-1.4c0-0.6-0.2-1-0.6-1.4c-0.4-0.4-0.9-0.6-1.4-0.6c-0.6,0-1,0.2-1.4,0.6s-0.6,0.9-0.6,1.4 c0,0.6,0.2,1,0.6,1.4S13.5,32,14.1,32z M7,40c-1.7,0-3-1.4-3-3V11c0-0.8,0.3-1.5,0.9-2.1C5.5,8.3,6.2,8,7,8h34 c0.8,0,1.5,0.3,2.1,0.9C43.7,9.5,44,10.2,44,11v26c0,0.8-0.3,1.5-0.9,2.1C42.5,39.7,41.8,40,41,40L7,40z M7,37h34V11H7V37z M7,11\"><\/path><\/g><\/svg><\/div><span class=\"jig_defbox-header\" style=\"color:#919191\">Weiterf\u00fchrende Informationen<\/span><\/div>\n<p>Ein lesenswerter <a href=\"https:\/\/open.substack.com\/pub\/sebastianraschka\/p\/llm-evaluation-4-approaches?utm_campaign=post&amp;utm_medium=email\">Fachartikel von Dr. Sebastian Raschka<\/a> beschreibt, wie die LLMs validiert werden k\u00f6nnen.<\/p>\n<\/div>\n\n\n\n<h3 class=\"wp-block-heading\">4.2 Beispiele<\/h3>\n\n\n\n<h4 class=\"wp-block-heading\">4.2.1 Beispiele f\u00fcr nicht validierungspflichtige GPT-basierte Systeme<\/h4>\n\n\n\n<figure class=\"wp-block-table\"><table class=\"has-fixed-layout\"><tbody><tr><td><strong>Beispiel<\/strong><\/td><td><strong>Begr\u00fcndung<\/strong><\/td><\/tr><tr><td>Brainstorming von Produktideen<\/td><td>Es ist unerheblich, ob Ideen von Menschen oder LLMs stammen. In jedem Fall werden Menschen diese Ideen pr\u00fcfen und wahlweise verwerfen oder weiternutzen.<\/td><\/tr><tr><td>UI-Entwurf<\/td><td>Ein UI-Entwurf l\u00e4sst sich i.d.R. nicht automatisch \u00fcbernehmen. Daher werden in der Praxis Menschen diesen Entwurf bewerten und anpassen, bevor er umgesetzt und im Rahmen der formativen und summativen Evaluation bewertet wird. Auch hier ist es unerheblich, ob initiale UI-Entw\u00fcrfe von Menschen oder LLMs stammen.<\/td><\/tr><tr><td>Generieren von Software-Code (aber nicht Test-Code)<\/td><td>Software-Code ist nie fehlerfrei. Genau deshalb sollte er besonders intensiv gepr\u00fcft werden, z. B. durch den Compiler, Reviews, Software-Tests, statische Code-Analysen sowie bei anschlie\u00dfenden Pr\u00fcfschritten wie Integrationstests. Falls LLM-generierter Code genau diesen Qualit\u00e4tssicherungsma\u00dfnahmen unterzogen wird, sind die Risiken auf dasselbe Ma\u00df minimiert wie bei von Menschen geschriebenem Code. Das gilt insbesondere f\u00fcr \u201eBoiler-Plate-Code\u201c. \u00dcblicherweise lassen Hersteller den Code f\u00fcr kritische Algorithmen nicht generieren. Andernfalls w\u00e4re eine Validierung des GPTs zu empfehlen.<\/td><\/tr><tr><td>Generieren von <a href=\"https:\/\/www.johner-institut.de\/blog\/qualitaetsmanagement-iso-13485\/verfahrensanweisungen-qualitaetsmanagement\/\">SOPs<\/a><\/td><td>SOPs m\u00fcssen gepr\u00fcft und freigegeben werden. Das gilt auch f\u00fcr generierte SOPs. Somit wird das Endergebnis vollst\u00e4ndig von Menschen verifiziert.<\/td><\/tr><\/tbody><\/table><figcaption class=\"wp-element-caption\"><em>Tabelle 1: Beispiele f\u00fcr nicht validierungspflichtige GPT-basierte Systeme<\/em><\/figcaption><\/figure>\n\n\n\n<p><\/p>\n\n\n\n<div class=\"jig_defbox\"><div class=\"jig_defbox-definition\"><div class=\"jig_defbox-icon-wrapper\" style=\"fill:#919191\"><svg viewBox=\"0 0 576 512\" width=\"24\" height=\"24\" class=\"dashicons\" aria-hidden=\"true\"><path d=\"M569.5,440c18.5,32-4.7,72-41.6,72H48.1c-36.9,0-60-40.1-41.6-72L246.4,24c18.5-32,64.7-32,83.2,0L569.5,440 L569.5,440z M288,354c-25.4,0-46,20.6-46,46s20.6,46,46,46s46-20.6,46-46S313.4,354,288,354z M244.3,188.7l7.4,136 c0.3,6.4,5.6,11.3,12,11.3h48.5c6.4,0,11.6-5,12-11.3l7.4-136c0.4-6.9-5.1-12.7-12-12.7h-63.4C249.4,176,244,181.8,244.3,188.7 L244.3,188.7z\"><\/path><\/svg><\/div><span class=\"jig_defbox-header\" style=\"color:#919191\">Achtung<\/span><\/div>\n<p>Die Beispiele in Tabelle 1 gehen davon aus, dass die Menschen ihrer Aufgabe tats\u00e4chlich nachkommen und die Ergebnisse pr\u00fcfen. Das ist bei selten eingesetzten LLMs h\u00e4ufiger der Fall als bei LLMs im Routinebetrieb. Entwickler, die es gewohnt sind, dass ihr LLM hochwertigen Code generiert, neigen eher dazu, diesen Code nicht mehr genau zu pr\u00fcfen.<\/p>\n\n\n\n<p>Hersteller k\u00f6nnen diesem automatisierten Abnicken (\u201eAutomation Bias\u201c) entgegenwirken, z. B. indem sie das Thema in den AI-Literacy-Schulungen ins Bewusstsein r\u00fccken und konkrete Review-Ergebnisse einfordern.<\/p>\n<\/div>\n\n\n\n<h4 class=\"wp-block-heading\">4.2.2 Beispiele f\u00fcr Grenzf\u00e4lle<\/h4>\n\n\n\n<figure class=\"wp-block-table\"><table class=\"has-fixed-layout\"><tbody><tr><td>Beispiel<\/td><td>Begr\u00fcndung<\/td><\/tr><tr><td>Schreiben einer <a href=\"https:\/\/www.johner-institut.de\/blog\/tag\/software-architektur\/\">Software-Architektur<\/a> (analog System-Architektur, Isolationsdiagramm, Spannungsversorgungskonzept)<\/td><td>Entwurfsdokumente unterlaufen viele weitere explizite und implizite Pr\u00fcfschritte: Es finden Dokumenten-Reviews statt. Das Entwicklungsteam liest und pr\u00fcft implizit das Dokument beim Umsetzen (z. B. auf Vollst\u00e4ndigkeit, Korrektheit, Umsetzbarkeit). Die Entwicklungsergebnisse durchlaufen viele weitere Pr\u00fcfschritte. Damit ist nicht gesagt, dass ein vom LLM verursachter Fehler grunds\u00e4tzlich entdeckt wird und Risiken ausgeschlossen sind; aber die Risiken sollten bei einem guten\/bew\u00e4hrten Prompt niedriger sein als bei einem manuell erstellten Entwurfsdokument. Die Qualit\u00e4t des Prompts (bzw. der Prompt Chain oder des kompletten GPTs) k\u00f6nnte \u00fcber Reviews gesichert werden. Fazit: Ein Verzicht auf die Validierung des GPTs m\u00fcsste begr\u00fcndet sein.<\/td><\/tr><tr><td>Schreiben von Test-Code<\/td><td>Test-Code wird fast nie durch weitere Software-Tests auf Korrektheit und Vollst\u00e4ndigkeit getestet. Allerdings wird auch der Test-Code durch den Compiler gepr\u00fcft, er durchl\u00e4uft (idealerweise) ein <a href=\"https:\/\/www.johner-institut.de\/blog\/iec-62304-medizinische-software\/code-review\/\">Code-Review<\/a> und wird durch die <a href=\"https:\/\/www.johner-institut.de\/blog\/iec-62304-medizinische-software\/code-coverage\/\">Coverage-Bestimmung<\/a> zumindest indirekt gepr\u00fcft. Damit h\u00e4ngt die Validierungspflicht von der Art und Intensit\u00e4t nachfolgender Pr\u00fcfschritte sowie von der Kritikalit\u00e4t der getesteten Software ab.<\/td><\/tr><\/tbody><\/table><figcaption class=\"wp-element-caption\">Tabelle 2: Beispiele, bei denen die Validierungspflicht grenzwertig ist<\/figcaption><\/figure>\n\n\n\n<h4 class=\"wp-block-heading\">4.2.3 Beispiele f\u00fcr validierungspflichtige GPT-basierte Systeme<\/h4>\n\n\n\n<figure class=\"wp-block-table\"><table class=\"has-fixed-layout\"><tbody><tr><td><strong>Beispiel<\/strong><\/td><td><strong>Begr\u00fcndung<\/strong><\/td><\/tr><tr><td>Schreiben eines Pr\u00fcfplans<\/td><td>Fehler in Pr\u00fcfpl\u00e4nen k\u00f6nnen beispielsweise in Form von falschen Grenzwerten oder fehlenden Pr\u00fcfkriterien bzw. fehlenden Testf\u00e4llen bestehen. Solche Fehler lassen sich zum einen schwerer finden als in Entwurfsdokumenten, schlie\u00dflich f\u00fchrt eine L\u00fccke im Testplan zu einem nicht ausreichend getesteten Testobjekt (z. B. Produkt). Zum anderen ist die Gefahr h\u00f6her, dass die Suche nach diesen Fehlern (z. B. bei Reviews) durch Zeitdruck am Projektende und abnehmende Motivation beeintr\u00e4chtigt ist. Die Natur der LLMs kann zu Fehlern f\u00fchren, welche Menschen nicht unterlaufen w\u00fcrden. Insofern greift eine Argumentation mit dem Verweis auf den Stand der Technik (Mensch) nicht.<\/td><\/tr><tr><td>Ermitteln regulatorischer Anforderungen<\/td><td>Das korrekte Ermitteln der regulatorischen Anforderungen ist entscheidend f\u00fcr die Konformit\u00e4t des Produkts bzw. Unternehmens. Daher f\u00fchren Fehler zu nennenswerten (regulatorischen) Risiken. Menschen neigen im Gegensatz zu GPTs nicht dazu, Anforderungen zu erfinden, komplett zu verf\u00e4lschen oder zu ignorieren. Das erh\u00f6ht die Risiken von LLMs auch relativ zu den Risiken bei manueller Ermittlung.<\/td><\/tr><tr><td>Auswerten der klinischen Fachliteratur<\/td><td>Analoge \u00dcberlegungen gelten f\u00fcr LLMs, die klinische Fachliteratur suchen, nach Inhalten durchsuchen oder bewerten. Klinische Bewertungen mit durch LLMs erfundenen Literaturquellen haben bereits den Weg zu Benannten Stellen gefunden.\u00a0Solche nicht validierten LLMs torpedieren den Nutzen und die Relevanz der <a href=\"https:\/\/www.johner-institut.de\/blog\/tag\/klinische-bewertung\/\">klinischen Bewertung<\/a>.<\/td><\/tr><tr><td>Bewerten von Kundenr\u00fcckmeldungen<\/td><td>Fehler bei der Bewertung von Kundenr\u00fcckmeldungen w\u00fcrden dazu f\u00fchren, dass kritische R\u00fcckmeldungen unentdeckt bleiben und die notwendigen Ma\u00dfnahmen nicht eingeleitet werden. Das kann Patienten gef\u00e4hrden.<\/td><\/tr><\/tbody><\/table><figcaption class=\"wp-element-caption\">Tabelle 3: Beispiele f\u00fcr validierungspflichtige Systeme<\/figcaption><\/figure>\n\n\n\n<h3 class=\"wp-block-heading\">4.3. Fazit<\/h3>\n\n\n\n<p>Hersteller sollten mehrere Kriterien betrachten, wenn sie \u00fcber die Validierungspflicht entscheiden.<br>Das sind neben den in Kapitel 4.1 genannten auch die folgenden:<\/p>\n\n\n\n<h4 class=\"wp-block-heading\">4.3.1 Nachfolgende Prozessschritte<\/h4>\n\n\n\n<p>Je schlechter nachfolgende Prozessschritte m\u00f6gliche Fehler eines vorausgegangenen Schritts aufdecken k\u00f6nnen, desto wichtiger ist die G\u00fcte des vorausgegangenen Prozessschritts. Daher sollten Hersteller Tools wie ChatGPT st\u00e4rker validieren, wenn diese auf der rechten Seite des V-Modells zum Einsatz kommen.<\/p>\n\n\n\n<h4 class=\"wp-block-heading\">4.3.2 H\u00e4ufigkeit und Art des Einsatzes<\/h4>\n\n\n\n<p>Eine Validierung erscheint auch als besonders notwendig, wenn ein Werkzeug wie ein GPT routinem\u00e4\u00dfig eingesetzt wird, etwa zum Bewerten von Kundenr\u00fcckmeldungen.<\/p>\n\n\n\n<p>Hingegen wird eine Person, die ein Spezialwerkzeug f\u00fcr einen einmaligen Einsatz entwickelt, um ein konkretes Problem zu l\u00f6sen, das Ergebnis dieses Werkzeugs mit hoher Wahrscheinlichkeit vollst\u00e4ndig pr\u00fcfen.<\/p>\n\n\n\n<h2 class=\"wp-block-heading\">5. GPT-Validierungspraxis<\/h2>\n\n\n\n<h3 class=\"wp-block-heading\">5.1 Allgemeine CSV-Best-Practices beachten<\/h3>\n\n\n\n<p>Die gesetzlichen und normativen Vorgaben wie die ISO 13485 unterscheiden nicht, ob ein computerisiertes System LLMs verwendet oder nicht. Daher sind alle Best Practices f\u00fcr die CSV auch f\u00fcr GPTs anwendbar.<\/p>\n\n\n\n<div class=\"jig_defbox\"><div class=\"jig_defbox-definition\"><div class=\"jig_defbox-icon-wrapper\" style=\"fill:#919191\"><svg viewBox=\"0 0 48 48\" width=\"24\" height=\"24\" class=\"dashicons\" aria-hidden=\"true\"><g><path d=\"M20,19.5h16v-3H20V19.5z M20,25.5h16v-3H20V25.5z M20,31.5h10v-3H20V31.5z M14.1,20c0.6,0,1-0.2,1.4-0.6 c0.4-0.4,0.6-0.9,0.6-1.4s-0.2-1-0.6-1.4c-0.4-0.4-0.9-0.6-1.4-0.6c-0.6,0-1,0.2-1.4,0.6c-0.4,0.4-0.6,0.9-0.6,1.4 c0,0.6,0.2,1,0.6,1.4C13,19.9,13.5,20,14.1,20z M14.1,26c0.6,0,1-0.2,1.4-0.6c0.4-0.4,0.6-0.9,0.6-1.4c0-0.6-0.2-1-0.6-1.4 S14.6,22,14.1,22c-0.6,0-1,0.2-1.4,0.6s-0.6,0.9-0.6,1.4c0,0.6,0.2,1,0.6,1.4S13.5,26,14.1,26z M14.1,32c0.6,0,1-0.2,1.4-0.6 c0.4-0.4,0.6-0.9,0.6-1.4c0-0.6-0.2-1-0.6-1.4c-0.4-0.4-0.9-0.6-1.4-0.6c-0.6,0-1,0.2-1.4,0.6s-0.6,0.9-0.6,1.4 c0,0.6,0.2,1,0.6,1.4S13.5,32,14.1,32z M7,40c-1.7,0-3-1.4-3-3V11c0-0.8,0.3-1.5,0.9-2.1C5.5,8.3,6.2,8,7,8h34 c0.8,0,1.5,0.3,2.1,0.9C43.7,9.5,44,10.2,44,11v26c0,0.8-0.3,1.5-0.9,2.1C42.5,39.7,41.8,40,41,40L7,40z M7,37h34V11H7V37z M7,11\"><\/path><\/g><\/svg><\/div><span class=\"jig_defbox-header\" style=\"color:#919191\">Weiterf\u00fchrende Informationen<\/span><\/div>\n<p>Beachten Sie unseren Fachartikel zur <a href=\"https:\/\/www.johner-institut.de\/blog\/regulatory-affairs\/computer-system-validation-csv\/\">Computerized Systems Validation<\/a>. Dieser referenziert weitere Richtlinien und Normen wie die <a href=\"https:\/\/www.johner-institut.de\/blog\/iec-62304-medizinische-software\/iso-80002-2-software-validierung\/\">IEC 80002-2<\/a>.<\/p>\n<\/div>\n\n\n\n<h3 class=\"wp-block-heading\">5.2 Spezifisches Risikomanagement betreiben<\/h3>\n\n\n\n<p>Allerdings unterscheidet sich die Validierung KI-basierter computerisierter Systeme, insbesondere von Systemen, die generative KI verwenden, von der Validierung von Systemen, die keine KI verwenden. Das betrifft unter anderem das Risikomanagement, was wegen des <a href=\"https:\/\/www.johner-institut.de\/blog\/qualitaetsmanagement-iso-13485\/risk-based-approach-risikobasierter-ansatz\/\">risk-based approach<\/a> bei der Validierung besonders relevant ist.<\/p>\n\n\n\n<h4 class=\"wp-block-heading\">5.2.1 Spezifische Risiken<\/h4>\n\n\n\n<p>KI-basierte Systeme weisen spezifische Risiken auf, die verschiedene Ursachen haben k\u00f6nnen:<\/p>\n\n\n\n<ul class=\"wp-block-list\">\n<li>Die Technologien und Modelle unterliegen st\u00e4ndigen \u00c4nderungen.<\/li>\n\n\n\n<li>Die Ergebnisse sind selten 100 % korrekt und vollst\u00e4ndig.<\/li>\n\n\n\n<li>Den GPTs unterlaufen Fehler, die Menschen nicht machen w\u00fcrden.<\/li>\n\n\n\n<li>Die LLMs (die Modelle als Kernel des GPTs) sind nur schwer validierbar.<\/li>\n\n\n\n<li>Viele GPTs k\u00f6nnen auch f\u00fcr Zwecke eingesetzt werden, f\u00fcr die sie nicht vorgesehen waren und validiert wurden.<\/li>\n<\/ul>\n\n\n\n<p>Die Risiken h\u00e4ngen stark von den Inputs und deren Variabilit\u00e4t ab. Beispielsweise sind die Risiken eines GPTs, das jeden Prompt entgegennimmt, schwerer abzusch\u00e4tzen als jene f\u00fcr ein GPT, das nur strukturierte Daten in einem festgelegten Format und mit definierter Semantik entgegennimmt (z. B. Werte nur aus Klassifikation).<\/p>\n\n\n\n<div class=\"jig_defbox\"><div class=\"jig_defbox-definition\"><div class=\"jig_defbox-icon-wrapper\" style=\"fill:#919191\"><svg viewBox=\"0 0 576 512\" width=\"24\" height=\"24\" class=\"dashicons\" aria-hidden=\"true\"><path d=\"M569.5,440c18.5,32-4.7,72-41.6,72H48.1c-36.9,0-60-40.1-41.6-72L246.4,24c18.5-32,64.7-32,83.2,0L569.5,440 L569.5,440z M288,354c-25.4,0-46,20.6-46,46s20.6,46,46,46s46-20.6,46-46S313.4,354,288,354z M244.3,188.7l7.4,136 c0.3,6.4,5.6,11.3,12,11.3h48.5c6.4,0,11.6-5,12-11.3l7.4-136c0.4-6.9-5.1-12.7-12-12.7h-63.4C249.4,176,244,181.8,244.3,188.7 L244.3,188.7z\"><\/path><\/svg><\/div><span class=\"jig_defbox-header\" style=\"color:#919191\">Achtung<\/span><\/div>\n<p>Dieser Beitrag adressiert nicht KI-basierte Medizinprodukte und IVD. Beachten Sie dazu unseren <a href=\"https:\/\/www.johner-institut.de\/blog\/tag\/kuenstliche-intelligenz\/\">\u00dcbersichtsartikel<\/a> sowie den Artikel zu den <a href=\"https:\/\/www.johner-institut.de\/blog\/regulatory-affairs\/regulatorische-anforderungen-an-medizinprodukte-mit-machine-learning\/\">regulatorischen Anforderungen an das Machine Learning<\/a>.<\/p>\n<\/div>\n\n\n\n<h4 class=\"wp-block-heading\">5.2.2 Spezifische Ma\u00dfnahmen<\/h4>\n\n\n\n<p>Auch die Ma\u00dfnahmen unterscheiden sich:<\/p>\n\n\n\n<ul class=\"wp-block-list\">\n<li>Human-in-the-Loop<\/li>\n\n\n\n<li>Architektur des Systems (z. B. Parallelisierung mit anschlie\u00dfendem Voting durch mehrere LLMs oder Limitierung des LLMs auf die Rolle als \u201eConversational UI\u201c)<\/li>\n\n\n\n<li>Auswertung der \u201eProtocols\u201c (wie vom AI Act f\u00fcr High-Risk-Systeme gefordert)<\/li>\n\n\n\n<li>Wahl der Modellparameter, etwa Temperatur und Top-K (z. B. um Reproduzierbarkeit zu erh\u00f6hen)<\/li>\n\n\n\n<li>Einsatz strukturierter Daten im Context Window<\/li>\n<\/ul>\n\n\n\n<h4 class=\"wp-block-heading\">5.2.3 Spezifische Kriterien f\u00fcr die Risikoakzeptanz<\/h4>\n\n\n\n<p><strong>Vorbemerkung<\/strong><\/p>\n\n\n\n<p>Insbesondere deutsche Gesetzgeber, Beh\u00f6rden und Benannte Stellen tendieren zu dem Glauben, dass mehr Verbote und strengere Auslegung der gesetzlichen Vorgaben zu einer erh\u00f6hten Patientensicherheit f\u00fchren. Dabei provoziert diese Haltung wiederum Risiken durch fehlende, nicht bezahlbare und nicht ausreichend innovative\/wirksame Medizinprodukte.<\/p>\n\n\n\n<p>Daher sollten Hersteller bei der <a href=\"https:\/\/www.johner-institut.de\/blog\/tag\/risikoakzeptanz\/\">Risikobewertung<\/a> auch mit dem Nutzen durch die KI argumentieren k\u00f6nnen. Ohne Nutzen sind keine Risiken akzeptabel.<\/p>\n\n\n\n<p><strong>Stand der Technik<\/strong><\/p>\n\n\n\n<p>Zudem sollte ein Unternehmen die Risiken nicht absolut bewerten, sondern am <a href=\"https:\/\/www.johner-institut.de\/blog\/regulatory-affairs\/stand-der-technik\/\">Stand der Technik<\/a> bemessen. Diesen Stand der Technik bilden:<\/p>\n\n\n\n<ul class=\"wp-block-list\">\n<li>Menschen<\/li>\n\n\n\n<li>Systeme ohne KI<\/li>\n\n\n\n<li>KI-basierte Systeme, welche die KI anders einsetzen (andere Modelle, Architekturen \u2026)<\/li>\n<\/ul>\n\n\n\n<div class=\"jig_defbox\"><div class=\"jig_defbox-definition\"><div class=\"jig_defbox-icon-wrapper\" style=\"fill:#919191\"><svg viewBox=\"0 0 512 512\" width=\"24\" height=\"24\" class=\"dashicons\" aria-hidden=\"true\"><g><path d=\"M430.9,177.6c-0.3-96-78.1-174.1-174-174.9c-0.1,0-0.2,0-0.4,0c-0.2,0-0.4,0-0.5,0c-0.2,0-0.4,0-0.5,0 c-0.1,0-0.2,0-0.4,0c-95.9,0.8-173.7,78.9-174,174.9c-0.4,7.3-1.9,60.3,36.6,109.2c29.5,37.6,49.4,74.7,55,85.9v63.5 c0,0,0,0.1,0,0.1c0,0.5,0,0.9,0.1,1.4c0,0.3,0.1,0.6,0.1,0.9c0,0.1,0,0.2,0,0.2c0.4,2.7,1.4,5.2,3,7.4l33.7,55.1 c3.1,5.1,8.7,8.2,14.7,8.2h61.8c6,0,11.5-3.1,14.7-8.2l33.7-55.1c1.5-2.1,2.6-4.6,3-7.4c0-0.1,0-0.2,0-0.2c0-0.3,0.1-0.6,0.1-0.9 c0-0.5,0.1-0.9,0.1-1.4c0,0,0-0.1,0-0.1v-60.3c1.2-2.4,22.3-45.5,56.7-89.2C432.8,237.8,431.3,184.9,430.9,177.6z M303.3,418.8 h-96.2v-33.1h96.2V418.8z M276.4,475h-42.5l-13.3-21.6h69L276.4,475z M311.6,351.4H200.4c-8.6-16.3-28-50.6-55.7-85.9 c-32-40.6-29.3-85.7-29.3-86c0-0.4,0.1-0.9,0.1-1.3c0-77.6,63-140.8,140.5-141.1c77.5,0.3,140.5,63.5,140.5,141.1 c0,0.4,0,0.9,0.1,1.3c0,0.4,3.1,44.9-29.3,86C339.5,300.8,320.2,335.1,311.6,351.4z\"><\/path><path d=\"M257.8,64.4c-62,0-112.5,50.5-112.5,112.5c0,9.5,7.7,17.2,17.2,17.2s17.2-7.7,17.2-17.2 c0-43.1,35-78.1,78.1-78.1c9.5,0,17.2-7.7,17.2-17.2S267.3,64.4,257.8,64.4z\"><\/path><\/g><\/svg><\/div><span class=\"jig_defbox-header\" style=\"color:#919191\">Beispiele<\/span><\/div>\n<p>Der Stand der Technik beim Bewerten der <a href=\"https:\/\/www.johner-institut.de\/blog\/regulatory-affairs\/literatursuche\/\">klinischen Fachliteratur<\/a> ist der Mensch, konkret medizinisch-wissenschaftliche Expertinnen und Experten.<\/p>\n\n\n\n<p>Der Stand der Technik bei der statistischen Auswertung von Produktionsfehlern oder Kundenr\u00fcckmeldungen sind klassische Software-Anwendungen (ohne KI).<\/p>\n<\/div>\n\n\n\n<p><\/p>\n\n\n\n<p>Daher sind Fehler, die beim aktuellen Stand der Technik nicht entstehen w\u00fcrden (z. B. erfundene Gesetzestexte oder wissenschaftliche Quellen), aber bei Chat-Bots entstehen, nicht akzeptabel.<\/p>\n\n\n\n<p>Hingegen ist eine \u00fcbersehene Kundenbeschwerde bzw. eine fehlerhaft klassifizierte Kundenr\u00fcckmeldung kein Ausschlusskriterium f\u00fcr den Einsatz eines LLMs. Denn solche Fehler unterlaufen auch Menschen.<\/p>\n\n\n\n<div class=\"jig_defbox\"><div class=\"jig_defbox-definition\"><div class=\"jig_defbox-icon-wrapper\" style=\"fill:#919191\"><svg viewBox=\"0 0 576 512\" width=\"24\" height=\"24\" class=\"dashicons\" aria-hidden=\"true\"><path d=\"M569.5,440c18.5,32-4.7,72-41.6,72H48.1c-36.9,0-60-40.1-41.6-72L246.4,24c18.5-32,64.7-32,83.2,0L569.5,440 L569.5,440z M288,354c-25.4,0-46,20.6-46,46s20.6,46,46,46s46-20.6,46-46S313.4,354,288,354z M244.3,188.7l7.4,136 c0.3,6.4,5.6,11.3,12,11.3h48.5c6.4,0,11.6-5,12-11.3l7.4-136c0.4-6.9-5.1-12.7-12-12.7h-63.4C249.4,176,244,181.8,244.3,188.7 L244.3,188.7z\"><\/path><\/svg><\/div><span class=\"jig_defbox-header\" style=\"color:#919191\">Wichtige Konsequenz<\/span><\/div>\n<p>Hersteller sollten die Anforderungen (beispielsweise in Form von Qualit\u00e4tsmetriken) auch aus dem Stand der Technik und damit risikobasiert ableiten \u2013 und pr\u00fcfen.<\/p>\n<\/div>\n\n\n\n<p><\/p>\n\n\n\n<h3 class=\"wp-block-heading\">5.3 Weitere spezifische Best Practices beachten<\/h3>\n\n\n\n<h4 class=\"wp-block-heading\">5.3.1 Festlegen, was das GPT ist<\/h4>\n\n\n\n<p>Hersteller m\u00fcssen Klarheit dar\u00fcber haben, was das zu validierende System und was der Input dieses Systems ist. Beispielsweise kann ein Prompt ein Input sein, aber im Fall von Custom-GPTs oder System-Prompts auch Teil des zu validierenden Systems.<\/p>\n\n\n\n<p>Wie in Abschnitt 5.2.1 beschrieben, h\u00e4ngen die Risiken stark von den Inputs und deren \u201eVariabilit\u00e4t\u201c ab.<\/p>\n\n\n\n<h4 class=\"wp-block-heading\">5.3.2 Ground Truth bestimmen<\/h4>\n\n\n\n<p>Ein Hersteller sollte Klarheit dar\u00fcber haben, welche Ergebnisse richtig sind. Das ist in vielen F\u00e4llen schwieriger als gedacht.<\/p>\n\n\n\n<div class=\"jig_defbox\"><div class=\"jig_defbox-definition\"><div class=\"jig_defbox-icon-wrapper\" style=\"fill:#919191\"><svg viewBox=\"0 0 512 512\" width=\"24\" height=\"24\" class=\"dashicons\" aria-hidden=\"true\"><g><path d=\"M430.9,177.6c-0.3-96-78.1-174.1-174-174.9c-0.1,0-0.2,0-0.4,0c-0.2,0-0.4,0-0.5,0c-0.2,0-0.4,0-0.5,0 c-0.1,0-0.2,0-0.4,0c-95.9,0.8-173.7,78.9-174,174.9c-0.4,7.3-1.9,60.3,36.6,109.2c29.5,37.6,49.4,74.7,55,85.9v63.5 c0,0,0,0.1,0,0.1c0,0.5,0,0.9,0.1,1.4c0,0.3,0.1,0.6,0.1,0.9c0,0.1,0,0.2,0,0.2c0.4,2.7,1.4,5.2,3,7.4l33.7,55.1 c3.1,5.1,8.7,8.2,14.7,8.2h61.8c6,0,11.5-3.1,14.7-8.2l33.7-55.1c1.5-2.1,2.6-4.6,3-7.4c0-0.1,0-0.2,0-0.2c0-0.3,0.1-0.6,0.1-0.9 c0-0.5,0.1-0.9,0.1-1.4c0,0,0-0.1,0-0.1v-60.3c1.2-2.4,22.3-45.5,56.7-89.2C432.8,237.8,431.3,184.9,430.9,177.6z M303.3,418.8 h-96.2v-33.1h96.2V418.8z M276.4,475h-42.5l-13.3-21.6h69L276.4,475z M311.6,351.4H200.4c-8.6-16.3-28-50.6-55.7-85.9 c-32-40.6-29.3-85.7-29.3-86c0-0.4,0.1-0.9,0.1-1.3c0-77.6,63-140.8,140.5-141.1c77.5,0.3,140.5,63.5,140.5,141.1 c0,0.4,0,0.9,0.1,1.3c0,0.4,3.1,44.9-29.3,86C339.5,300.8,320.2,335.1,311.6,351.4z\"><\/path><path d=\"M257.8,64.4c-62,0-112.5,50.5-112.5,112.5c0,9.5,7.7,17.2,17.2,17.2s17.2-7.7,17.2-17.2 c0-43.1,35-78.1,78.1-78.1c9.5,0,17.2-7.7,17.2-17.2S267.3,64.4,257.8,64.4z\"><\/path><\/g><\/svg><\/div><span class=\"jig_defbox-header\" style=\"color:#919191\">Beispiele<\/span><\/div>\n<p>Das Johner Institut hat erfahren, dass verschiedene Expertinnen und Experten keine vollst\u00e4ndige Einigung dar\u00fcber erzielen, welche S\u00e4tze bzw. Satzfragmente in regulatorischen Dokumenten Anforderungen formulieren und welche \u201enur\u201c als Erl\u00e4uterung, Begr\u00fcndung oder Beispiel dienen.<\/p>\n\n\n\n<p>Genauso klassifizieren selbst Personen Kundenr\u00fcckmeldungen unterschiedlich, wenn man sie ihnen mehrfach vorlegt.<\/p>\n\n\n\n<p>Auch bei der Frage, welches Element in einer Ursachenkette eine Gef\u00e4hrdung, eine Gef\u00e4hrdungsklasse (z. B. elektrische Energie), eine Gef\u00e4hrdungsursache oder ein \u201eRoot Cause\u201c ist, f\u00fchrt reproduzierbar zu unterschiedlichen Antworten.<\/p>\n<\/div>\n\n\n\n<p><\/p>\n\n\n\n<p>Daher ist es unumg\u00e4nglich, dass ausreichend viele Datens\u00e4tze bereitstehen,<\/p>\n\n\n\n<ul class=\"wp-block-list\">\n<li>die dem LLM als Beispiele zur Verf\u00fcgung gestellt werden (\u2192 n-shot-prompting) und<\/li>\n\n\n\n<li>mit denen die Leistungsf\u00e4higkeit des GPTs bewertet werden kann.<\/li>\n<\/ul>\n\n\n\n<div class=\"jig_defbox\"><div class=\"jig_defbox-definition\"><div class=\"jig_defbox-icon-wrapper\" style=\"fill:#919191\"><svg viewBox=\"0 0 512 512\" width=\"24\" height=\"24\" class=\"dashicons\" aria-hidden=\"true\"><g><path d=\"M430.9,177.6c-0.3-96-78.1-174.1-174-174.9c-0.1,0-0.2,0-0.4,0c-0.2,0-0.4,0-0.5,0c-0.2,0-0.4,0-0.5,0 c-0.1,0-0.2,0-0.4,0c-95.9,0.8-173.7,78.9-174,174.9c-0.4,7.3-1.9,60.3,36.6,109.2c29.5,37.6,49.4,74.7,55,85.9v63.5 c0,0,0,0.1,0,0.1c0,0.5,0,0.9,0.1,1.4c0,0.3,0.1,0.6,0.1,0.9c0,0.1,0,0.2,0,0.2c0.4,2.7,1.4,5.2,3,7.4l33.7,55.1 c3.1,5.1,8.7,8.2,14.7,8.2h61.8c6,0,11.5-3.1,14.7-8.2l33.7-55.1c1.5-2.1,2.6-4.6,3-7.4c0-0.1,0-0.2,0-0.2c0-0.3,0.1-0.6,0.1-0.9 c0-0.5,0.1-0.9,0.1-1.4c0,0,0-0.1,0-0.1v-60.3c1.2-2.4,22.3-45.5,56.7-89.2C432.8,237.8,431.3,184.9,430.9,177.6z M303.3,418.8 h-96.2v-33.1h96.2V418.8z M276.4,475h-42.5l-13.3-21.6h69L276.4,475z M311.6,351.4H200.4c-8.6-16.3-28-50.6-55.7-85.9 c-32-40.6-29.3-85.7-29.3-86c0-0.4,0.1-0.9,0.1-1.3c0-77.6,63-140.8,140.5-141.1c77.5,0.3,140.5,63.5,140.5,141.1 c0,0.4,0,0.9,0.1,1.3c0,0.4,3.1,44.9-29.3,86C339.5,300.8,320.2,335.1,311.6,351.4z\"><\/path><path d=\"M257.8,64.4c-62,0-112.5,50.5-112.5,112.5c0,9.5,7.7,17.2,17.2,17.2s17.2-7.7,17.2-17.2 c0-43.1,35-78.1,78.1-78.1c9.5,0,17.2-7.7,17.2-17.2S267.3,64.4,257.8,64.4z\"><\/path><\/g><\/svg><\/div><span class=\"jig_defbox-header\" style=\"color:#919191\">Beispiel<\/span><\/div>\n<p>Bei einem GPT zur Bewertung von Kundenr\u00fcckmeldungen ist es hilfreich, mehrere Hundert Kundenr\u00fcckmeldungen zu \u201elabeln\u201c. Dazu m\u00fcsste man Datens\u00e4tze sowohl von mehreren Personen als auch mehrfach von einer Person bewerten lassen.<\/p>\n\n\n\n<p>Damit k\u00f6nnen Hersteller<\/p>\n\n\n\n<ul class=\"wp-block-list\">\n<li>die intrapersonelle und interpersonelle Varianz bestimmen (und daraus die Metriken ableiten) sowie<\/li>\n\n\n\n<li>Beispiele f\u00fcr eindeutig kritische und eindeutig unkritische Kundenr\u00fcckmeldungen sowie strittige R\u00fcckmeldungen zusammenstellen.<\/li>\n<\/ul>\n<\/div>\n\n\n\n<p><\/p>\n\n\n\n<h4 class=\"wp-block-heading\">5.3.3 Metriken bestimmen<\/h4>\n\n\n\n<p>Erst wenn diese Beispiele vorliegen, ist es sinnvoll, die Qualit\u00e4tsmetriken zu bestimmen. Die Wahl dieser Metriken h\u00e4ngt stark von der Zweckbestimmung des GPTs ab.<\/p>\n\n\n\n<div class=\"jig_defbox\"><div class=\"jig_defbox-definition\"><div class=\"jig_defbox-icon-wrapper\" style=\"fill:#919191\"><svg viewBox=\"0 0 512 512\" width=\"24\" height=\"24\" class=\"dashicons\" aria-hidden=\"true\"><g><path d=\"M430.9,177.6c-0.3-96-78.1-174.1-174-174.9c-0.1,0-0.2,0-0.4,0c-0.2,0-0.4,0-0.5,0c-0.2,0-0.4,0-0.5,0 c-0.1,0-0.2,0-0.4,0c-95.9,0.8-173.7,78.9-174,174.9c-0.4,7.3-1.9,60.3,36.6,109.2c29.5,37.6,49.4,74.7,55,85.9v63.5 c0,0,0,0.1,0,0.1c0,0.5,0,0.9,0.1,1.4c0,0.3,0.1,0.6,0.1,0.9c0,0.1,0,0.2,0,0.2c0.4,2.7,1.4,5.2,3,7.4l33.7,55.1 c3.1,5.1,8.7,8.2,14.7,8.2h61.8c6,0,11.5-3.1,14.7-8.2l33.7-55.1c1.5-2.1,2.6-4.6,3-7.4c0-0.1,0-0.2,0-0.2c0-0.3,0.1-0.6,0.1-0.9 c0-0.5,0.1-0.9,0.1-1.4c0,0,0-0.1,0-0.1v-60.3c1.2-2.4,22.3-45.5,56.7-89.2C432.8,237.8,431.3,184.9,430.9,177.6z M303.3,418.8 h-96.2v-33.1h96.2V418.8z M276.4,475h-42.5l-13.3-21.6h69L276.4,475z M311.6,351.4H200.4c-8.6-16.3-28-50.6-55.7-85.9 c-32-40.6-29.3-85.7-29.3-86c0-0.4,0.1-0.9,0.1-1.3c0-77.6,63-140.8,140.5-141.1c77.5,0.3,140.5,63.5,140.5,141.1 c0,0.4,0,0.9,0.1,1.3c0,0.4,3.1,44.9-29.3,86C339.5,300.8,320.2,335.1,311.6,351.4z\"><\/path><path d=\"M257.8,64.4c-62,0-112.5,50.5-112.5,112.5c0,9.5,7.7,17.2,17.2,17.2s17.2-7.7,17.2-17.2 c0-43.1,35-78.1,78.1-78.1c9.5,0,17.2-7.7,17.2-17.2S267.3,64.4,257.8,64.4z\"><\/path><\/g><\/svg><\/div><span class=\"jig_defbox-header\" style=\"color:#919191\">Beispiel<\/span><\/div>\n<p>Bei einem GPT, das sicherheitsrelevante Informationen in Kundenr\u00fcckmeldungen identifiziert, ist die Genauigkeit (Accuracy, Prozentsatz richtig klassifizierter Kundenr\u00fcckmeldungen) <strong>nicht<\/strong> das geeignete Ma\u00df. Vielmehr bietet sich hier die Sensitivit\u00e4t an.<\/p>\n<\/div>\n\n\n\n<p><\/p>\n\n\n\n<h4 class=\"wp-block-heading\">5.3.4 \u00dcberpr\u00fcfung nicht auf Metriken beschr\u00e4nken<\/h4>\n\n\n\n<p>Abh\u00e4ngig von der Aufgabe sollten sich Hersteller bei der Pr\u00fcfung nicht auf die Einhaltung der Metriken beschr\u00e4nken. Sie w\u00fcrden damit nur \u201eden Mittelwert\u201c pr\u00fcfen. Daher sind andere Messgr\u00f6\u00dfen und Untersuchungen zu empfehlen:<\/p>\n\n\n\n<ul class=\"wp-block-list\">\n<li>Bestimmung des \u201eConfidence Intervals\u201c f\u00fcr jede Metrik<\/li>\n\n\n\n<li>Untersuchung, wie stark die Leistungsf\u00e4higkeit von einzelnen \u201eFeatures\u201c abh\u00e4ngt. Dabei k\u00f6nnen \u201ePartial Dependency Plots\u201c oder \u201eFeature Important Plots\u201c hilfreich sein.<\/li>\n\n\n\n<li>Auch die klassischen <a href=\"https:\/\/www.johner-institut.de\/blog\/iec-62304-medizinische-software\/iso-9126-und-iso-25010\/\">Software-Qualit\u00e4tseigenschaften gem\u00e4\u00df ISO 25010<\/a> sollten die Hersteller beachten, etwa Robustheit, Performanz und IT-Sicherheit.<\/li>\n<\/ul>\n\n\n\n<div class=\"jig_defbox\"><div class=\"jig_defbox-definition\"><div class=\"jig_defbox-icon-wrapper\" style=\"fill:#919191\"><svg viewBox=\"0 0 512 512\" width=\"24\" height=\"24\" class=\"dashicons\" aria-hidden=\"true\"><g><path d=\"M430.9,177.6c-0.3-96-78.1-174.1-174-174.9c-0.1,0-0.2,0-0.4,0c-0.2,0-0.4,0-0.5,0c-0.2,0-0.4,0-0.5,0 c-0.1,0-0.2,0-0.4,0c-95.9,0.8-173.7,78.9-174,174.9c-0.4,7.3-1.9,60.3,36.6,109.2c29.5,37.6,49.4,74.7,55,85.9v63.5 c0,0,0,0.1,0,0.1c0,0.5,0,0.9,0.1,1.4c0,0.3,0.1,0.6,0.1,0.9c0,0.1,0,0.2,0,0.2c0.4,2.7,1.4,5.2,3,7.4l33.7,55.1 c3.1,5.1,8.7,8.2,14.7,8.2h61.8c6,0,11.5-3.1,14.7-8.2l33.7-55.1c1.5-2.1,2.6-4.6,3-7.4c0-0.1,0-0.2,0-0.2c0-0.3,0.1-0.6,0.1-0.9 c0-0.5,0.1-0.9,0.1-1.4c0,0,0-0.1,0-0.1v-60.3c1.2-2.4,22.3-45.5,56.7-89.2C432.8,237.8,431.3,184.9,430.9,177.6z M303.3,418.8 h-96.2v-33.1h96.2V418.8z M276.4,475h-42.5l-13.3-21.6h69L276.4,475z M311.6,351.4H200.4c-8.6-16.3-28-50.6-55.7-85.9 c-32-40.6-29.3-85.7-29.3-86c0-0.4,0.1-0.9,0.1-1.3c0-77.6,63-140.8,140.5-141.1c77.5,0.3,140.5,63.5,140.5,141.1 c0,0.4,0,0.9,0.1,1.3c0,0.4,3.1,44.9-29.3,86C339.5,300.8,320.2,335.1,311.6,351.4z\"><\/path><path d=\"M257.8,64.4c-62,0-112.5,50.5-112.5,112.5c0,9.5,7.7,17.2,17.2,17.2s17.2-7.7,17.2-17.2 c0-43.1,35-78.1,78.1-78.1c9.5,0,17.2-7.7,17.2-17.2S267.3,64.4,257.8,64.4z\"><\/path><\/g><\/svg><\/div><span class=\"jig_defbox-header\" style=\"color:#919191\">Beispiel<\/span><\/div>\n<p>Bei einem GPT, das sicherheitsrelevante Informationen in Kundenr\u00fcckmeldungen identifiziert, k\u00f6nnte solch eine Analyse ergeben, dass die Wahrscheinlichkeit, eine kritische Meldung zu bekommen, vom Krankenhaus, vom Produkt, vom Zeitpunkt (z. B. kurz nach Service) oder von der Sprache oder der L\u00e4nge der R\u00fcckmeldung abh\u00e4ngt.<\/p>\n\n\n\n<p>Davon abh\u00e4ngig w\u00fcrde der Hersteller Informationen \u00fcber die Sicherheit seines Produkts (z. B. Zeitpunkt) oder Leistungsf\u00e4higkeit seines GPTs (z. B. Sprache oder L\u00e4nge der R\u00fcckmeldung) erhalten.<\/p>\n<\/div>\n\n\n\n<p><\/p>\n\n\n\n<h4 class=\"wp-block-heading\">5.3.5 Dokumentenlenkung sicherstellen<\/h4>\n\n\n\n<p>Die Lenkung des GPTs stellt eine Voraussetzung f\u00fcr dessen normenkonforme Validierung dar. Diese Lenkung setzt voraus:<\/p>\n\n\n\n<ul class=\"wp-block-list\">\n<li>Der Hersteller hat beschrieben, was das GPT und dessen Zweckbestimmung ist (siehe auch 5.3.1).<\/li>\n\n\n\n<li>Diese Elemente des GPTs (Prompts, RAG-Dokumente, Modell, Modellparameter \u2026) sind unter Versionskontrolle oder zumindest pro Version dokumentiert.<\/li>\n\n\n\n<li>\u00c4nderungen an diesen Elementen werden dokumentiert, gepr\u00fcft und freigegeben.<\/li>\n<\/ul>\n\n\n\n<p>Die Validierungsdokumentation unterliegt ebenfalls der <a href=\"https:\/\/www.johner-institut.de\/blog\/qualitaetsmanagement-iso-13485\/dokumentenlenkung\/\">Dokumentenlenkung<\/a>. Das reicht von den Systemanforderungen \u00fcber die Bewertung\/Klassifizierung des Systems und die Pr\u00fcfpl\u00e4ne bis zu den Testergebnissen und den Testberichten.<\/p>\n\n\n\n<div class=\"jig_defbox\"><div class=\"jig_defbox-definition\"><div class=\"jig_defbox-icon-wrapper\" style=\"fill:#919191\"><svg viewBox=\"0 0 512 512\" width=\"24\" height=\"24\" class=\"dashicons\" aria-hidden=\"true\"><g><path d=\"M430.9,177.6c-0.3-96-78.1-174.1-174-174.9c-0.1,0-0.2,0-0.4,0c-0.2,0-0.4,0-0.5,0c-0.2,0-0.4,0-0.5,0 c-0.1,0-0.2,0-0.4,0c-95.9,0.8-173.7,78.9-174,174.9c-0.4,7.3-1.9,60.3,36.6,109.2c29.5,37.6,49.4,74.7,55,85.9v63.5 c0,0,0,0.1,0,0.1c0,0.5,0,0.9,0.1,1.4c0,0.3,0.1,0.6,0.1,0.9c0,0.1,0,0.2,0,0.2c0.4,2.7,1.4,5.2,3,7.4l33.7,55.1 c3.1,5.1,8.7,8.2,14.7,8.2h61.8c6,0,11.5-3.1,14.7-8.2l33.7-55.1c1.5-2.1,2.6-4.6,3-7.4c0-0.1,0-0.2,0-0.2c0-0.3,0.1-0.6,0.1-0.9 c0-0.5,0.1-0.9,0.1-1.4c0,0,0-0.1,0-0.1v-60.3c1.2-2.4,22.3-45.5,56.7-89.2C432.8,237.8,431.3,184.9,430.9,177.6z M303.3,418.8 h-96.2v-33.1h96.2V418.8z M276.4,475h-42.5l-13.3-21.6h69L276.4,475z M311.6,351.4H200.4c-8.6-16.3-28-50.6-55.7-85.9 c-32-40.6-29.3-85.7-29.3-86c0-0.4,0.1-0.9,0.1-1.3c0-77.6,63-140.8,140.5-141.1c77.5,0.3,140.5,63.5,140.5,141.1 c0,0.4,0,0.9,0.1,1.3c0,0.4,3.1,44.9-29.3,86C339.5,300.8,320.2,335.1,311.6,351.4z\"><\/path><path d=\"M257.8,64.4c-62,0-112.5,50.5-112.5,112.5c0,9.5,7.7,17.2,17.2,17.2s17.2-7.7,17.2-17.2 c0-43.1,35-78.1,78.1-78.1c9.5,0,17.2-7.7,17.2-17.2S267.3,64.4,257.8,64.4z\"><\/path><\/g><\/svg><\/div><span class=\"jig_defbox-header\" style=\"color:#919191\">Hinweis<\/span><\/div>\n<p>F\u00fcr die Inventarisierung von Systemen und deren Validierungsst\u00e4nden bieten sich <a href=\"https:\/\/en.wikipedia.org\/wiki\/Configuration_management_database\">Configuration Management Databases (CMDB)<\/a> an.<\/p>\n<\/div>\n\n\n\n<h2 class=\"wp-block-heading\">6. FAQ<\/h2>\n\n\n\n<p>Dieses Kapitel ist Work in Progress. Das Johner Institut erg\u00e4nzt bei Bedarf weitere Fragen und Antworten.<\/p>\n\n\n\n<h3 class=\"wp-block-heading\">6.1 Wie geht man damit um, dass Systeme nicht deterministisch sind?<\/h3>\n\n\n\n<p>Wie oben ausgef\u00fchrt, gilt es, den Stand der Technik zu erreichen. Weder bei einem einzelnen bzw. bei mehreren Menschen w\u00fcrde man erwarten:<\/p>\n\n\n\n<ul class=\"wp-block-list\">\n<li>Uneingeschr\u00e4nkte Reproduzierbarkeit<\/li>\n\n\n\n<li>Absolute Vollst\u00e4ndigkeit<\/li>\n\n\n\n<li>Hundertprozentige Korrektheit<\/li>\n<\/ul>\n\n\n\n<p>Den Grad der menschlichen Reproduzierbarkeit, Vollst\u00e4ndigkeit und Korrektheit sollten Hersteller bestimmen und \u00fcber ihr GPT erreichen; zumindest, wenn der Mensch den Stand der Technik bildet. Andernfalls w\u00fcrden Hersteller die Risiken erh\u00f6hen, was gem\u00e4\u00df ISO 14971 sowie MDR bzw. IVDR nicht erlaubt ist.<\/p>\n\n\n\n<p>Falls Maschinen (z. B. \u201eklassische Software\u201c) den Stand der Technik bilden, die vollst\u00e4ndig reproduzierbar sowie vollst\u00e4ndig korrekt arbeiten, w\u00e4ren nichtdeterministische Ergebnisse nicht hinnehmbar.<\/p>\n\n\n\n<p>Diese Aussagen sind aber nur dann relevant, wenn das GPT validierungspflichtig ist.<\/p>\n\n\n\n<div class=\"jig_defbox\"><div class=\"jig_defbox-definition\"><div class=\"jig_defbox-icon-wrapper\" style=\"fill:#919191\"><svg viewBox=\"0 0 512 512\" width=\"24\" height=\"24\" class=\"dashicons\" aria-hidden=\"true\"><g><path d=\"M430.9,177.6c-0.3-96-78.1-174.1-174-174.9c-0.1,0-0.2,0-0.4,0c-0.2,0-0.4,0-0.5,0c-0.2,0-0.4,0-0.5,0 c-0.1,0-0.2,0-0.4,0c-95.9,0.8-173.7,78.9-174,174.9c-0.4,7.3-1.9,60.3,36.6,109.2c29.5,37.6,49.4,74.7,55,85.9v63.5 c0,0,0,0.1,0,0.1c0,0.5,0,0.9,0.1,1.4c0,0.3,0.1,0.6,0.1,0.9c0,0.1,0,0.2,0,0.2c0.4,2.7,1.4,5.2,3,7.4l33.7,55.1 c3.1,5.1,8.7,8.2,14.7,8.2h61.8c6,0,11.5-3.1,14.7-8.2l33.7-55.1c1.5-2.1,2.6-4.6,3-7.4c0-0.1,0-0.2,0-0.2c0-0.3,0.1-0.6,0.1-0.9 c0-0.5,0.1-0.9,0.1-1.4c0,0,0-0.1,0-0.1v-60.3c1.2-2.4,22.3-45.5,56.7-89.2C432.8,237.8,431.3,184.9,430.9,177.6z M303.3,418.8 h-96.2v-33.1h96.2V418.8z M276.4,475h-42.5l-13.3-21.6h69L276.4,475z M311.6,351.4H200.4c-8.6-16.3-28-50.6-55.7-85.9 c-32-40.6-29.3-85.7-29.3-86c0-0.4,0.1-0.9,0.1-1.3c0-77.6,63-140.8,140.5-141.1c77.5,0.3,140.5,63.5,140.5,141.1 c0,0.4,0,0.9,0.1,1.3c0,0.4,3.1,44.9-29.3,86C339.5,300.8,320.2,335.1,311.6,351.4z\"><\/path><path d=\"M257.8,64.4c-62,0-112.5,50.5-112.5,112.5c0,9.5,7.7,17.2,17.2,17.2s17.2-7.7,17.2-17.2 c0-43.1,35-78.1,78.1-78.1c9.5,0,17.2-7.7,17.2-17.2S267.3,64.4,257.8,64.4z\"><\/path><\/g><\/svg><\/div><span class=\"jig_defbox-header\" style=\"color:#919191\">Hinweis<\/span><\/div>\n<p>\u00dcber Modellparameter l\u00e4sst sich ein GPT ausreichend deterministisch gestalten. Das ist aber weder grunds\u00e4tzlich verlangt noch sinnvoll.<\/p>\n<\/div>\n\n\n\n<p><\/p>\n\n\n\n<h3 class=\"wp-block-heading\">6.2 Wo soll ich starten?<\/h3>\n\n\n\n<p>Starten Sie damit, Ihre GPTs zu inventarisieren, beispielsweise anhand der folgenden Attribute:<\/p>\n\n\n\n<ul class=\"wp-block-list\">\n<li>Name, ID des Systems<\/li>\n\n\n\n<li>Zweckbestimmung<\/li>\n\n\n\n<li>Prozess(e), in denen es zum Einsatz kommt<\/li>\n\n\n\n<li>Validierungspflicht<\/li>\n\n\n\n<li>Risiken<\/li>\n\n\n\n<li>Stand der Technik (n\u00e4chstbeste Alternative)<\/li>\n<\/ul>\n\n\n\n<p>Pr\u00fcfen Sie dann Ihre SOP f\u00fcr die CSV daraufhin, ob sie auch f\u00fcr LLM-basierte Systeme geeignet ist. Bei Bedarf passen Sie sie an.<\/p>\n\n\n\n<p>Anschlie\u00dfend erstellen Sie f\u00fcr das GPT mit dem h\u00f6chsten Risiko den ersten Validierungsplan.<\/p>\n\n\n\n<p>Falls Sie bei einem der Schritte h\u00e4ngenbleiben oder diese Aufgaben abgeben wollen, dann <a href=\"https:\/\/www.johner-institut.de\/kontakt\">melden Sie sich bei uns<\/a>.<\/p>\n\n\n\n<h2 class=\"wp-block-heading\">7. Fazit und Zusammenfassung<\/h2>\n\n\n\n<p>GPTs wie ChatGPT helfen den Herstellern von Medizinprodukten, effizienter und produktiver zu arbeiten und damit ihre Wettbewerbsf\u00e4higkeit zu verbessern. Deshalb sollten sie diese neuen technischen M\u00f6glichkeiten nutzen.<\/p>\n\n\n\n<p>Allerdings d\u00fcrfen sie sich nicht im rechtsfreien Raum bewegen. Aussagen wie <em>\u201eDie GPTs lassen sich ohnehin nicht validieren, daher muss ich das nicht tun\u201c<\/em> sind ebenso falsch wie irref\u00fchrend.<\/p>\n\n\n\n<p>GPTs sind validierbar, auch wenn die Validierung einige Besonderheiten aufweist. Davon abgesehen gelten die Best Practices der <a href=\"https:\/\/www.johner-institut.de\/blog\/regulatory-affairs\/computer-system-validation-csv\/\">Computerized Systems Validation<\/a>.<\/p>\n\n\n\n<p>Hersteller, Beh\u00f6rden und Benannte Stellen sollten die Validierungskirche im Dorf belassen und nichts einfordern, was man von Menschen bzw. konventionellen Systemen nicht auch verlangen w\u00fcrde. Es gibt einen Stand der Technik.<\/p>\n\n\n\n<p>Sie m\u00fcssen bei vielen Anwendungsf\u00e4llen ihr ChatGPT validieren. Gehen Sie davon aus, dass Ihre Beh\u00f6rde oder Benannte Stelle das im n\u00e4chsten Audit thematisiert.<\/p>\n\n\n\n<div class=\"jig_defbox\"><div class=\"jig_defbox-definition\"><div class=\"jig_defbox-icon-wrapper\" style=\"fill:#919191\"><svg viewBox=\"0 0 50 50\" width=\"24\" height=\"24\" class=\"dashicons\" aria-hidden=\"true\"><rect width=\"10.16\" height=\"10.27\"><\/rect><rect y=\"13.24\" width=\"10.16\" height=\"10.27\"><\/rect><rect y=\"26.49\" width=\"10.16\" height=\"10.27\"><\/rect><rect x=\"13.15\" y=\"13.24\" width=\"10.16\" height=\"10.27\"><\/rect><rect x=\"13.15\" y=\"26.49\" width=\"10.16\" height=\"10.27\"><\/rect><rect x=\"13.15\" y=\"39.73\" width=\"10.16\" height=\"10.27\"><\/rect><\/svg><\/div><span class=\"jig_defbox-header\" style=\"color:#919191\">Unterst\u00fctzung durch das Johner Institut<\/span><\/div>\n<p>Das Johner Institut unterst\u00fctzt Hersteller von Medizinprodukten und IVD dabei,<\/p>\n\n\n\n<ul class=\"wp-block-list\">\n<li>\u00fcber die Validierungspflicht der GPTs zu entscheiden,<\/li>\n\n\n\n<li>Vorgabedokumente wie SOPs, Arbeitsanweisungen und Templates zu erstellen,<\/li>\n\n\n\n<li>GPTs normen- und gesetzeskonform zu validieren,<\/li>\n\n\n\n<li>daf\u00fcr die passenden Methoden, Metriken und Werkzeuge auszuw\u00e4hlen und die GPTs sogar zu verbessern und<\/li>\n\n\n\n<li>die Aufw\u00e4nde f\u00fcr all das zu minimieren.<\/li>\n<\/ul>\n\n\n\n<p><a href=\"https:\/\/www.johner-institut.de\/kontakt\/\">Melden Sie sich<\/a>, unabh\u00e4ngig davon, ob Sie nur Anregungen w\u00fcnschen oder das Thema komplett abgeben wollen.<\/p>\n<\/div>\n\n\n\n<p><\/p>\n","protected":false},"excerpt":{"rendered":"<p>M\u00fcssen Medizinproduktehersteller eine KI wie ChatGPT validieren, die sie bei der Entwicklung, Produktion, Zulassung und \u00dcberwachung ihrer Produkte einsetzen? Falls ja, wie soll das gelingen mit Modellen, die nichtdeterministische Ergebnisse liefern? Antworten darauf und auf die Frage, was Ihre Auditoren erwarten (sollten), gibt dieser Fachartikel.<\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"open","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"jetpack_post_was_ever_published":false,"_jetpack_newsletter_access":"","_jetpack_dont_email_post_to_subs":false,"_jetpack_newsletter_tier_id":0,"_jetpack_memberships_contains_paywalled_content":false,"_jetpack_memberships_contains_paid_content":false,"footnotes":"","jetpack_publicize_message":"","jetpack_publicize_feature_enabled":true,"jetpack_social_post_already_shared":false,"jetpack_social_options":{"image_generator_settings":{"template":"highway","default_image_id":0,"font":"","enabled":false},"version":2}},"categories":[1108],"tags":[1180,1188,1271,1189],"ppma_author":[1210,1277],"class_list":["post-5381962","post","type-post","status-publish","format-standard","hentry","category-regulatory-affairs","tag-mdr","tag-fda","tag-kuenstliche-intelligenz","tag-prozesse-verfahren","category-1108","description-off"],"yoast_head":"<!-- This site is optimized with the Yoast SEO plugin v27.3 - https:\/\/yoast.com\/product\/yoast-seo-wordpress\/ -->\n<title>ChatGPT validieren: Medizinproduktehersteller aufgepasst!<\/title>\n<meta name=\"description\" content=\"ChatGPT validieren? Wann Medizinproduktehersteller dazu verpflichtet sind und wie sie vorgehen, beschreibt dieser Artikel.\" \/>\n<meta name=\"robots\" content=\"index, follow, max-snippet:-1, max-image-preview:large, max-video-preview:-1\" \/>\n<link rel=\"canonical\" href=\"https:\/\/www.johner-institut.de\/blog\/regulatory-affairs\/chatgpt-validieren-medizinprodukte\/\" \/>\n<meta property=\"og:locale\" content=\"de_DE\" \/>\n<meta property=\"og:type\" content=\"article\" \/>\n<meta property=\"og:title\" content=\"ChatGPT validieren: Medizinproduktehersteller aufgepasst!\" \/>\n<meta property=\"og:description\" content=\"ChatGPT validieren? Wann Medizinproduktehersteller dazu verpflichtet sind und wie sie vorgehen, beschreibt dieser Artikel.\" \/>\n<meta property=\"og:url\" content=\"https:\/\/www.johner-institut.de\/blog\/regulatory-affairs\/chatgpt-validieren-medizinprodukte\/\" \/>\n<meta property=\"og:site_name\" content=\"Regulatorisches Wissen f\u00fcr Medizinprodukte\" \/>\n<meta property=\"article:publisher\" content=\"https:\/\/www.facebook.com\/JohnerInstitut\/\" \/>\n<meta property=\"article:published_time\" content=\"2025-10-28T07:17:00+00:00\" \/>\n<meta property=\"article:modified_time\" content=\"2025-11-03T07:35:03+00:00\" \/>\n<meta property=\"og:image\" content=\"https:\/\/www.johner-institut.de\/blog\/wp-content\/uploads\/2025\/10\/gpt-validieren-system-delineation.png\" \/>\n\t<meta property=\"og:image:width\" content=\"1200\" \/>\n\t<meta property=\"og:image:height\" content=\"939\" \/>\n\t<meta property=\"og:image:type\" content=\"image\/png\" \/>\n<meta name=\"author\" content=\"Prof. Dr. Christian Johner, Dr. Daniel M\u00f6lle\" \/>\n<meta name=\"twitter:label1\" content=\"Verfasst von\" \/>\n\t<meta name=\"twitter:data1\" content=\"Prof. Dr. Christian Johner\" \/>\n\t<meta name=\"twitter:label2\" content=\"Gesch\u00e4tzte Lesezeit\" \/>\n\t<meta name=\"twitter:data2\" content=\"20\u00a0Minuten\" \/>\n<script type=\"application\/ld+json\" class=\"yoast-schema-graph\">{\"@context\":\"https:\\\/\\\/schema.org\",\"@graph\":[{\"@type\":\"Article\",\"@id\":\"https:\\\/\\\/www.johner-institut.de\\\/blog\\\/regulatory-affairs\\\/chatgpt-validieren-medizinprodukte\\\/#article\",\"isPartOf\":{\"@id\":\"https:\\\/\\\/www.johner-institut.de\\\/blog\\\/regulatory-affairs\\\/chatgpt-validieren-medizinprodukte\\\/\"},\"author\":{\"name\":\"Prof. Dr. Christian Johner\",\"@id\":\"https:\\\/\\\/www.johner-institut.de\\\/blog\\\/#\\\/schema\\\/person\\\/77ee54cd54e987c0b5738d4cb4c80441\"},\"headline\":\"ChatGPT validieren: Was Medizinprodukte-Hersteller beachten m\u00fcssen\",\"datePublished\":\"2025-10-28T07:17:00+00:00\",\"dateModified\":\"2025-11-03T07:35:03+00:00\",\"mainEntityOfPage\":{\"@id\":\"https:\\\/\\\/www.johner-institut.de\\\/blog\\\/regulatory-affairs\\\/chatgpt-validieren-medizinprodukte\\\/\"},\"wordCount\":3629,\"commentCount\":4,\"publisher\":{\"@id\":\"https:\\\/\\\/www.johner-institut.de\\\/blog\\\/#organization\"},\"image\":{\"@id\":\"https:\\\/\\\/www.johner-institut.de\\\/blog\\\/regulatory-affairs\\\/chatgpt-validieren-medizinprodukte\\\/#primaryimage\"},\"thumbnailUrl\":\"https:\\\/\\\/www.johner-institut.de\\\/blog\\\/wp-content\\\/uploads\\\/2025\\\/10\\\/gpt-validieren-system-delineation-1024x801.png\",\"keywords\":[\"EU Medical Device Regulation MDR (2017\\\/745)\",\"FDA - Medizinprodukte in den USA\",\"K\u00fcnstliche Intelligenz\",\"Prozesse und Verfahren\"],\"articleSection\":[\"Regulatory Affairs: Regulatorische Anforderungen an Medizinprodukte\"],\"inLanguage\":\"de\",\"potentialAction\":[{\"@type\":\"CommentAction\",\"name\":\"Comment\",\"target\":[\"https:\\\/\\\/www.johner-institut.de\\\/blog\\\/regulatory-affairs\\\/chatgpt-validieren-medizinprodukte\\\/#respond\"]}]},{\"@type\":\"WebPage\",\"@id\":\"https:\\\/\\\/www.johner-institut.de\\\/blog\\\/regulatory-affairs\\\/chatgpt-validieren-medizinprodukte\\\/\",\"url\":\"https:\\\/\\\/www.johner-institut.de\\\/blog\\\/regulatory-affairs\\\/chatgpt-validieren-medizinprodukte\\\/\",\"name\":\"ChatGPT validieren: Medizinproduktehersteller aufgepasst!\",\"isPartOf\":{\"@id\":\"https:\\\/\\\/www.johner-institut.de\\\/blog\\\/#website\"},\"primaryImageOfPage\":{\"@id\":\"https:\\\/\\\/www.johner-institut.de\\\/blog\\\/regulatory-affairs\\\/chatgpt-validieren-medizinprodukte\\\/#primaryimage\"},\"image\":{\"@id\":\"https:\\\/\\\/www.johner-institut.de\\\/blog\\\/regulatory-affairs\\\/chatgpt-validieren-medizinprodukte\\\/#primaryimage\"},\"thumbnailUrl\":\"https:\\\/\\\/www.johner-institut.de\\\/blog\\\/wp-content\\\/uploads\\\/2025\\\/10\\\/gpt-validieren-system-delineation-1024x801.png\",\"datePublished\":\"2025-10-28T07:17:00+00:00\",\"dateModified\":\"2025-11-03T07:35:03+00:00\",\"description\":\"ChatGPT validieren? Wann Medizinproduktehersteller dazu verpflichtet sind und wie sie vorgehen, beschreibt dieser Artikel.\",\"breadcrumb\":{\"@id\":\"https:\\\/\\\/www.johner-institut.de\\\/blog\\\/regulatory-affairs\\\/chatgpt-validieren-medizinprodukte\\\/#breadcrumb\"},\"inLanguage\":\"de\",\"potentialAction\":[{\"@type\":\"ReadAction\",\"target\":[\"https:\\\/\\\/www.johner-institut.de\\\/blog\\\/regulatory-affairs\\\/chatgpt-validieren-medizinprodukte\\\/\"]}]},{\"@type\":\"ImageObject\",\"inLanguage\":\"de\",\"@id\":\"https:\\\/\\\/www.johner-institut.de\\\/blog\\\/regulatory-affairs\\\/chatgpt-validieren-medizinprodukte\\\/#primaryimage\",\"url\":\"https:\\\/\\\/www.johner-institut.de\\\/blog\\\/wp-content\\\/uploads\\\/2025\\\/10\\\/gpt-validieren-system-delineation.png\",\"contentUrl\":\"https:\\\/\\\/www.johner-institut.de\\\/blog\\\/wp-content\\\/uploads\\\/2025\\\/10\\\/gpt-validieren-system-delineation.png\",\"width\":1200,\"height\":939},{\"@type\":\"BreadcrumbList\",\"@id\":\"https:\\\/\\\/www.johner-institut.de\\\/blog\\\/regulatory-affairs\\\/chatgpt-validieren-medizinprodukte\\\/#breadcrumb\",\"itemListElement\":[{\"@type\":\"ListItem\",\"position\":1,\"name\":\"Blog\",\"item\":\"https:\\\/\\\/www.johner-institut.de\\\/blog\\\/\"},{\"@type\":\"ListItem\",\"position\":2,\"name\":\"Regulatory Affairs: Regulatorische Anforderungen an Medizinprodukte\",\"item\":\"https:\\\/\\\/www.johner-institut.de\\\/blog\\\/category\\\/regulatory-affairs\\\/\"},{\"@type\":\"ListItem\",\"position\":3,\"name\":\"ChatGPT validieren: Was Medizinprodukte-Hersteller beachten m\u00fcssen\"}]},{\"@type\":\"WebSite\",\"@id\":\"https:\\\/\\\/www.johner-institut.de\\\/blog\\\/#website\",\"url\":\"https:\\\/\\\/www.johner-institut.de\\\/blog\\\/\",\"name\":\"Regulatorisches Wissen f\u00fcr Medizinprodukte\",\"description\":\"Fachartikel zur Entwicklung und Zulassung von Medizinprodukten und weiteren regulatorischen Themen\",\"publisher\":{\"@id\":\"https:\\\/\\\/www.johner-institut.de\\\/blog\\\/#organization\"},\"potentialAction\":[{\"@type\":\"SearchAction\",\"target\":{\"@type\":\"EntryPoint\",\"urlTemplate\":\"https:\\\/\\\/www.johner-institut.de\\\/blog\\\/?s={search_term_string}\"},\"query-input\":{\"@type\":\"PropertyValueSpecification\",\"valueRequired\":true,\"valueName\":\"search_term_string\"}}],\"inLanguage\":\"de\"},{\"@type\":\"Organization\",\"@id\":\"https:\\\/\\\/www.johner-institut.de\\\/blog\\\/#organization\",\"name\":\"Johner Institut GmbH\",\"url\":\"https:\\\/\\\/www.johner-institut.de\\\/blog\\\/\",\"logo\":{\"@type\":\"ImageObject\",\"inLanguage\":\"de\",\"@id\":\"https:\\\/\\\/www.johner-institut.de\\\/blog\\\/#\\\/schema\\\/logo\\\/image\\\/\",\"url\":\"https:\\\/\\\/www.johner-institut.de\\\/blog\\\/wp-content\\\/uploads\\\/2015\\\/07\\\/Johner-Institut.png\",\"contentUrl\":\"https:\\\/\\\/www.johner-institut.de\\\/blog\\\/wp-content\\\/uploads\\\/2015\\\/07\\\/Johner-Institut.png\",\"width\":1213,\"height\":286,\"caption\":\"Johner Institut GmbH\"},\"image\":{\"@id\":\"https:\\\/\\\/www.johner-institut.de\\\/blog\\\/#\\\/schema\\\/logo\\\/image\\\/\"},\"sameAs\":[\"https:\\\/\\\/www.facebook.com\\\/JohnerInstitut\\\/\",\"https:\\\/\\\/x.com\\\/christianjohner\",\"https:\\\/\\\/www.youtube.com\\\/user\\\/JohnerInstitut\"]},{\"@type\":\"Person\",\"@id\":\"https:\\\/\\\/www.johner-institut.de\\\/blog\\\/#\\\/schema\\\/person\\\/77ee54cd54e987c0b5738d4cb4c80441\",\"name\":\"Prof. Dr. Christian Johner\",\"image\":{\"@type\":\"ImageObject\",\"inLanguage\":\"de\",\"@id\":\"https:\\\/\\\/www.johner-institut.de\\\/blog\\\/wp-content\\\/uploads\\\/2023\\\/05\\\/Christian_Johner.jpgab057afc2debeb41aaf55cce7e79e618\",\"url\":\"https:\\\/\\\/www.johner-institut.de\\\/blog\\\/wp-content\\\/uploads\\\/2023\\\/05\\\/Christian_Johner.jpg\",\"contentUrl\":\"https:\\\/\\\/www.johner-institut.de\\\/blog\\\/wp-content\\\/uploads\\\/2023\\\/05\\\/Christian_Johner.jpg\",\"caption\":\"Prof. Dr. Christian Johner\"},\"description\":\"Professor Johner ist Experte f\u00fcr die Entwicklung und Zulassung von Medizinprodukten, die Software enthalten oder Software sind. Als Auditor, als Mitglied eines Normen-Komitees, als Ausbilder benannter Stellen sowie als Autor mehrerer B\u00fccher und Leitf\u00e4den tr\u00e4gt der promovierte Physiker zur Weiterentwicklung der regulatorischen Landschaft bei. Davon zeugen auch Leitf\u00e4den, die er f\u00fcr die WHO und die Benannten Stellen entwickelt hat. Sein Unternehmen, das Johner Institut, unterst\u00fctzt Medizinproduktehersteller weltweit beim Aufbau von QM-Systemen, bei der Zulassung und Pr\u00fcfung ihrer Produkte sowie bei der digitalen Transformation regulatorischer Prozesse. Es bietet Weiterbildungen wie E-Learning und Seminare an und \u00fcbernimmt f\u00fcr Hersteller Prozesse wie die \u00dcberwachung der Regularien und der Produkte im Markt. Christian Johner lehrte an mehreren Universit\u00e4ten u.a. an der Hochschule Konstanz, der Universit\u00e4t St. Gallen, der Universit\u00e4t W\u00fcrzburg sowie der Stanford University v.a. Software-Architektur, Software-Qualit\u00e4tssicherung und medizinische Informatik.\",\"sameAs\":[\"https:\\\/\\\/www.linkedin.com\\\/in\\\/christianjohner\\\/\",\"https:\\\/\\\/x.com\\\/christianjohner\"],\"url\":\"https:\\\/\\\/www.johner-institut.de\\\/blog\\\/author\\\/christian\\\/\"}]}<\/script>\n<meta name=\"copyright\" content=\"Johner Institut GmbH\" \/>\n<!-- \/ Yoast SEO plugin. -->","yoast_head_json":{"title":"ChatGPT validieren: Medizinproduktehersteller aufgepasst!","description":"ChatGPT validieren? Wann Medizinproduktehersteller dazu verpflichtet sind und wie sie vorgehen, beschreibt dieser Artikel.","robots":{"index":"index","follow":"follow","max-snippet":"max-snippet:-1","max-image-preview":"max-image-preview:large","max-video-preview":"max-video-preview:-1"},"canonical":"https:\/\/www.johner-institut.de\/blog\/regulatory-affairs\/chatgpt-validieren-medizinprodukte\/","og_locale":"de_DE","og_type":"article","og_title":"ChatGPT validieren: Medizinproduktehersteller aufgepasst!","og_description":"ChatGPT validieren? Wann Medizinproduktehersteller dazu verpflichtet sind und wie sie vorgehen, beschreibt dieser Artikel.","og_url":"https:\/\/www.johner-institut.de\/blog\/regulatory-affairs\/chatgpt-validieren-medizinprodukte\/","og_site_name":"Regulatorisches Wissen f\u00fcr Medizinprodukte","article_publisher":"https:\/\/www.facebook.com\/JohnerInstitut\/","article_published_time":"2025-10-28T07:17:00+00:00","article_modified_time":"2025-11-03T07:35:03+00:00","og_image":[{"width":1200,"height":939,"url":"https:\/\/www.johner-institut.de\/blog\/wp-content\/uploads\/2025\/10\/gpt-validieren-system-delineation.png","type":"image\/png"}],"author":"Prof. Dr. Christian Johner, Dr. Daniel M\u00f6lle","twitter_misc":{"Verfasst von":"Prof. Dr. Christian Johner","Gesch\u00e4tzte Lesezeit":"20\u00a0Minuten"},"schema":{"@context":"https:\/\/schema.org","@graph":[{"@type":"Article","@id":"https:\/\/www.johner-institut.de\/blog\/regulatory-affairs\/chatgpt-validieren-medizinprodukte\/#article","isPartOf":{"@id":"https:\/\/www.johner-institut.de\/blog\/regulatory-affairs\/chatgpt-validieren-medizinprodukte\/"},"author":{"name":"Prof. Dr. Christian Johner","@id":"https:\/\/www.johner-institut.de\/blog\/#\/schema\/person\/77ee54cd54e987c0b5738d4cb4c80441"},"headline":"ChatGPT validieren: Was Medizinprodukte-Hersteller beachten m\u00fcssen","datePublished":"2025-10-28T07:17:00+00:00","dateModified":"2025-11-03T07:35:03+00:00","mainEntityOfPage":{"@id":"https:\/\/www.johner-institut.de\/blog\/regulatory-affairs\/chatgpt-validieren-medizinprodukte\/"},"wordCount":3629,"commentCount":4,"publisher":{"@id":"https:\/\/www.johner-institut.de\/blog\/#organization"},"image":{"@id":"https:\/\/www.johner-institut.de\/blog\/regulatory-affairs\/chatgpt-validieren-medizinprodukte\/#primaryimage"},"thumbnailUrl":"https:\/\/www.johner-institut.de\/blog\/wp-content\/uploads\/2025\/10\/gpt-validieren-system-delineation-1024x801.png","keywords":["EU Medical Device Regulation MDR (2017\/745)","FDA - Medizinprodukte in den USA","K\u00fcnstliche Intelligenz","Prozesse und Verfahren"],"articleSection":["Regulatory Affairs: Regulatorische Anforderungen an Medizinprodukte"],"inLanguage":"de","potentialAction":[{"@type":"CommentAction","name":"Comment","target":["https:\/\/www.johner-institut.de\/blog\/regulatory-affairs\/chatgpt-validieren-medizinprodukte\/#respond"]}]},{"@type":"WebPage","@id":"https:\/\/www.johner-institut.de\/blog\/regulatory-affairs\/chatgpt-validieren-medizinprodukte\/","url":"https:\/\/www.johner-institut.de\/blog\/regulatory-affairs\/chatgpt-validieren-medizinprodukte\/","name":"ChatGPT validieren: Medizinproduktehersteller aufgepasst!","isPartOf":{"@id":"https:\/\/www.johner-institut.de\/blog\/#website"},"primaryImageOfPage":{"@id":"https:\/\/www.johner-institut.de\/blog\/regulatory-affairs\/chatgpt-validieren-medizinprodukte\/#primaryimage"},"image":{"@id":"https:\/\/www.johner-institut.de\/blog\/regulatory-affairs\/chatgpt-validieren-medizinprodukte\/#primaryimage"},"thumbnailUrl":"https:\/\/www.johner-institut.de\/blog\/wp-content\/uploads\/2025\/10\/gpt-validieren-system-delineation-1024x801.png","datePublished":"2025-10-28T07:17:00+00:00","dateModified":"2025-11-03T07:35:03+00:00","description":"ChatGPT validieren? Wann Medizinproduktehersteller dazu verpflichtet sind und wie sie vorgehen, beschreibt dieser Artikel.","breadcrumb":{"@id":"https:\/\/www.johner-institut.de\/blog\/regulatory-affairs\/chatgpt-validieren-medizinprodukte\/#breadcrumb"},"inLanguage":"de","potentialAction":[{"@type":"ReadAction","target":["https:\/\/www.johner-institut.de\/blog\/regulatory-affairs\/chatgpt-validieren-medizinprodukte\/"]}]},{"@type":"ImageObject","inLanguage":"de","@id":"https:\/\/www.johner-institut.de\/blog\/regulatory-affairs\/chatgpt-validieren-medizinprodukte\/#primaryimage","url":"https:\/\/www.johner-institut.de\/blog\/wp-content\/uploads\/2025\/10\/gpt-validieren-system-delineation.png","contentUrl":"https:\/\/www.johner-institut.de\/blog\/wp-content\/uploads\/2025\/10\/gpt-validieren-system-delineation.png","width":1200,"height":939},{"@type":"BreadcrumbList","@id":"https:\/\/www.johner-institut.de\/blog\/regulatory-affairs\/chatgpt-validieren-medizinprodukte\/#breadcrumb","itemListElement":[{"@type":"ListItem","position":1,"name":"Blog","item":"https:\/\/www.johner-institut.de\/blog\/"},{"@type":"ListItem","position":2,"name":"Regulatory Affairs: Regulatorische Anforderungen an Medizinprodukte","item":"https:\/\/www.johner-institut.de\/blog\/category\/regulatory-affairs\/"},{"@type":"ListItem","position":3,"name":"ChatGPT validieren: Was Medizinprodukte-Hersteller beachten m\u00fcssen"}]},{"@type":"WebSite","@id":"https:\/\/www.johner-institut.de\/blog\/#website","url":"https:\/\/www.johner-institut.de\/blog\/","name":"Regulatorisches Wissen f\u00fcr Medizinprodukte","description":"Fachartikel zur Entwicklung und Zulassung von Medizinprodukten und weiteren regulatorischen Themen","publisher":{"@id":"https:\/\/www.johner-institut.de\/blog\/#organization"},"potentialAction":[{"@type":"SearchAction","target":{"@type":"EntryPoint","urlTemplate":"https:\/\/www.johner-institut.de\/blog\/?s={search_term_string}"},"query-input":{"@type":"PropertyValueSpecification","valueRequired":true,"valueName":"search_term_string"}}],"inLanguage":"de"},{"@type":"Organization","@id":"https:\/\/www.johner-institut.de\/blog\/#organization","name":"Johner Institut GmbH","url":"https:\/\/www.johner-institut.de\/blog\/","logo":{"@type":"ImageObject","inLanguage":"de","@id":"https:\/\/www.johner-institut.de\/blog\/#\/schema\/logo\/image\/","url":"https:\/\/www.johner-institut.de\/blog\/wp-content\/uploads\/2015\/07\/Johner-Institut.png","contentUrl":"https:\/\/www.johner-institut.de\/blog\/wp-content\/uploads\/2015\/07\/Johner-Institut.png","width":1213,"height":286,"caption":"Johner Institut GmbH"},"image":{"@id":"https:\/\/www.johner-institut.de\/blog\/#\/schema\/logo\/image\/"},"sameAs":["https:\/\/www.facebook.com\/JohnerInstitut\/","https:\/\/x.com\/christianjohner","https:\/\/www.youtube.com\/user\/JohnerInstitut"]},{"@type":"Person","@id":"https:\/\/www.johner-institut.de\/blog\/#\/schema\/person\/77ee54cd54e987c0b5738d4cb4c80441","name":"Prof. Dr. Christian Johner","image":{"@type":"ImageObject","inLanguage":"de","@id":"https:\/\/www.johner-institut.de\/blog\/wp-content\/uploads\/2023\/05\/Christian_Johner.jpgab057afc2debeb41aaf55cce7e79e618","url":"https:\/\/www.johner-institut.de\/blog\/wp-content\/uploads\/2023\/05\/Christian_Johner.jpg","contentUrl":"https:\/\/www.johner-institut.de\/blog\/wp-content\/uploads\/2023\/05\/Christian_Johner.jpg","caption":"Prof. Dr. Christian Johner"},"description":"Professor Johner ist Experte f\u00fcr die Entwicklung und Zulassung von Medizinprodukten, die Software enthalten oder Software sind. Als Auditor, als Mitglied eines Normen-Komitees, als Ausbilder benannter Stellen sowie als Autor mehrerer B\u00fccher und Leitf\u00e4den tr\u00e4gt der promovierte Physiker zur Weiterentwicklung der regulatorischen Landschaft bei. Davon zeugen auch Leitf\u00e4den, die er f\u00fcr die WHO und die Benannten Stellen entwickelt hat. Sein Unternehmen, das Johner Institut, unterst\u00fctzt Medizinproduktehersteller weltweit beim Aufbau von QM-Systemen, bei der Zulassung und Pr\u00fcfung ihrer Produkte sowie bei der digitalen Transformation regulatorischer Prozesse. Es bietet Weiterbildungen wie E-Learning und Seminare an und \u00fcbernimmt f\u00fcr Hersteller Prozesse wie die \u00dcberwachung der Regularien und der Produkte im Markt. Christian Johner lehrte an mehreren Universit\u00e4ten u.a. an der Hochschule Konstanz, der Universit\u00e4t St. Gallen, der Universit\u00e4t W\u00fcrzburg sowie der Stanford University v.a. Software-Architektur, Software-Qualit\u00e4tssicherung und medizinische Informatik.","sameAs":["https:\/\/www.linkedin.com\/in\/christianjohner\/","https:\/\/x.com\/christianjohner"],"url":"https:\/\/www.johner-institut.de\/blog\/author\/christian\/"}]}},"jetpack_publicize_connections":[],"jetpack_featured_media_url":"","jetpack-related-posts":[{"id":5377228,"url":"https:\/\/www.johner-institut.de\/blog\/systems-engineering\/phantome-in-der-medizintechnik\/","url_meta":{"origin":5381962,"position":0},"title":"Phantome in der Medizintechnik","author":"Prof. Dr. Christian Johner","date":"12. Dezember 2023","format":false,"excerpt":"Phantome in der Medizintechnik helfen, Medizinprodukte schneller und wirkungsvoller zu validieren, \u201ezuzulassen\u201c und in den M\u00e4rkten zu \u00fcberwachen. Dieser Artikel beschreibt, welche Organisationen besonders vom Einsatz dieser Phantome profitieren und welche Voraussetzungen sie daf\u00fcr erf\u00fcllen m\u00fcssen. 1. Beispiele f\u00fcr Phantome in der Medizintechnik Anthropomorphe Phantome sind nachgebildete K\u00f6rper, die sich\u2026","rel":"","context":"In &quot;Systems Engineering bei Medizinprodukten&quot;","block_context":{"text":"Systems Engineering bei Medizinprodukten","link":"https:\/\/www.johner-institut.de\/blog\/category\/systems-engineering\/"},"img":{"alt_text":"Ein Beispiel f\u00fcr Phantome in der Medizintechnik","src":"https:\/\/i0.wp.com\/www.johner-institut.de\/blog\/wp-content\/uploads\/2023\/12\/Phantome-Medizintechnik.jpg?resize=350%2C200&ssl=1","width":350,"height":200,"srcset":"https:\/\/i0.wp.com\/www.johner-institut.de\/blog\/wp-content\/uploads\/2023\/12\/Phantome-Medizintechnik.jpg?resize=350%2C200&ssl=1 1x, https:\/\/i0.wp.com\/www.johner-institut.de\/blog\/wp-content\/uploads\/2023\/12\/Phantome-Medizintechnik.jpg?resize=525%2C300&ssl=1 1.5x, https:\/\/i0.wp.com\/www.johner-institut.de\/blog\/wp-content\/uploads\/2023\/12\/Phantome-Medizintechnik.jpg?resize=700%2C400&ssl=1 2x"},"classes":[]},{"id":2405010,"url":"https:\/\/www.johner-institut.de\/blog\/regulatory-affairs\/medizinprodukte-der-klasse-1\/","url_meta":{"origin":5381962,"position":1},"title":"Medizinprodukte der Klasse 1","author":"Markus Gerhart","date":"28. M\u00e4rz 2025","format":false,"excerpt":"Die Medical Device Coordination Group (MDCG) hat ein Guidance Document entworfen, das beschreibt, wie Hersteller ihre Medizinprodukte der Klasse 1 MDR-konform in den Verkehr bringen sollen. Das Dokument tr\u00e4gt den Titel Guidance Notes for Manufacturers of Class I Medical Devices. Dieser Artikel fasst dieses Dokument zusammen und gibt Herstellern dieser\u2026","rel":"","context":"In &quot;Regulatory Affairs: Regulatorische Anforderungen an Medizinprodukte&quot;","block_context":{"text":"Regulatory Affairs: Regulatorische Anforderungen an Medizinprodukte","link":"https:\/\/www.johner-institut.de\/blog\/category\/regulatory-affairs\/"},"img":{"alt_text":"","src":"https:\/\/i0.wp.com\/www.johner-institut.de\/blog\/wp-content\/uploads\/2019\/06\/Medizinprodukt-Klasse-1.png?resize=350%2C200&ssl=1","width":350,"height":200,"srcset":"https:\/\/i0.wp.com\/www.johner-institut.de\/blog\/wp-content\/uploads\/2019\/06\/Medizinprodukt-Klasse-1.png?resize=350%2C200&ssl=1 1x, https:\/\/i0.wp.com\/www.johner-institut.de\/blog\/wp-content\/uploads\/2019\/06\/Medizinprodukt-Klasse-1.png?resize=525%2C300&ssl=1 1.5x, https:\/\/i0.wp.com\/www.johner-institut.de\/blog\/wp-content\/uploads\/2019\/06\/Medizinprodukt-Klasse-1.png?resize=700%2C400&ssl=1 2x, https:\/\/i0.wp.com\/www.johner-institut.de\/blog\/wp-content\/uploads\/2019\/06\/Medizinprodukt-Klasse-1.png?resize=1050%2C600&ssl=1 3x, https:\/\/i0.wp.com\/www.johner-institut.de\/blog\/wp-content\/uploads\/2019\/06\/Medizinprodukt-Klasse-1.png?resize=1400%2C800&ssl=1 4x"},"classes":[]},{"id":7418,"url":"https:\/\/www.johner-institut.de\/blog\/iec-62304-medizinische-software\/gesetzliche-anforderungen-an-medizinprodukte-formulierungsschablone\/","url_meta":{"origin":5381962,"position":2},"title":"Gesetzliche Anforderungen an Medizinprodukte: Formulierungsschablone","author":"Prof. Dr. Christian Johner","date":"3. Februar 2015","format":false,"excerpt":"Dieser Artikel beschreibt, was gesetzliche Anforderungen sind, wie\u00a0diese mit Stakeholder-Anforderungen und System-Anforderungen zusammenspielen, welche gesetzlichen Anforderungen es an deren Dokumentation gibt und wie Sie gesetzliche Anforderungen formulieren und damit dokumentieren k\u00f6nnen. Gesetzliche Anforderungen versus Stakeholder-Anforderungen versus System-Anforderungen Gesetzliche Anforderungen z\u00e4hlen zu den Stakeholder-Anforderungen Unter gesetzlichen Anforderungen\u00a0subsumieren wir hier alle Anforderungen,\u2026","rel":"","context":"In &quot;Software &amp; IEC 62304&quot;","block_context":{"text":"Software &amp; IEC 62304","link":"https:\/\/www.johner-institut.de\/blog\/category\/iec-62304-medizinische-software\/"},"img":{"alt_text":"Gesetzliche Anforderungen m\u00fcssen f\u00fcr Medizinprodukte dokumentiert werden","src":"https:\/\/i0.wp.com\/www.johner-institut.de\/blog\/wp-content\/uploads\/2014\/04\/Gesetzliche-Anforderungen-300x115.png?resize=350%2C200&ssl=1","width":350,"height":200},"classes":[]},{"id":701305,"url":"https:\/\/www.johner-institut.de\/blog\/regulatory-affairs\/medizinprodukte-sicherheitsplanverordnung-mpsv\/","url_meta":{"origin":5381962,"position":3},"title":"MPSV: Medizinprodukte-Sicherheitsplanverordnung","author":"Prof. Dr. Christian Johner","date":"31. Mai 2021","format":false,"excerpt":"Die Medizinprodukte-Sicherheitsplanverordnung (MPSV) tr\u00e4gt den Titel \u201eVerordnung \u00fcber die Erfassung, Bewertung und Abwehr von Risiken bei Medizinprodukten\u201c. Der Titel dieser deutschen Verordnung macht klar, was sie regelt: Sie legt fest, wer Risiken bei Medizinprodukten erfassen, bewerten und darauf reagieren muss. MPSV gilt nicht mehr! Beachten Sie, dass die MPSV mit\u2026","rel":"","context":"In &quot;Regulatory Affairs: Regulatorische Anforderungen an Medizinprodukte&quot;","block_context":{"text":"Regulatory Affairs: Regulatorische Anforderungen an Medizinprodukte","link":"https:\/\/www.johner-institut.de\/blog\/category\/regulatory-affairs\/"},"img":{"alt_text":"MPSV Medizinprodukte-Sicherheitsplanverordnung","src":"https:\/\/i0.wp.com\/www.johner-institut.de\/blog\/wp-content\/uploads\/2017\/02\/MPSV.jpg?resize=350%2C200&ssl=1","width":350,"height":200,"srcset":"https:\/\/i0.wp.com\/www.johner-institut.de\/blog\/wp-content\/uploads\/2017\/02\/MPSV.jpg?resize=350%2C200&ssl=1 1x, https:\/\/i0.wp.com\/www.johner-institut.de\/blog\/wp-content\/uploads\/2017\/02\/MPSV.jpg?resize=525%2C300&ssl=1 1.5x, https:\/\/i0.wp.com\/www.johner-institut.de\/blog\/wp-content\/uploads\/2017\/02\/MPSV.jpg?resize=700%2C400&ssl=1 2x, https:\/\/i0.wp.com\/www.johner-institut.de\/blog\/wp-content\/uploads\/2017\/02\/MPSV.jpg?resize=1050%2C600&ssl=1 3x"},"classes":[]},{"id":4566,"url":"https:\/\/www.johner-institut.de\/blog\/systems-engineering\/medizinprodukte-pc\/","url_meta":{"origin":5381962,"position":4},"title":"Medizinprodukte-PC: Software-Hersteller, aufgepasst!","author":"Mario Klessascheck","date":"8. Juni 2023","format":false,"excerpt":"Der Begriff \"Medizinprodukte-PC\" ist nicht eindeutig definiert. Allerdings verstehen unter einem Medizinprodukte-PC die meisten entweder einen PC, der als ein Medizinprodukt zusammen mit der Software in Verkehr gebracht wird, oder einen PC, der aufgrund seiner elektrischen Sicherheit und\u00a0elektromagnetischen Vertr\u00e4glichkeit geeignet ist, um z. B. im OP eingesetzt zu werden. Dabei\u2026","rel":"","context":"In &quot;Systems Engineering bei Medizinprodukten&quot;","block_context":{"text":"Systems Engineering bei Medizinprodukten","link":"https:\/\/www.johner-institut.de\/blog\/category\/systems-engineering\/"},"img":{"alt_text":"Medizinprodukte-PC: Hardware einschlie\u00dflich Anwendungsteil und Software","src":"https:\/\/i0.wp.com\/www.johner-institut.de\/blog\/wp-content\/uploads\/2012\/07\/Medizinprodukte-PC-Hardware-und-Anwendungsteil-und-Software.png?resize=350%2C200&ssl=1","width":350,"height":200,"srcset":"https:\/\/i0.wp.com\/www.johner-institut.de\/blog\/wp-content\/uploads\/2012\/07\/Medizinprodukte-PC-Hardware-und-Anwendungsteil-und-Software.png?resize=350%2C200&ssl=1 1x, https:\/\/i0.wp.com\/www.johner-institut.de\/blog\/wp-content\/uploads\/2012\/07\/Medizinprodukte-PC-Hardware-und-Anwendungsteil-und-Software.png?resize=525%2C300&ssl=1 1.5x"},"classes":[]},{"id":5372344,"url":"https:\/\/www.johner-institut.de\/blog\/regulatory-affairs\/medizinproduktegesetz-mpg\/","url_meta":{"origin":5381962,"position":5},"title":"Medizinproduktegesetz (MPG): Was Hersteller und Betreiber dazu noch wissen m\u00fcssen","author":"Prof. Dr. Christian Johner","date":"2. M\u00e4rz 2024","format":false,"excerpt":"Das Medizinproduktegesetz (MPG) ist ein deutsches Gesetz, das die Inverkehrbringung, den Betrieb und die \u00dcberwachung von Medizinprodukten regelte. Seit dem 26.01.2021 ist das Gesetz weitgehend durch das Medizinprodukterecht-Durchf\u00fchrungsgesetz (MPDG) abgel\u00f6st. Dieses FAQ beantwortet die wichtigsten Fragen zum MPG und enth\u00e4lt die Links auf die aktuelle und fr\u00fchere Versionen des Gesetzes.\u2026","rel":"","context":"In &quot;Regulatory Affairs: Regulatorische Anforderungen an Medizinprodukte&quot;","block_context":{"text":"Regulatory Affairs: Regulatorische Anforderungen an Medizinprodukte","link":"https:\/\/www.johner-institut.de\/blog\/category\/regulatory-affairs\/"},"img":{"alt_text":"","src":"https:\/\/i0.wp.com\/www.johner-institut.de\/blog\/wp-content\/uploads\/2023\/04\/image.png?resize=350%2C200&ssl=1","width":350,"height":200,"srcset":"https:\/\/i0.wp.com\/www.johner-institut.de\/blog\/wp-content\/uploads\/2023\/04\/image.png?resize=350%2C200&ssl=1 1x, https:\/\/i0.wp.com\/www.johner-institut.de\/blog\/wp-content\/uploads\/2023\/04\/image.png?resize=525%2C300&ssl=1 1.5x"},"classes":[]}],"jetpack_shortlink":"https:\/\/wp.me\/pavawf-mA5Q","jetpack_sharing_enabled":true,"authors":[{"term_id":1210,"user_id":1,"is_guest":0,"slug":"christian","display_name":"Prof. Dr. Christian Johner","avatar_url":{"url":"https:\/\/www.johner-institut.de\/blog\/wp-content\/uploads\/2023\/05\/Christian_Johner.jpg","url2x":"https:\/\/www.johner-institut.de\/blog\/wp-content\/uploads\/2023\/05\/Christian_Johner.jpg"},"0":null,"1":"","2":"","3":"","4":"","5":"","6":"","7":"","8":"","9":""},{"term_id":1277,"user_id":144,"is_guest":0,"slug":"danielmoelle","display_name":"Dr. Daniel M\u00f6lle","avatar_url":{"url":"https:\/\/www.johner-institut.de\/blog\/wp-content\/uploads\/2025\/11\/Daniel_Moelle_300x300.png","url2x":"https:\/\/www.johner-institut.de\/blog\/wp-content\/uploads\/2025\/11\/Daniel_Moelle_300x300.png"},"0":null,"1":"","2":"","3":"","4":"","5":"","6":"","7":"","8":"","9":""}],"_links":{"self":[{"href":"https:\/\/www.johner-institut.de\/blog\/wp-json\/wp\/v2\/posts\/5381962","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.johner-institut.de\/blog\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.johner-institut.de\/blog\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.johner-institut.de\/blog\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/www.johner-institut.de\/blog\/wp-json\/wp\/v2\/comments?post=5381962"}],"version-history":[{"count":12,"href":"https:\/\/www.johner-institut.de\/blog\/wp-json\/wp\/v2\/posts\/5381962\/revisions"}],"predecessor-version":[{"id":5382004,"href":"https:\/\/www.johner-institut.de\/blog\/wp-json\/wp\/v2\/posts\/5381962\/revisions\/5382004"}],"wp:attachment":[{"href":"https:\/\/www.johner-institut.de\/blog\/wp-json\/wp\/v2\/media?parent=5381962"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.johner-institut.de\/blog\/wp-json\/wp\/v2\/categories?post=5381962"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.johner-institut.de\/blog\/wp-json\/wp\/v2\/tags?post=5381962"},{"taxonomy":"author","embeddable":true,"href":"https:\/\/www.johner-institut.de\/blog\/wp-json\/wp\/v2\/ppma_author?post=5381962"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}