{"id":4056065,"date":"2021-04-13T08:00:00","date_gmt":"2021-04-13T06:00:00","guid":{"rendered":"https:\/\/www.johner-institut.de\/blog\/?p=4056065"},"modified":"2023-04-14T09:13:26","modified_gmt":"2023-04-14T07:13:26","slug":"ki-systeme","status":"publish","type":"post","link":"https:\/\/www.johner-institut.de\/blog\/systems-engineering\/ki-systeme\/","title":{"rendered":"Weshalb die VDE-AR-E 2842-61 (vertrauensw\u00fcrdige KI-Systeme) nicht nur die Entwicklung betrifft"},"content":{"rendered":"\n<p>Der VDE hat mit der <strong>VDE-AR-E 2842-61<\/strong> eine ganze Familie an normativen Vorgaben f\u00fcr vertrauensw\u00fcrdige autonom kognitive Systeme wie z.B. <strong>KI-Systeme<\/strong> erarbeitet. Obwohl diese &#8222;Anwendungsregeln&#8220; nicht spezifisch f\u00fcr eine Dom\u00e4ne wie z.B. Medizinprodukte sind, stellen sie dennoch eine Fundgrube f\u00fcr viele Medizinproduktehersteller dar.<\/p>\n\n\n\n<p>Dieser Artikel zeigt Ihnen,<\/p>\n\n\n\n<ul class=\"wp-block-list\"><li>was KI-Systeme sind,<\/li><li>welche Hersteller welche Teile dieser Normenfamilie ber\u00fccksichtigen sollten,<\/li><li>welche konkreten Anregungen diese Teile enthalten und<\/li><li>weshalb die VDE-AR-E 2842-61 keinesfalls nur die Entwicklung die betrifft.<\/li><\/ul>\n\n\n\n<!--more-->\n\n\n\n<h2 class=\"wp-block-heading\">1. Vertrauensw\u00fcrdige KI-Systeme<\/h2>\n\n\n\n<h3 class=\"wp-block-heading\">a) Definition und Abgrenzungen<\/h3>\n\n\n\n<p>KI-Systeme sind eine Untermenge der autonom kognitiven Systeme, die Verfahren der k\u00fcnstlichen Intelligenz verwenden.<\/p>\n\n\n\n<p>Autonome kognitive Systeme sind wie folgt definiert:<\/p>\n\n\n\n<blockquote class=\"wp-block-quote is-layout-flow wp-block-quote-is-layout-flow\"><p>Ein System wird als autonom (kognitiv) bezeichnet, wenn es ohne menschliche Steuerung oder detaillierte Programmierung ein vorgegebenes Ziel selbstst\u00e4ndig und an die Situation angepasst erreichen kann.<\/p><cite><em>Quelle: Fachforum Autonome Systeme im Hightech-Forum: Autonome Systeme \u2013 Chancen und Risiken f\u00fcr Wirtschaft, Wissenschaft und Gesellschaft. Langversion, Abschlussbericht, Berlin, April 2017<\/em><\/cite><\/blockquote>\n\n\n\n<p>Die Definition der Anwendungsregel lautet:<\/p>\n\n\n\n<div class=\"defbox\">\n    <div class=\"definition\">\n        <i class=\"fa fa-exclamation-circle\"><\/i> Definition: <dfn>autonomous\/cognitive system \u2013 A\/C-system (ge.: autonom\/kognitives System, A\/K-System)<\/dfn>\n    <\/div>\n    <dd><p>\u201eis a technical system that is able to generate autonomous and cognitive behavior. Within the context of this\nAR an A\/C-system is part of a solution.<\/p><p>The term autonomous\/cognitive system and especially the germen variant \u201cautonom\/kognitives System\u201d is a new term, a made-up word coined by this AR. It denotes the special characteristic of complex systems in complex environments (covered by the solution level), trustworthiness aspects and potentially but not necessarily the use of AI in one or more elements of the system. Furthermore it takes into account the common use of \u201cautonomous\u201d in the public along with the expectations on complex behavior of such systems (e.g. in a shop one would rather order an \u201cautonomous car\u201d than a \u201cfully automated car\u201d).\u201c<\/p><\/dd>\n    <div class=\"defsource\">VDE-AR-E 2842-61-1, Abschnitt 3.1.8<\/div>\n<\/div>\n\n\n\n<p>Die Norm definiert die Eigenschaft \u201e<strong>autonom<\/strong>\u201c nicht ganz genauso. Aber auch im Sinne der Norm bedeutet \u201eautonom\u201c  \u201eohne menschliche Steuerung\u201c. Die Norm arbeitet zus\u00e4tzlich mit dem Begriff \u201ekognitiv\u201c und \u201ekognitive Schleife\u201c um das situationsspezifische Verhalten zu beschreiben. <\/p>\n\n\n\n<p>Weil es sehr viele Situationen gibt, auf die solche Systeme reagieren k\u00f6nnen m\u00fcssen, ist meist eine \u201edetaillierte Programmierung<meta charset=\"utf-8\">\u201c nicht m\u00f6glich. Daher verwenden viele autonom kognitive Systeme Verfahren des maschinellen Lernens als Teilgebiet der <a href=\"https:\/\/www.johner-institut.de\/blog\/regulatory-affairs\/kuenstliche-intelligenz-in-der-medizin\/\" target=\"_blank\" rel=\"noreferrer noopener\">k\u00fcnstlichen Intelligenz<\/a>.<\/p>\n\n\n\n<p>Umgekehrt sind aber nicht alle Systeme, die KI verwenden, auch KI-Systeme und damit autonom kognitive Systeme. Beispielsweise ist eine Software, die mit Hilfe der KI Krebs auf einem CT-Bild erkennt, kein KI-System im Sinne dieser Definition.<\/p>\n\n\n\n<figure class=\"wp-block-image size-large\"><a href=\"https:\/\/www.johner-institut.de\/blog\/wp-content\/uploads\/2021\/04\/KI-Systeme.jpeg\" data-rel=\"lightbox-image-0\" data-rl_title=\"\" data-rl_caption=\"\" title=\"\"><img loading=\"lazy\" decoding=\"async\" width=\"480\" height=\"242\" src=\"https:\/\/www.johner-institut.de\/blog\/wp-content\/uploads\/2021\/04\/KI-Systeme.jpeg\" alt=\"Venn-Diagramm zeigt die Abgrenzung: Autonome kognitiven Systeme, KI-Systeme und Produkte, die KI nutzen.\" class=\"wp-image-4056076\" srcset=\"https:\/\/www.johner-institut.de\/blog\/wp-content\/uploads\/2021\/04\/KI-Systeme.jpeg 480w, https:\/\/www.johner-institut.de\/blog\/wp-content\/uploads\/2021\/04\/KI-Systeme-300x151.jpeg 300w, https:\/\/www.johner-institut.de\/blog\/wp-content\/uploads\/2021\/04\/KI-Systeme-200x101.jpeg 200w, https:\/\/www.johner-institut.de\/blog\/wp-content\/uploads\/2021\/04\/KI-Systeme-400x202.jpeg 400w\" sizes=\"auto, (max-width: 480px) 100vw, 480px\" \/><\/a><figcaption>Abb. 1: Abgrenzung von autonom kognitiven Systemen, KI-Systemen und Produkten, die KI nutzen.<\/figcaption><\/figure>\n\n\n\n<div class=\"defbox\">\n    <div class=\"definition\">\n        <i class=\"fa fa-external-link\"><\/i> Weiterf\u00fchrende Informationen\n    <\/div>\n    <p>Erfahren sie in dem <a href=\"https:\/\/www.johner-institut.de\/blog\/systems-engineering\/autonome-systeme\/\">Artikel zu den autonomen Systemen<\/a>, was deren spezifischen Vorteile und Risiken sind und welche regulatorischen Anforderungen zu beachten sind.<\/p>\n<\/div>\n\n\n\n<p>Dieser Artikel nutzt im Folgenden den Begriff \u201eKI-System\u201c, da dieser der popul\u00e4rere Begriff ist und die \u201eKI-Systeme\u201c in den Anwendungsbereich der VDE-AR-E 2842-61 fallen.<\/p>\n\n\n\n<h3 class=\"wp-block-heading\">b) Beispiele f\u00fcr KI-Systeme<\/h3>\n\n\n\n<p>Beispiele f\u00fcr KI-Systeme sind:<\/p>\n\n\n\n<ul class=\"wp-block-list\"><li>Desinfektionsroboter wie der von <a href=\"https:\/\/xenex.com\/\">XENEX<\/a><\/li><li>Roboter, die Aufgaben in medizinischen Laboren erledigen <a href=\"https:\/\/www.roboticstomorrow.com\/story\/2019\/07\/abb-robotics-to-develop-solutions-for-the-hospital-of-the-future\/13865\/\">wie der von ABB<\/a><\/li><li>Pflegeroboter und <a href=\"https:\/\/www.karolinska.se\/en\/karolinska-university-hospital\/Innovation\/Robotics-and-automation\/\">weitere Roboter in Krankenh\u00e4usern<\/a> wie z.B. autonome kooperative OP-Roboter, die selbst\u00e4ndig OPs ganz oder teilweise durchf\u00fchren und ggf. zuk\u00fcnftig sogar nur durch Laien bedient werden (z.B. in entlegenen Gebieten)<\/li><li>K\u00fcnstliche digitale Pankrease<\/li><\/ul>\n\n\n\n<h3 class=\"wp-block-heading\">c) Vertrauensw\u00fcrdigkeit<\/h3>\n\n\n\n<p>Die Vertrauensw\u00fcrdigkeit ist hier als Metabegriff zu verstehen, der die Safety, Cybersecurity, Effectiveness, Usability etc. umfasst.<\/p>\n\n\n\n<blockquote class=\"wp-block-quote is-layout-flow wp-block-quote-is-layout-flow\"><p>Trustworthiness [\u2026] combines several aspects of trustworthiness in a quite generic way: for every product the set of aspects can be suitably selected and remains unchanged throughout the project. Aspects of trustworthiness include but are not limited to system safety, functional safety, safety of use, security, usability, ethical and legal compliance, reliability, availability, maintainability, and (intended) functionality.<\/p><cite>VDE-AR-E 2842-61-1 Kapitel 3.1.43<\/cite><\/blockquote>\n\n\n\n<figure class=\"wp-block-image size-large\"><a href=\"https:\/\/www.johner-institut.de\/blog\/wp-content\/uploads\/2021\/04\/Elemente-der-Trustworthiness.jpeg\" data-rel=\"lightbox-image-1\" data-rl_title=\"\" data-rl_caption=\"\" title=\"\"><img loading=\"lazy\" decoding=\"async\" width=\"641\" height=\"426\" src=\"https:\/\/www.johner-institut.de\/blog\/wp-content\/uploads\/2021\/04\/Elemente-der-Trustworthiness.jpeg\" alt=\"Aspekte der Vertrauensw\u00fcrdigkeit bei KI-Systemen\" class=\"wp-image-4056089\" srcset=\"https:\/\/www.johner-institut.de\/blog\/wp-content\/uploads\/2021\/04\/Elemente-der-Trustworthiness.jpeg 641w, https:\/\/www.johner-institut.de\/blog\/wp-content\/uploads\/2021\/04\/Elemente-der-Trustworthiness-300x199.jpeg 300w, https:\/\/www.johner-institut.de\/blog\/wp-content\/uploads\/2021\/04\/Elemente-der-Trustworthiness-200x133.jpeg 200w, https:\/\/www.johner-institut.de\/blog\/wp-content\/uploads\/2021\/04\/Elemente-der-Trustworthiness-400x266.jpeg 400w, https:\/\/www.johner-institut.de\/blog\/wp-content\/uploads\/2021\/04\/Elemente-der-Trustworthiness-600x399.jpeg 600w\" sizes=\"auto, (max-width: 641px) 100vw, 641px\" \/><\/a><figcaption><em>Abb. 2: Aspekte der Vertrauensw\u00fcrdigkeit<\/em> (&#8222;Trustworthiness&#8220;)<\/figcaption><\/figure>\n\n\n\n<h2 aria-label=\"2. Spezifische Risiken\">2. Spezifische Risiken von KI-Systemen<\/h2>\n\n\n\n<h3 class=\"wp-block-heading\">a) Risiken durch autonom kognitive Systeme (im Allgemeinen)<\/h3>\n\n\n\n<p>Der <a href=\"https:\/\/www.johner-institut.de\/blog\/systems-engineering\/autonome-systeme\/\" target=\"_blank\" rel=\"noreferrer noopener\">Artikel zu den autonomen Systemen<\/a> hat bereits einige Risiken genannt, die f\u00fcr diese Klasse an Systemen spezifisch sind. Dazu z\u00e4hlen Risiken durch<\/p>\n\n\n\n<ul class=\"wp-block-list\"><li>die Autonomie der Systeme,<\/li><li>verschieden technische Kontexte,<\/li><li>verschiedene klinische Kontexte,<\/li><li>adaptive Algorithmen und<\/li><li>mangelnde Interoperabilit\u00e4t.<\/li><\/ul>\n\n\n\n<p>Bei KI-Systemen kommen spezifische Risiken hinzu, die die folgenden Kapitel vorstellen.<\/p>\n\n\n\n<h3 class=\"wp-block-heading\">b) Risiken durch unzureichende Zweckbestimmung<\/h3>\n\n\n\n<p>Hersteller m\u00fcssen in der Zweckbestimmung konkret festlegen, f\u00fcr welche<\/p>\n\n\n\n<ul class=\"wp-block-list\"><li>Nutzer,<\/li><li>Nutzungsumgebungen,<\/li><li>Patienten,<\/li><li>Krankheiten, Diagnosen, Kontraindikationen,<\/li><li>Anwendungsf\u00e4lle und<\/li><li>M\u00e4rkte<\/li><\/ul>\n\n\n\n<p>das KI-System angewendet werden soll. <\/p>\n\n\n\n<p>Wenn dar\u00fcber keine Klarheit besteht, fehlen allen folgenden Entwicklungsphasen die Grundlagen. Beispielweise muss es klar sein, ob der OP-Roboter auch ein Knie operieren k\u00f6nnen soll, das bereits Implantate enth\u00e4lt.<\/p>\n\n\n\n<p>Inbesondere <a href=\"https:\/\/de.wikipedia.org\/wiki\/Kollaborativer_Roboter\" target=\"_blank\" rel=\"noreferrer noopener\">Cobots (Collaborative Robots)<\/a> k\u00f6nnen durch einfaches Umprogrammieren bzw. durch ein \u201eTeaching\u201c f\u00fcr verschiedene Zwecke eingesetzt werden. Das erspart es dem Hersteller aber nicht, die Zweckbestimmung f\u00fcr diese einzelnen Anwendungsf\u00e4lle zu bestimmen.<\/p>\n\n\n\n<h3 class=\"wp-block-heading\">c) Risiken durch unbekannte Situationen<\/h3>\n\n\n\n<p>Gerade weil es sehr schwer ist, alle Situationen vorherzusagen, gelingt es den Herstellern nicht immer, vollst\u00e4ndige Spezifikationen zu erstellen.<\/p>\n\n\n\n<p>Selbst wenn die Hersteller eine Situation antizipieren, ist es h\u00e4ufig herausfordernd, f\u00fcr jede das optimale Systemverhalten zu spezifizieren.<\/p>\n\n\n\n<p>Ohne diese pr\u00e4zisen Spezifikationen und Produktanforderungen wird es den Entwicklungsabteilungen und Data Scientists nur schwer gelingen, spezifische Anforderungen an die KI-Modelle und an das Sammeln von Daten f\u00fcr deren Training abzuleiten.<\/p>\n\n\n\n<p>Falls bei der Spezifikation und Entwicklung eines Produkts eine Situation nicht vorhergesehen wurde, ist auch das Verhalten des Produkts in dieser Situation nicht immer vorhersehbar.<\/p>\n\n\n\n<h3 class=\"wp-block-heading\">d) Risiken durch Spezifikationsl\u00fccken<\/h3>\n\n\n\n<p>Anforderungen m\u00fcssen auf allen Abstraktionsebenen der Entwicklung klar und spezifisch dokumentiert werden. Dies gilt auch f\u00fcr KI-Systeme und die enthaltenen KI-Komponenten.<\/p>\n\n\n\n<p>Insbesondere zur Entwicklungszeit selbstlernende KI-Komponenten verleiten dazu, die Spezifikation unklar zu gestalten, da ja diese KI-Komponente \u201eschonen lernen wird, was sie zu tun hat\u201c. Aber genau das ist ein Missverst\u00e4ndnis: KI-Komponenten k\u00f6nnen lernen, \u201ewie\u201c sie etwas machen, nicht aber das \u201ewas\u201c. <\/p>\n\n\n\n<p>KI-Komponenten d\u00fcrfen nicht als Sammelbecken f\u00fcr unklare oder ungenaue Spezifikation dienen. Damit w\u00e4re die Entwicklung zum Scheitern verurteilt. Daher ist eine klare Traceability der Anforderungen einschlie\u00dflich der Trustworthiness-Attribute (Performance, Safety, Security, Usability, \u2026) vorzusehen.<\/p>\n\n\n\n<h3 class=\"wp-block-heading\">e) Risiken durch ungeeignetes Training der Modelle<\/h3>\n\n\n\n<p>Alle handwerklichen Fehler beim Entwickeln von KI-Modellen k\u00f6nnen auch bei KI-Systemen zu Risiken f\u00fchren wie beispielsweise:<\/p>\n\n\n\n<ul class=\"wp-block-list\"><li>Fehler beim Sammeln und Vorbereiten der Trainingsdaten (z.B. falsche Konvertierung von Einheiten)<\/li><li>Nicht repr\u00e4sentative und zu wenige Trainingsdaten<\/li><li>Wahl von suboptimalen Architekturen und Hyperparametern<\/li><li>Optimierung des Modells auf falsche Zielwerte (z.B. Accuracy statt Sensitivity)<\/li><li>Over-fitting<\/li><\/ul>\n\n\n\n<p>Eine umfassende Sammlung an Best-Practices, um diese Risiken zu minimieren, liefert der <a href=\"https:\/\/github.com\/johner-institut\/ai-guideline\" target=\"_blank\" rel=\"noreferrer noopener\">KI-Leitfaden des Johner Instituts<\/a>, den auch die <a href=\"https:\/\/www.johner-institut.de\/blog\/tag\/benannte-stellen\/\" target=\"_blank\" rel=\"noreferrer noopener\">Benannten Stellen<\/a> in modifizierter Version nutzen.<\/p>\n\n\n\n<h3 class=\"wp-block-heading\">f) Risiko durch mangelnde Gebrauchstauglichkeit<\/h3>\n\n\n\n<p>Gerade bei KI-Systemen kann eine unzureichende <a href=\"https:\/\/www.johner-institut.de\/blog\/category\/iec-62366-usability\/\" target=\"_blank\" rel=\"noreferrer noopener\">Gebrauchstauglichkeit<\/a> zu besonders hohen Risiken f\u00fchren. Dieser Aspekt der \u201eHuman Factors\u201c f\u00fchrt sogar zu einer \u201e<a href=\"https:\/\/humanfactors101.com\/2020\/05\/24\/the-ironies-of-automation\/\">Irony of Automation<\/a>\u201d. Dazu z\u00e4hlen:<\/p>\n\n\n\n<ul class=\"wp-block-list\"><li>Ungerechtfertigtes Vertrauen in die Automation<\/li><li>Ungerechtfertigtes Misstrauen in die Automation<\/li><li>Unkenntnis der Grenzen der Automation<\/li><li>Unf\u00e4higkeit zur Entscheidung, wann der Mensch eingreifen muss<\/li><li>H\u00f6here statt niedrigerer Komplexit\u00e4t<\/li><\/ul>\n\n\n\n<h3 class=\"wp-block-heading\">g) Risiken durch b\u00f6swillige Nutzung<\/h3>\n\n\n\n<p>Deep fakes sind nur ein Beispiel, wie die KI missbraucht werden kann. Auch bei Medizinprodukten, die Verfahren der KI anwenden, wurde zumindest im Labor gezeigt, wie Systeme zur Klassifizierung von Bildern in die Irre gef\u00fchrt oder zur Preisgabe sensibler (Trainings-) Daten veranlasst werden k\u00f6nnen.<\/p>\n\n\n\n<h2 aria-label=\"3. Anforderungen\">3. VDE-AR-E 2842-61: Vertrauensw\u00fcrdigkeit von KI-Systemen gew\u00e4hrleisten<\/h2>\n\n\n\n<p>Die Anwendungsregel VDE-AR-E 2842-61 m\u00f6chte dazu beitragen eben diese Risiken zu beherrschen und auf diese Weise die Vertrauensw\u00fcrdigkeit von KI-Systemen zu gew\u00e4hrleisten.<\/p>\n\n\n\n<p>Dabei hat die VDE-AR-E 2842-61 den Anspruch, den ganzen Produktlebenszyklus von der &nbsp;Produktidee bis zur der Phase abzudecken, die in der Medizinproduktewelt als \u201ePost-Market Surveillance\u201c bezeichnet wird.<\/p>\n\n\n\n<figure class=\"wp-block-image size-medium\"><a href=\"https:\/\/www.johner-institut.de\/blog\/wp-content\/uploads\/2021\/04\/vde-ar-e2841-61-Lifecycle.png\" data-rel=\"lightbox-image-2\" data-rl_title=\"\" data-rl_caption=\"\" title=\"\"><img loading=\"lazy\" decoding=\"async\" width=\"300\" height=\"254\" src=\"https:\/\/www.johner-institut.de\/blog\/wp-content\/uploads\/2021\/04\/vde-ar-e2841-61-Lifecycle-300x254.png\" alt=\"Die Anwendungsregel VDE-AR-E 2842-61 besteht aus mehreren Teilen, die den ganzen Lebenszyklus von KI-Systemen abdecken. Die Nummern beziehen sich auf die Teile \/ B\u00e4nde dieser Anwendungsregel\" class=\"wp-image-4058448\" srcset=\"https:\/\/www.johner-institut.de\/blog\/wp-content\/uploads\/2021\/04\/vde-ar-e2841-61-Lifecycle-300x254.png 300w, https:\/\/www.johner-institut.de\/blog\/wp-content\/uploads\/2021\/04\/vde-ar-e2841-61-Lifecycle-1024x867.png 1024w, https:\/\/www.johner-institut.de\/blog\/wp-content\/uploads\/2021\/04\/vde-ar-e2841-61-Lifecycle-768x650.png 768w, https:\/\/www.johner-institut.de\/blog\/wp-content\/uploads\/2021\/04\/vde-ar-e2841-61-Lifecycle-200x169.png 200w, https:\/\/www.johner-institut.de\/blog\/wp-content\/uploads\/2021\/04\/vde-ar-e2841-61-Lifecycle-400x339.png 400w, https:\/\/www.johner-institut.de\/blog\/wp-content\/uploads\/2021\/04\/vde-ar-e2841-61-Lifecycle-600x508.png 600w, https:\/\/www.johner-institut.de\/blog\/wp-content\/uploads\/2021\/04\/vde-ar-e2841-61-Lifecycle-800x677.png 800w, https:\/\/www.johner-institut.de\/blog\/wp-content\/uploads\/2021\/04\/vde-ar-e2841-61-Lifecycle-1200x1016.png 1200w, https:\/\/www.johner-institut.de\/blog\/wp-content\/uploads\/2021\/04\/vde-ar-e2841-61-Lifecycle.png 1396w\" sizes=\"auto, (max-width: 300px) 100vw, 300px\" \/><\/a><figcaption><em>Abb. 3: Die Anwendungsregel VDE-AR-E 2842-61 besteht aus mehreren Teilen, die den ganzen Lebenszyklus von KI-Systemen abdecken. Die Nummern beziehen sich auf die Teile \/ B\u00e4nde dieser Anwendungsregel.<\/em> (Quelle: Dr. Henrik Putzer, Arbeitskreis <meta charset=\"utf-8\"><em>VDE-AR-E 2842-61<\/em>) (zum Vergr\u00f6\u00dfern klicken)<\/figcaption><\/figure>\n\n\n\n<h3 class=\"wp-block-heading\">a) \u201eInitiation\u201c: Festlegen der Zweckbestimmung<\/h3>\n\n\n\n<p>Die VDE-AR-E 2842-61 bietet mehrere Ans\u00e4tze an, um bei KI-Systemen mit den Risiken durch unvollst\u00e4ndige oder unklare Zweckbestimmungen umzugehen.<\/p>\n\n\n\n<figure class=\"wp-block-table\"><table><tbody><tr><td>\n<p><strong>Problem<\/strong><\/p>\n<\/td><td>\n<p><strong>L\u00f6sungsans\u00e4tze der VDE-AR-E 2842-61<\/strong><\/p>\n<\/td><\/tr><tr><td>\n<p>F\u00fcr generische Systeme wie Cobots (siehe oben) gibt es keine spezifische Zweckbestimmung. Diese k\u00f6nnen einfach f\u00fcr neue Zweckbestimmungen umprogrammiert oder angepasst werden.<\/p>\n<\/td><td>\n<p>Konzepte f\u00fcr <strong>generische Sicherheitsnachweise<\/strong> (\u201eTrustworthiness out of context\u201c) in Anlehnung an die Automotive Norm ISO 26262<\/p>\n<\/td><\/tr><tr><td>\n<p>Keine klare Erwartungshaltung, sondern Ansicht \u201edie KI l\u00f6st dann alles schon irgendwie intelligent\u201c<\/p>\n<\/td><td> <p>Festlegung von Use Cases und dem zu erzielenden Nutzen (intended benefit). Diese werden mit einer klaren <strong>Ontologie<\/strong> hinterlegt, die auch bei der Anforderungsbeschreibung (inkl. Traceability) genutzt und in sp\u00e4teren Phasen verfeinert und nutzbar gemacht wird bis hin zu Coverage-Metriken der Datens\u00e4tze.<\/p> <\/td><\/tr><tr><td>\n<p>Das KI-System wird nicht \u00fcber seinen ganzen Lebenszyklus betrachtet. Beispielsweise fehlen Elemente des bestimmungsgem\u00e4\u00dfen Gebrauchs wie das Update und die Wartung des Systems.<\/p>\n<\/td><td>\n<p>Produkt-Lebenszyklus mit Hilfe einer <strong>Customer Journey Map<\/strong> bzw. <strong>UX \/ Experience-Map<\/strong> modellieren<\/p>\n<\/td><\/tr><\/tbody><\/table><\/figure>\n\n\n\n<h3 class=\"wp-block-heading\">b) \u201eSolution Level\u201c: Spezifikation der KI-Systeme<\/h3>\n\n\n\n<p>Auch f\u00fcr die bereits oben beschriebenen Risiken durch Spezifikationsl\u00fccken und unbekannte Situationen bietet die VDE-AR-E 2842-61 L\u00f6sungsans\u00e4tze.<\/p>\n\n\n\n<figure class=\"wp-block-table\"><table><tbody><tr><td>\n<p><strong>Problem<\/strong><\/p>\n<\/td><td>\n<p><strong>L\u00f6sungsans\u00e4tze der VDE-AR-E 2842-61<\/strong><\/p>\n<\/td><\/tr><tr><td>\n<p>Unpr\u00e4zise und nicht eindeutige Spezifikationen<\/p>\n<\/td><td>\n<p>Modellierung und Notationen (s.o.):<\/p>\n<ul>\n<li>Ontologien<\/li>\n<li>BPMN\/SysML f\u00fcr Beschreibung der Black-box<\/li>\n<li>Abnahmekriterien, die die Performance und alle \u201eTrustworthiness-Aspekte\u201c abdecken. Diese Abnahmekriterien geben auch die zu erreichenden Abdeckungsgrade an, die bei den Tests erzielt werden m\u00fcssen<\/li>\n<\/ul>\n<\/td><\/tr><tr><td>Die Aufteilung der Aufgaben und Verantwortlichkeiten zwischen Anwendern und KI-System ist nicht pr\u00e4zise festgelegt (z.B. zwischen dem Chirurgen und OP-Roboter)<\/td><td><strong>Definierte Notation<\/strong> (z.B. <a href=\"https:\/\/de.wikipedia.org\/wiki\/Business_Process_Model_and_Notation\" target=\"_blank\" rel=\"noreferrer noopener\">BPMN<\/a>\/<a href=\"https:\/\/de.wikipedia.org\/wiki\/Systems_Modeling_Language\" target=\"_blank\" rel=\"noreferrer noopener\">SysML<\/a>), um ein \u201eSolution Concept\u201c f\u00fcr die Blackbox des Systems zu modellieren.<\/td><\/tr><tr><td>\n<p>Spezifische Risiken durch unterschiedliche Situationen z.B. Verf\u00fcgbarkeit von Komponenten des Systems<\/p>\n<\/td><td> <ul><li>Dynamisches Risikomanagement wie im <a href=\"https:\/\/www.johner-institut.de\/blog\/systems-engineering\/autonome-systeme\/\" target=\"_blank\" rel=\"noreferrer noopener\">Artikel zu den autonomen Systemen<\/a> beschrieben.<\/li> <li>mehrdimensionale Risikoanalyse (trustworthiness = Safety + Security + Usability + Ethik + &#8230; hier: safe + effective + secure) und Definition von konfliktfreien Entwicklungszielen (= trustworthiness goals) zur Abdeckung aller Risiken<\/li><\/ul> <\/td><\/tr><tr><td>\n<p>KI wird als Platzhalter f\u00fcr unklare Funktionalit\u00e4t oder technische Umsetzung genutzt<\/p>\n<\/td><td> <p>Funktionsmodell des KI-Systems auf Basis von sense-plan-act oder einer anderen Kognitiven Theorie formulieren. Das liefert in der n\u00e4chsten Phase auch das \u201ewhite-box\u201c-Modell des .<\/p> <\/td><\/tr><\/tbody><\/table><\/figure>\n\n\n\n<h3 class=\"wp-block-heading\">c) \u201eSystem Level\u201c: Beim Entwerfen der System-Architekturen von KI-Systemen<\/h3>\n\n\n\n<p>Auch f\u00fcr die Entwicklung von KI-Systemen bietet die VDE-AR-E 2842-61 L\u00f6sungsans\u00e4tze f\u00fcr typische Risiken.<\/p>\n\n\n\n<figure class=\"wp-block-table\"><table><tbody><tr><td>\n<p><strong>Problem<\/strong><\/p>\n<\/td><td>\n<p><strong>L\u00f6sungsans\u00e4tze der VDE-AR-E 2842-61<\/strong><\/p>\n<\/td><\/tr><tr><td>\n<p>Die Ausgabe von datengetriebenen Modellen unterliegt einer Unsicherheit.<\/p>\n<\/td><td><ul>\n<li>Einsatz von \u201eUncertainty-Wrapper\u201c um diese Unsicherheiten abzusch\u00e4tzen und beim autonom-kognitivem Verhalten zu ber\u00fccksichtigen.<\/li>\n<li>Verwenden von Sicherheitsmargen<\/li>\n<\/ul><\/td><\/tr><tr><td>\n<p>Design ber\u00fccksichtigt die Vorgaben der Spezifikation nicht ausreichend.<\/p>\n<\/td><td><ul>\n<li>Traceability dokumentieren<\/li>\n<li>Strukturiert und hierarchisch entwickeln<\/li>\n<\/ul><\/td><\/tr><tr><td>\n<p>Gew\u00e4hlte Architektur ist nicht die \u201ebeste\u201c<\/p>\n<\/td><td> <p>Design Patterns anwenden f\u00fcr den Nachweis der Trustworthiness und zur Erreichung bestimmter KI-relevanter Produkteigenschaften (kontinuierliches lernen, Erkl\u00e4rbarkeit, etc.)<\/p> <\/td><\/tr><\/tbody><\/table><\/figure>\n\n\n\n<h3 class=\"wp-block-heading\">d) Beim Machine Learning (von Daten spezifizieren bis Modelle trainieren)<\/h3>\n\n\n\n<figure class=\"wp-block-table\"><table><tbody><tr><td>\n<p><strong>Problem<\/strong><\/p>\n<\/td><td>\n<p><strong>L\u00f6sungsans\u00e4tze der VDE-AR-E 2842-61<\/strong><\/p>\n<\/td><\/tr><tr><td>\n<p>Sicherheitsnachweise sind schwerer zu f\u00fchren<\/p>\n<\/td><td> <ul><li>Fortschreiben der \u201e<a href=\"https:\/\/www.york.ac.uk\/media\/assuring-autonomy\/documents\/AMLASv1.1.pdf\">Trustworthiness Assurance Case\u201c wie z.B. hier f\u00fcr KI beschrieben<\/a>.<\/li> <li>Verwenden von Metriken f\u00fcr diese Assurance Cases wie z.B. Dichte von Datens\u00e4tzen, Heat-Map-Analysen, Adversarial Sensitivity<\/li><\/ul> <\/td><\/tr><tr><td>\n<p>Suboptimales Modell gew\u00e4hlt<\/p>\n<\/td><td><ul>\n<li>Verwenden von KI-Blueprints<\/li>\n<li>Beschr\u00e4nken des Einsatzes der KI<\/li>\n<\/ul><\/td><\/tr><\/tbody><\/table><\/figure>\n\n\n\n<h3 class=\"wp-block-heading\">e) Beim Verifizieren und Validieren der KI-Systeme<\/h3>\n\n\n\n<p>Die VDE-AR-E 2842-61 nennt L\u00f6sungsans\u00e4tze f\u00fcr alle Ebenen der Verifizierung und Validierung.<\/p>\n\n\n\n<figure class=\"wp-block-table\"><table><tbody><tr><td>\n<p><strong>Problem<\/strong><\/p>\n<\/td><td>\n<p><strong>L\u00f6sungsans\u00e4tze der VDE-AR-E 2842-61<\/strong><\/p>\n<\/td><\/tr><tr><td>\n<p>Falsche Schlussfolgerungen aus Testergebnissen z.B. weil im Trustworthiness Assurance Case ein Claim gemacht wird basierend auf Testergebnissen, dieser Claim aber nicht valide ist. z.B. weil Besonderheiten des tats\u00e4chlichen Anwendungskontexts (Target Application Scopes) nicht ber\u00fccksichtigt wurden<\/p>\n<\/td><td><ul>\n<li>Methodensammlung und Hilfestellung bei der Auswahl z.B. Statistisches Testen, klare Metriken auf der rechten Seite des V-Modells, NN-Stresstests mit Adversarial Testing, NN-Analyse mit heat-maps etc.<\/li>\n<li>Konstruktive Hilfestellung bez\u00fcglich des Aufbaus der Sicherheitsargumentation basierend auf den Ergebnissen \/ Anwendungen der Methoden<\/li>\n<li>Hinweise zu h\u00e4ufigen Fehlern bei der Argumentation<\/li>\n<\/ul><\/td><\/tr><tr><td>\n<p>Unvollst\u00e4ndige Nachweise<\/p>\n<\/td><td> <p>Klare Festlegung dieser Ziele aus der Trustworthiness Analyse heraus; Traceability; und Nachweis im \u201etrustworthiness assurance case\u201c mit geeigneter, strukturierter Argumentation (z.B. mit GSN), welche geeignete Tangibles (Testberichte, Analysen etc.) als Evidenzen nutzt.<\/p> <\/td><\/tr><\/tbody><\/table><\/figure>\n\n\n\n<h3 class=\"wp-block-heading\">f) W\u00e4hrend der Post-Market Surveillance<\/h3>\n\n\n\n<figure class=\"wp-block-table\"><table><tbody><tr><td>\n<p><strong>Problem<\/strong><\/p>\n<\/td><td>\n<p><strong>L\u00f6sungsans\u00e4tze der VDE-AR-E 2842-61<\/strong><\/p>\n<\/td><\/tr><tr><td> <p>Die <a href=\"https:\/\/www.johner-institut.de\/blog\/iso-14971-risikomanagement\/safety-assurance-cases\/\">Assurance Cases<\/a> enthalten viele Annahmen zum Anwendungskontext. Diese k\u00f6nnen sich als in der Praxis nicht zutreffend erweisen.<\/p> <\/td><td><ul> <li>Das System wird nur f\u00fcr die den Einsatz gem\u00e4\u00df der Zweckbestimmung (inkl. Nutzungsumgebung) \u201ezugelassen\u201c<\/li> <li>Den Tats\u00e4chlichen Einsatz des Systems im Rahmen der <a href=\"https:\/\/www.johner-institut.de\/blog\/regulatory-affairs\/post-market-surveillance\/\" target=\"_blank\" rel=\"noreferrer noopener\">Post-Market-Surveillance <\/a>beobachten und fortlaufend pr\u00fcfen, ob die Annahmen der Assurance Cases erf\u00fcllt sind<\/li> <li>Schrittweises Einf\u00fchren der Systeme ggf. unter Beobachtung (\u201eBootstrap Ansatz\u201c)<\/li> <\/ul><\/td><\/tr><\/tbody><\/table><\/figure>\n\n\n\n<h2 aria-label=\"4. VDE-AR-E 2842-61\">4. Die Normenfamilie VDE-AR-E 2842-61<\/h2>\n\n\n\n<h3 class=\"wp-block-heading\">a) Anwendungsbereich<\/h3>\n\n\n\n<p>Die VDE-AR-E 2842-61 ist f\u00fcr alle Branchen und alle Applikationen anwendbar, die zur Klasse der autonom kognitiven Systeme, insbesondere der KI-Systeme z\u00e4hlen. Sie bezeichnet diese Systeme auch als \u201eSystem of Systems\u201c. Dabei w\u00e4ren unter \u201eSystems\u201c im Sinne des Medizinprodukterechts eher \u201eProdukte\u201c zu verstehen, keine Systeme im Sinne des <a href=\"https:\/\/www.johner-institut.de\/blog\/wp-content\/uploads\/2020\/02\/MDR_konsolidiert.html#artikel-22\" target=\"_blank\" rel=\"noreferrer noopener\">Artikels 22 (\u201eSysteme und Behandlungseinheiten\u201c)<\/a>.<\/p>\n\n\n\n<p>Die VDE-AR-E 2842-61 hat aber keinen spezifischen Bezug zu Medizinprodukten.<\/p>\n\n\n\n<p>Dennoch empfiehlt sich die Norm auch bei Medizinprodukten f\u00fcr die Sicherheitsargumentation mit Beh\u00f6rden und Benannten Stellen. Sie f\u00fcgt bestehenden Regularien neue Aspekte wie die <a href=\"https:\/\/www.johner-institut.de\/blog\/wp-content\/uploads\/2020\/02\/MDR_konsolidiert.html#artikel-22\"><strong>Uncertainty<\/strong><\/a> hinzu.<\/p>\n\n\n\n<p>Sie VDE-AR-E 2842-61 empfiehlt sich<\/p>\n\n\n\n<ul class=\"wp-block-list\"><li>bei der Entwicklung neuer Produkte \/ Systeme,<\/li><li>bei der Weiterentwicklung dieser Produkte \/ Systeme und<\/li><li>als Checkliste f\u00fcr die Bewertung neuer und bestehender Systeme.<\/li><\/ul>\n\n\n\n<h3 class=\"wp-block-heading\">b) \u00dcbersicht \u00fcber die Normenfamilie<\/h3>\n\n\n\n<p>Die Anwendungsregel VDE-AR-E 2842-61 besteht aus einer ganzen Normen-Familie.<\/p>\n\n\n\n<figure class=\"wp-block-table\"><table><tbody><tr><td>\n<p><strong>Teil<\/strong><\/p>\n<\/td><td>\n<p><strong>Titel<\/strong><\/p>\n<\/td><td>\n<p><strong>Status<\/strong><\/p>\n<\/td><\/tr><tr><td>\n<p>VDE-AR-E 2842-61-1<\/p>\n<\/td><td>\n<p>Terms and Concepts<\/p>\n<\/td><td>\n<p>verf\u00fcgbar<\/p>\n<\/td><\/tr><tr><td>\n<p>VDE-AR-E 2842-61-2<\/p>\n<\/td><td>\n<p>Management<\/p>\n<\/td><td>\n<p>verf\u00fcgbar<\/p>\n<\/td><\/tr><tr><td>\n<p>VDE-AR-E 2842-61-3<\/p>\n<\/td><td>\n<p>Development at Solution Level<\/p>\n<\/td><td>\n<p>abgeschlossen, in Freigabe<\/p>\n<\/td><\/tr><tr><td>\n<p>VDE-AR-E 2842-61-4<\/p>\n<\/td><td>\n<p>Development at System Level<\/p>\n<\/td><td>\n<p>erwartet f\u00fcr 2021-Q2<\/p>\n<\/td><\/tr><tr><td>\n<p>VDE-AR-E 2842-61-5<\/p>\n<\/td><td>\n<p>Development at Technology Level<\/p>\n<\/td><td>\n<p>erwartet f\u00fcr 2021-Q2<\/p>\n<\/td><\/tr><tr><td>\n<p>VDE-AR-E 2842-61-6<\/p>\n<\/td><td>\n<p>After Release of the Solution<\/p>\n<\/td><td>\n<p>verf\u00fcgbar<\/p>\n<\/td><\/tr><tr><td>\n<p>VDE-AR-E 2842-61-7<\/p>\n<\/td><td>\n<p>Application Guide<\/p>\n<\/td><td>\n<p>zur\u00fcckgestellt<\/p>\n<\/td><\/tr><\/tbody><\/table><\/figure>\n\n\n\n<figure class=\"wp-block-image size-medium\"><a href=\"https:\/\/www.johner-institut.de\/blog\/wp-content\/uploads\/2021\/04\/VDE-AR-E-2842-61.jpeg\" data-rel=\"lightbox-image-3\" data-rl_title=\"\" data-rl_caption=\"\" title=\"\"><img loading=\"lazy\" decoding=\"async\" width=\"300\" height=\"249\" src=\"https:\/\/www.johner-institut.de\/blog\/wp-content\/uploads\/2021\/04\/VDE-AR-E-2842-61-300x249.jpeg\" alt=\"\u00dcbersicht \u00fcber die Familie der Normen der VDE-AR-E 2842-61\" class=\"wp-image-4056149\" srcset=\"https:\/\/www.johner-institut.de\/blog\/wp-content\/uploads\/2021\/04\/VDE-AR-E-2842-61-300x249.jpeg 300w, https:\/\/www.johner-institut.de\/blog\/wp-content\/uploads\/2021\/04\/VDE-AR-E-2842-61-1024x849.jpeg 1024w, https:\/\/www.johner-institut.de\/blog\/wp-content\/uploads\/2021\/04\/VDE-AR-E-2842-61-768x637.jpeg 768w, https:\/\/www.johner-institut.de\/blog\/wp-content\/uploads\/2021\/04\/VDE-AR-E-2842-61-200x166.jpeg 200w, https:\/\/www.johner-institut.de\/blog\/wp-content\/uploads\/2021\/04\/VDE-AR-E-2842-61-400x332.jpeg 400w, https:\/\/www.johner-institut.de\/blog\/wp-content\/uploads\/2021\/04\/VDE-AR-E-2842-61-600x497.jpeg 600w, https:\/\/www.johner-institut.de\/blog\/wp-content\/uploads\/2021\/04\/VDE-AR-E-2842-61-800x663.jpeg 800w, https:\/\/www.johner-institut.de\/blog\/wp-content\/uploads\/2021\/04\/VDE-AR-E-2842-61.jpeg 1075w\" sizes=\"auto, (max-width: 300px) 100vw, 300px\" \/><\/a><figcaption>Abbildung 4: \u00dcbersicht \u00fcber die Familie der Normen der VDE-AR-E 2842-61 (zum Vergr\u00f6\u00dfern klicken) Quelle: Figure 2 der VDE-AR-E 2842-61-1<\/figcaption><\/figure>\n\n\n\n<h3 class=\"wp-block-heading\">c) Struktur und Beispiele<\/h3>\n\n\n\n<figure class=\"wp-block-table\"><table><tbody><tr><td>\n<p><strong>Konzept der Norm<\/strong><\/p>\n<\/td><td>\n<p><strong>Beispiel<\/strong><\/p>\n<\/td><\/tr><tr><td>\n<p>Die Normen unterteilt die Anforderungen entlang des Lebenszyklus des Produkts in Kapitel (Section) und Unterkapitel (Sub-Section).<\/p>\n<\/td><td>\n<p>Der 3. Teil der Norm kennt die Kapitel 7 \u201eSolution Concept\u201c und 8 \u201eTrustworthiness Concept\u201c.<\/p>\n<\/td><\/tr><tr><td>\n<p>F\u00fcr jedes Kapitel verlangt sie von den Verantwortlichen (\u201eResponsible\u201c), Ziele festzulegen.<\/p>\n<\/td><td>\n<p>Zu den Zielen des \u201eTrustworthiness Concepts\u201c z\u00e4hlen:<\/p>\n<ul><li>Relevante Aspekte der Trustworthiness bestimmen<\/li>\n<li>Gef\u00e4hrdungen identifizieren und Risiken absch\u00e4tzen<\/li>\n<li>Trustworthiness Goals festzulegen (d.h. das Ziel besteht darin andere Ziele zu bestimmen)<\/li>\n<li>\u201eTrustworthiness measures\u201c zu bestimmen und dem \u201eSolution Konzept\u201c zuzuordnen<\/li><\/ul>\n<\/td><\/tr><tr><td>\n<p>Um das jeweilige Ziel zu erreichen, m\u00fcssen bestimmte Aufgaben (\u201eTask\u201c) erledigen werden.<\/p>\n<\/td><td>\n<p>Das Ziel \u201eRelevante Aspekte der Trustworthiness bestimmen\u201c setzt die Norm mit der gleichlautenden Aufgabe gleich.<\/p>\n<\/td><\/tr><tr><td>\n<p>Dabei besteht jede Aufgabe aus einem Satz an Aktivit\u00e4ten (\u201eActivity\u201c).<\/p>\n<\/td><td> <p>Zu den 10 Aktivit\u00e4ten z\u00e4hlen das Identifizieren von relevanten Normen (z.B. IEC 61508) und das Festlegen der \u201eTrustworthiness Aspects\u201c (z.B. die der <a href=\"https:\/\/www.johner-institut.de\/blog\/iec-62304-medizinische-software\/iso-9126-und-iso-25010\/\" target=\"_blank\" rel=\"noreferrer noopener\">ISO 25020<\/a>).<\/p> <\/td><\/tr><tr><td>\n<p>F\u00fcr einige dieser Aktivit\u00e4ten legt die Norm die zu ber\u00fccksichtigenden Inputs fest.<\/p>\n<\/td><td>\n<p>Um die Trustworthiness Aspects festzulegen, muss der\/die Verantwortliche die User Requirements und die regulatorischen Anforderungen ber\u00fccksichtigen.<\/p>\n<\/td><\/tr><tr><td>\n<p>F\u00fcr diese Aktivit\u00e4ten k\u00f6nnen Hilfsmittel (\u201eMean\u201c) wir Werkzeuge, Templates oder andere Ressourcen festgelegt werden.<\/p>\n<\/td><td>\n<p>Zu den Hilfsmitteln z\u00e4hlen beispielsweise die o.g. Normen sowie Literaturhinweise.<\/p>\n<\/td><\/tr><\/tbody><\/table><\/figure>\n\n\n\n<figure class=\"wp-block-image size-large\"><a href=\"https:\/\/www.johner-institut.de\/blog\/wp-content\/uploads\/2021\/04\/Konzept-der-VDE-AR-E-2842-61-KI-Systeme.png\" data-rel=\"lightbox-image-4\" data-rl_title=\"\" data-rl_caption=\"\" title=\"\"><img loading=\"lazy\" decoding=\"async\" width=\"1024\" height=\"578\" src=\"https:\/\/www.johner-institut.de\/blog\/wp-content\/uploads\/2021\/04\/Konzept-der-VDE-AR-E-2842-61-KI-Systeme-1024x578.png\" alt=\"Das Konzept der VDE-AR-E 2842-61 als UML-Klassendiagramm\" class=\"wp-image-4056158\" srcset=\"https:\/\/www.johner-institut.de\/blog\/wp-content\/uploads\/2021\/04\/Konzept-der-VDE-AR-E-2842-61-KI-Systeme-1024x578.png 1024w, https:\/\/www.johner-institut.de\/blog\/wp-content\/uploads\/2021\/04\/Konzept-der-VDE-AR-E-2842-61-KI-Systeme-300x169.png 300w, https:\/\/www.johner-institut.de\/blog\/wp-content\/uploads\/2021\/04\/Konzept-der-VDE-AR-E-2842-61-KI-Systeme-768x434.png 768w, https:\/\/www.johner-institut.de\/blog\/wp-content\/uploads\/2021\/04\/Konzept-der-VDE-AR-E-2842-61-KI-Systeme-200x113.png 200w, https:\/\/www.johner-institut.de\/blog\/wp-content\/uploads\/2021\/04\/Konzept-der-VDE-AR-E-2842-61-KI-Systeme-400x226.png 400w, https:\/\/www.johner-institut.de\/blog\/wp-content\/uploads\/2021\/04\/Konzept-der-VDE-AR-E-2842-61-KI-Systeme-600x339.png 600w, https:\/\/www.johner-institut.de\/blog\/wp-content\/uploads\/2021\/04\/Konzept-der-VDE-AR-E-2842-61-KI-Systeme-800x452.png 800w, https:\/\/www.johner-institut.de\/blog\/wp-content\/uploads\/2021\/04\/Konzept-der-VDE-AR-E-2842-61-KI-Systeme-1200x678.png 1200w, https:\/\/www.johner-institut.de\/blog\/wp-content\/uploads\/2021\/04\/Konzept-der-VDE-AR-E-2842-61-KI-Systeme.png 1232w\" sizes=\"auto, (max-width: 1024px) 100vw, 1024px\" \/><\/a><figcaption>Abb. 5: Das Konzept der VDE-AR-E 2842-61 als UML-Klassendiagramm<\/figcaption><\/figure>\n\n\n\n<h2 aria-label=\"5. Verbindlichkeit\">5. Verbindlichkeit der VDE-AR-E 2842-61<\/h2>\n\n\n\n<p>Die VDE-AR-E 2842-61 ist keine <a href=\"https:\/\/www.johner-institut.de\/blog\/regulatory-affairs\/harmonisierte-normen\/\" target=\"_blank\" rel=\"noreferrer noopener\">harmonisierte Norm<\/a>. Sie ist auch nicht f\u00fcr die Harmonisierung vorgesehen. Die Wahrscheinlichkeit, dass ein Auditor oder Pr\u00fcfer einer Benannten Stelle diese Normenfamilie als Stand der Technik einfordert, ist (noch) gering.<\/p>\n\n\n\n<p>Die Konzepte der Normenfamilie erg\u00e4nzen sich gut mit denen der Normen <a href=\"https:\/\/www.johner-institut.de\/blog\/category\/iso-14971-risikomanagement\/\" target=\"_blank\" rel=\"noreferrer noopener\">ISO 14971<\/a>, <a href=\"https:\/\/www.johner-institut.de\/blog\/tag\/iec-60601-1\/\" target=\"_blank\" rel=\"noreferrer noopener\">IEC 60601<\/a> und <a href=\"https:\/\/www.johner-institut.de\/blog\/category\/iec-62304-medizinische-software\/\" target=\"_blank\" rel=\"noreferrer noopener\">IEC 62304<\/a>. Das gilt insbesondere f\u00fcr<\/p>\n\n\n\n<ul class=\"wp-block-list\"><li>das Risikomanagement,<\/li><li>den \u201erisk based approach,<\/li><li>das Dokumentations- bzw. Entwicklungs- und Lebenszyklusmodell (das ans V-Modell angelehnt erscheint).<\/li><\/ul>\n\n\n\n<h2 class=\"wp-block-heading\">6. Zusammenfassung<\/h2>\n\n\n\n<h3 class=\"wp-block-heading\">a) Was gef\u00e4llt<\/h3>\n\n\n\n<p>Die Normenfamilie VDE-AR-E 2842-61 geht sehr systematisch vor. Sie verwendet ein Datenmodell und nutzt selbst eine klare und weitgehend umfassende Terminologie.<\/p>\n\n\n\n<p>Es gef\u00e4llt auch, dass sie den ganzen Lebenszyklus autonom kognitiver Systeme wie KI-Systeme abdeckt und ihren Aufbau an diesen Lebenszyklusphasen ausrichtet. Das erleichtert die Zuordnung.<\/p>\n\n\n\n<p>Die Autoren sind offensichtlich in logischen Strukturen und Konzepten denkende Expert:innen f\u00fcr KI-Systeme.<\/p>\n\n\n\n<h3 class=\"wp-block-heading\">b) Was nachdenken l\u00e4sst<\/h3>\n\n\n\n<p>Die VDE-AR-E 2842-61 ist keine branchenspezifische Norm. Daher ist der Leser manchmal nicht ganz sicher, wie die vorgestellten Konzepte im Sinne der ISO 14971 umzusetzen sind. Das liegt auch daran, dass die Normenfamilie zentrale Begriffe wie \u201eRisk\u201c und \u201eHazard\u201c (noch) nicht definiert und (noch) nicht festlegt ab welchem Risiko welcher L\u00f6sungsansatz anzuwenden ist.<\/p>\n\n\n\n<p>Die sieben (noch nicht alle ver\u00f6ffentlichen) Teile umfassen mehrere Hundert Seiten an Text. Dieser wirkt an manchen Stellen etwas akademisch. Mancher Satz l\u00e4sst den Wunsch nach mehr Konkretheit aufkommen:<\/p>\n\n\n\n<blockquote class=\"wp-block-quote is-layout-flow wp-block-quote-is-layout-flow\"><p>The person responsible for the solution level shall use the knowledge gained on hazards and de- graded modes to define trustworthiness measures to cover all trustworthiness goals and further constraints given by their attributes (e.g. timely detection and control of relevant functional &#8211; consider safe state).<\/p><cite><meta charset=\"utf-8\">Quelle: VDE-AR-E 2842-61-3, Kapitel 8<\/cite><\/blockquote>\n\n\n\n<p>Zwar enthalten die Anh\u00e4nge Beispiele. Dennoch w\u00e4re es w\u00fcnschenswert gewesen, wenn nicht ausgerechnet der siebte Teil (\u201eApplication Guide\u201c) zur\u00fcckgestellt worden w\u00e4re.<\/p>\n\n\n\n<p>Wer wie beispielweise McKinsey-Berater das <a href=\"https:\/\/en.wikipedia.org\/wiki\/MECE_principle\" target=\"_blank\" rel=\"noreferrer noopener\">MECE-Prinzip<\/a> und das &#8222;<a href=\"https:\/\/www.amazon.de\/Pyramid-Principle-Writing-Thinking-Financial\/dp\/0273710516\" target=\"_blank\" rel=\"noreferrer noopener nofollow\">Pyramid Konzept<\/a>&#8220; verinnerlicht hat, wird sich fragen, ob die Hierarchie der Konzepte ausreichend trennscharf ist. Das folgende Beispiel stammt aus dem achten Kapitel des dritten Teils (Section 3-8):<\/p>\n\n\n\n<figure class=\"wp-block-table\"><table><tbody><tr><td> <p><strong>Element<\/strong><span style=\"font-family: inherit; font-size: inherit; font-weight: inherit; background-color: rgb(255, 255, 255); letter-spacing: 0px;\"> <\/span><\/p><\/td><td> <strong>Beispiel aus der VDE-AR-E 2842-61 <\/strong><\/td><td> <p><strong>Kommentar<\/strong><\/p> <\/td><\/tr><tr><td>\n<p>Ziele (Objectives)<\/p>\n<\/td><td>\n<p>The objectives of this section are:<\/p>\n<p>(1) to define the applicable trustworthiness aspects and to integrate relevant analysis methods from other standards;<\/p>\n<\/td><td> <p>Das ist eher eine Aufgabe al sein Ziel.<\/p> <p>Das eigentliche Ziel dieser Sektion besteht darin ein \u201eTrustworthy Solution Concept\u201c zu entwickeln.<\/p> <\/td><\/tr><tr><td>\n<p>Aufgaben (Tasks)<\/p>\n<\/td><td>\n<p>to define the applicable trustworthiness aspects and to integrate relevant analysis meth- ods from other standards;<\/p>\n<\/td><td>\n<p>Das ist wortgleich der Formulierung eines der Ziele.<\/p>\n<\/td><\/tr><tr><td>\n<p>Aktivit\u00e4ten (Activities)<\/p>\n<\/td><td>\n<p>The person responsible for the solution level shall define the applicable trustworthiness aspects.<\/p>\n<\/td><td>\n<p>Diese Formulierung gleich nahezu der vorangegangenen.<\/p>\n<\/td><\/tr><\/tbody><\/table><\/figure>\n\n\n\n<h3 class=\"wp-block-heading\">c) Fazit<\/h3>\n\n\n\n<p>Wer von Berufs wegen KI-Systeme entwickelt, sollte die VDE-AR-E 2842-61 nicht nur kennen, sondern auch ber\u00fccksichtigen. Sie verschafft einen guten \u00dcberblick \u00fcber den Stand der Technik und hilft dabei, keine relevante Lebenszyklusaktivit\u00e4t zu vergessen. <\/p>\n\n\n\n<p>Daher betrifft die Normenfamilie nicht nur die Entwicklung, sondern alle Lebenszyklusphasen: Vom Festlegen der Zweckbestimmung bis zur Post-Market Surveillance.<\/p>\n\n\n\n<p>Die Normenfamilie spielt gut mit den Konzepten der ISO 14971, IEC 60601-1 und der IEC 61508 zusammen. Sie liefert auch Herstellern von Produkten, die in den Anwendungsbereich der IEC 60601-1 fallen wertvolle Hinweise, selbst wenn diese Medizinprodukte keine autonom kognitiver Systeme sind.<\/p>\n\n\n\n<p>Die Anwender der <meta charset=\"utf-8\">VDE-AR-E 2842-61 m\u00fcssen in der Lage sein, in abstrakten Konzepten zu denken und die darin genannten Best Practices auf den konkreten Anwendungsfall anzuwenden. Das setzt hohe Kompetenzen voraus. Kompetenzen, die man von Personen erwarten muss, welche KI-Systeme f\u00fcr die Medizin entwickeln.<\/p>\n\n\n\n<hr class=\"wp-block-separator has-css-opacity\"\/>\n\n\n\n<p>Die <a href=\"https:\/\/www.vde-verlag.de\/schnellsuche\/?suchbegriff=VDE-AR-E-2842-61\" target=\"_blank\" rel=\"noreferrer noopener\">VDE-AR-E-2842-61 ist beim VDE verf\u00fcgbar<\/a>.<\/p>\n\n\n\n<p>An diesem Artikel haben <a href=\"https:\/\/blog.iese.fraunhofer.de\/author\/rasmus-adler\/\">Dr. Rasmus Adler<\/a> vom <a href=\"https:\/\/www.iese.fraunhofer.de\/\">Fraunhofer IESE<\/a> und Dr. Henrik Putzer von der <a href=\"https:\/\/www.fortiss.org\/\">fortiss,<\/a> dem Landesforschungsinstitut des Freistaats Bayern f\u00fcr softwareintensive Systeme, und der <a href=\"http:\/\/cogitron.de\/\">Cogitron<\/a> mitgewirkt. Beide stehen bei R\u00fcckfragen gerne zur Verf\u00fcgung.<\/p>\n\n\n\n<ul class=\"wp-block-list\"><li><a href=\"mailto:rasmus.adler@iese.fraunhofer.de\">rasmus.adler@iese.fraunhofer.de<\/a> &#8211; Program manager &#8222;autonomous systems&#8220; Fraunhofer IESE<\/li><li><a href=\"mailto:putzer@fortiss.org\">putzer@fortiss.org<\/a>&nbsp;&#8211; Kompetenzfeldleiter Truistworthy Autonomous Systems bei der fortiss GmbH (<a href=\"http:\/\/fortiss.org\/\">fortiss.org<\/a>)<\/li><li><a href=\"mailto:henrik.putzer@cogitron.de\">henrik.putzer@cogitron.de<\/a>&nbsp;&#8211; Gesch\u00e4ftsf\u00fchrer und Berater bei der cogitron GmbH (<a href=\"http:\/\/cogitron.de\/\">cogitron.de<\/a>)<\/li><\/ul>\n","protected":false},"excerpt":{"rendered":"<p>Der VDE hat mit der VDE-AR-E 2842-61 eine ganze Familie an normativen Vorgaben f\u00fcr vertrauensw\u00fcrdige autonom kognitive Systeme wie z.B. KI-Systeme erarbeitet. Obwohl diese &#8222;Anwendungsregeln&#8220; nicht spezifisch f\u00fcr eine Dom\u00e4ne wie z.B. Medizinprodukte sind, stellen sie dennoch eine Fundgrube f\u00fcr viele Medizinproduktehersteller dar. Dieser Artikel zeigt Ihnen, was KI-Systeme sind, welche Hersteller welche Teile dieser&hellip;<\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"open","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"jetpack_post_was_ever_published":false,"_jetpack_newsletter_access":"","_jetpack_dont_email_post_to_subs":false,"_jetpack_newsletter_tier_id":0,"_jetpack_memberships_contains_paywalled_content":false,"_jetpack_memberships_contains_paid_content":false,"footnotes":"","jetpack_publicize_message":"","jetpack_publicize_feature_enabled":true,"jetpack_social_post_already_shared":true,"jetpack_social_options":{"image_generator_settings":{"template":"highway","default_image_id":0,"font":"","enabled":false},"version":2}},"categories":[1114],"tags":[180,269,362],"ppma_author":[1210],"class_list":["post-4056065","post","type-post","status-publish","format-standard","hentry","category-systems-engineering","tag-iec-60601-1","tag-medizinische-software","tag-software-architektur","category-1114","description-off"],"yoast_head":"<!-- This site is optimized with the Yoast SEO plugin v27.4 - https:\/\/yoast.com\/product\/yoast-seo-wordpress\/ -->\n<title>Wie wertvoll ist die VDE-AR-E 2842-61 f\u00fcr Hersteller von KI-Systemen?<\/title>\n<meta name=\"description\" content=\"Die VDE-AR-E 2842-61 (KI-Systeme) legt Anforderungen an den ganzen Lebenszyklus. Ist die Norm f\u00fcr Medizinprodukte relevant?\" \/>\n<meta name=\"robots\" content=\"index, follow, max-snippet:-1, max-image-preview:large, max-video-preview:-1\" \/>\n<link rel=\"canonical\" href=\"https:\/\/www.johner-institut.de\/blog\/systems-engineering\/ki-systeme\/\" \/>\n<meta property=\"og:locale\" content=\"de_DE\" \/>\n<meta property=\"og:type\" content=\"article\" \/>\n<meta property=\"og:title\" content=\"Wie wertvoll ist die VDE-AR-E 2842-61 f\u00fcr Hersteller von KI-Systemen?\" \/>\n<meta property=\"og:description\" content=\"Die VDE-AR-E 2842-61 (KI-Systeme) legt Anforderungen an den ganzen Lebenszyklus. Ist die Norm f\u00fcr Medizinprodukte relevant?\" \/>\n<meta property=\"og:url\" content=\"https:\/\/www.johner-institut.de\/blog\/systems-engineering\/ki-systeme\/\" \/>\n<meta property=\"og:site_name\" content=\"Regulatorisches Wissen f\u00fcr Medizinprodukte\" \/>\n<meta property=\"article:publisher\" content=\"https:\/\/www.facebook.com\/JohnerInstitut\/\" \/>\n<meta property=\"article:published_time\" content=\"2021-04-13T06:00:00+00:00\" \/>\n<meta property=\"article:modified_time\" content=\"2023-04-14T07:13:26+00:00\" \/>\n<meta property=\"og:image\" content=\"https:\/\/www.johner-institut.de\/blog\/wp-content\/uploads\/2021\/04\/KI-Systeme.jpeg\" \/>\n<meta name=\"author\" content=\"Prof. Dr. Christian Johner\" \/>\n<meta name=\"twitter:label1\" content=\"Verfasst von\" \/>\n\t<meta name=\"twitter:data1\" content=\"Prof. Dr. Christian Johner\" \/>\n\t<meta name=\"twitter:label2\" content=\"Gesch\u00e4tzte Lesezeit\" \/>\n\t<meta name=\"twitter:data2\" content=\"18\u00a0Minuten\" \/>\n<script type=\"application\/ld+json\" class=\"yoast-schema-graph\">{\"@context\":\"https:\\\/\\\/schema.org\",\"@graph\":[{\"@type\":\"Article\",\"@id\":\"https:\\\/\\\/www.johner-institut.de\\\/blog\\\/systems-engineering\\\/ki-systeme\\\/#article\",\"isPartOf\":{\"@id\":\"https:\\\/\\\/www.johner-institut.de\\\/blog\\\/systems-engineering\\\/ki-systeme\\\/\"},\"author\":{\"name\":\"Prof. Dr. Christian Johner\",\"@id\":\"https:\\\/\\\/www.johner-institut.de\\\/blog\\\/#\\\/schema\\\/person\\\/77ee54cd54e987c0b5738d4cb4c80441\"},\"headline\":\"Weshalb die VDE-AR-E 2842-61 (vertrauensw\u00fcrdige KI-Systeme) nicht nur die Entwicklung betrifft\",\"datePublished\":\"2021-04-13T06:00:00+00:00\",\"dateModified\":\"2023-04-14T07:13:26+00:00\",\"mainEntityOfPage\":{\"@id\":\"https:\\\/\\\/www.johner-institut.de\\\/blog\\\/systems-engineering\\\/ki-systeme\\\/\"},\"wordCount\":3230,\"commentCount\":2,\"publisher\":{\"@id\":\"https:\\\/\\\/www.johner-institut.de\\\/blog\\\/#organization\"},\"image\":{\"@id\":\"https:\\\/\\\/www.johner-institut.de\\\/blog\\\/systems-engineering\\\/ki-systeme\\\/#primaryimage\"},\"thumbnailUrl\":\"https:\\\/\\\/www.johner-institut.de\\\/blog\\\/wp-content\\\/uploads\\\/2021\\\/04\\\/KI-Systeme.jpeg\",\"keywords\":[\"IEC 60601-1: Medizinische elektrische Ger\u00e4te\",\"Medizinische Software \\\/ Medical Device Software\",\"Software-Architektur (IEC-62304-konform)\"],\"articleSection\":[\"Systems Engineering bei Medizinprodukten\"],\"inLanguage\":\"de\",\"potentialAction\":[{\"@type\":\"CommentAction\",\"name\":\"Comment\",\"target\":[\"https:\\\/\\\/www.johner-institut.de\\\/blog\\\/systems-engineering\\\/ki-systeme\\\/#respond\"]}]},{\"@type\":\"WebPage\",\"@id\":\"https:\\\/\\\/www.johner-institut.de\\\/blog\\\/systems-engineering\\\/ki-systeme\\\/\",\"url\":\"https:\\\/\\\/www.johner-institut.de\\\/blog\\\/systems-engineering\\\/ki-systeme\\\/\",\"name\":\"Wie wertvoll ist die VDE-AR-E 2842-61 f\u00fcr Hersteller von KI-Systemen?\",\"isPartOf\":{\"@id\":\"https:\\\/\\\/www.johner-institut.de\\\/blog\\\/#website\"},\"primaryImageOfPage\":{\"@id\":\"https:\\\/\\\/www.johner-institut.de\\\/blog\\\/systems-engineering\\\/ki-systeme\\\/#primaryimage\"},\"image\":{\"@id\":\"https:\\\/\\\/www.johner-institut.de\\\/blog\\\/systems-engineering\\\/ki-systeme\\\/#primaryimage\"},\"thumbnailUrl\":\"https:\\\/\\\/www.johner-institut.de\\\/blog\\\/wp-content\\\/uploads\\\/2021\\\/04\\\/KI-Systeme.jpeg\",\"datePublished\":\"2021-04-13T06:00:00+00:00\",\"dateModified\":\"2023-04-14T07:13:26+00:00\",\"description\":\"Die VDE-AR-E 2842-61 (KI-Systeme) legt Anforderungen an den ganzen Lebenszyklus. Ist die Norm f\u00fcr Medizinprodukte relevant?\",\"breadcrumb\":{\"@id\":\"https:\\\/\\\/www.johner-institut.de\\\/blog\\\/systems-engineering\\\/ki-systeme\\\/#breadcrumb\"},\"inLanguage\":\"de\",\"potentialAction\":[{\"@type\":\"ReadAction\",\"target\":[\"https:\\\/\\\/www.johner-institut.de\\\/blog\\\/systems-engineering\\\/ki-systeme\\\/\"]}]},{\"@type\":\"ImageObject\",\"inLanguage\":\"de\",\"@id\":\"https:\\\/\\\/www.johner-institut.de\\\/blog\\\/systems-engineering\\\/ki-systeme\\\/#primaryimage\",\"url\":\"https:\\\/\\\/www.johner-institut.de\\\/blog\\\/wp-content\\\/uploads\\\/2021\\\/04\\\/KI-Systeme.jpeg\",\"contentUrl\":\"https:\\\/\\\/www.johner-institut.de\\\/blog\\\/wp-content\\\/uploads\\\/2021\\\/04\\\/KI-Systeme.jpeg\",\"width\":480,\"height\":242},{\"@type\":\"BreadcrumbList\",\"@id\":\"https:\\\/\\\/www.johner-institut.de\\\/blog\\\/systems-engineering\\\/ki-systeme\\\/#breadcrumb\",\"itemListElement\":[{\"@type\":\"ListItem\",\"position\":1,\"name\":\"Blog\",\"item\":\"https:\\\/\\\/www.johner-institut.de\\\/blog\\\/\"},{\"@type\":\"ListItem\",\"position\":2,\"name\":\"Systems Engineering bei Medizinprodukten\",\"item\":\"https:\\\/\\\/www.johner-institut.de\\\/blog\\\/category\\\/systems-engineering\\\/\"},{\"@type\":\"ListItem\",\"position\":3,\"name\":\"Weshalb die VDE-AR-E 2842-61 (vertrauensw\u00fcrdige KI-Systeme) nicht nur die Entwicklung betrifft\"}]},{\"@type\":\"WebSite\",\"@id\":\"https:\\\/\\\/www.johner-institut.de\\\/blog\\\/#website\",\"url\":\"https:\\\/\\\/www.johner-institut.de\\\/blog\\\/\",\"name\":\"Regulatorisches Wissen f\u00fcr Medizinprodukte\",\"description\":\"Fachartikel zur Entwicklung und Zulassung von Medizinprodukten und weiteren regulatorischen Themen\",\"publisher\":{\"@id\":\"https:\\\/\\\/www.johner-institut.de\\\/blog\\\/#organization\"},\"potentialAction\":[{\"@type\":\"SearchAction\",\"target\":{\"@type\":\"EntryPoint\",\"urlTemplate\":\"https:\\\/\\\/www.johner-institut.de\\\/blog\\\/?s={search_term_string}\"},\"query-input\":{\"@type\":\"PropertyValueSpecification\",\"valueRequired\":true,\"valueName\":\"search_term_string\"}}],\"inLanguage\":\"de\"},{\"@type\":\"Organization\",\"@id\":\"https:\\\/\\\/www.johner-institut.de\\\/blog\\\/#organization\",\"name\":\"Johner Institut GmbH\",\"url\":\"https:\\\/\\\/www.johner-institut.de\\\/blog\\\/\",\"logo\":{\"@type\":\"ImageObject\",\"inLanguage\":\"de\",\"@id\":\"https:\\\/\\\/www.johner-institut.de\\\/blog\\\/#\\\/schema\\\/logo\\\/image\\\/\",\"url\":\"https:\\\/\\\/www.johner-institut.de\\\/blog\\\/wp-content\\\/uploads\\\/2015\\\/07\\\/Johner-Institut.png\",\"contentUrl\":\"https:\\\/\\\/www.johner-institut.de\\\/blog\\\/wp-content\\\/uploads\\\/2015\\\/07\\\/Johner-Institut.png\",\"width\":1213,\"height\":286,\"caption\":\"Johner Institut GmbH\"},\"image\":{\"@id\":\"https:\\\/\\\/www.johner-institut.de\\\/blog\\\/#\\\/schema\\\/logo\\\/image\\\/\"},\"sameAs\":[\"https:\\\/\\\/www.facebook.com\\\/JohnerInstitut\\\/\",\"https:\\\/\\\/x.com\\\/christianjohner\",\"https:\\\/\\\/www.youtube.com\\\/user\\\/JohnerInstitut\"]},{\"@type\":\"Person\",\"@id\":\"https:\\\/\\\/www.johner-institut.de\\\/blog\\\/#\\\/schema\\\/person\\\/77ee54cd54e987c0b5738d4cb4c80441\",\"name\":\"Prof. Dr. Christian Johner\",\"image\":{\"@type\":\"ImageObject\",\"inLanguage\":\"de\",\"@id\":\"https:\\\/\\\/www.johner-institut.de\\\/blog\\\/wp-content\\\/uploads\\\/2023\\\/05\\\/Christian_Johner.jpgab057afc2debeb41aaf55cce7e79e618\",\"url\":\"https:\\\/\\\/www.johner-institut.de\\\/blog\\\/wp-content\\\/uploads\\\/2023\\\/05\\\/Christian_Johner.jpg\",\"contentUrl\":\"https:\\\/\\\/www.johner-institut.de\\\/blog\\\/wp-content\\\/uploads\\\/2023\\\/05\\\/Christian_Johner.jpg\",\"caption\":\"Prof. Dr. Christian Johner\"},\"description\":\"Professor Johner ist Experte f\u00fcr die Entwicklung und Zulassung von Medizinprodukten, die Software enthalten oder Software sind. Als Auditor, als Mitglied eines Normen-Komitees, als Ausbilder benannter Stellen sowie als Autor mehrerer B\u00fccher und Leitf\u00e4den tr\u00e4gt der promovierte Physiker zur Weiterentwicklung der regulatorischen Landschaft bei. Davon zeugen auch Leitf\u00e4den, die er f\u00fcr die WHO und die Benannten Stellen entwickelt hat. Sein Unternehmen, das Johner Institut, unterst\u00fctzt Medizinproduktehersteller weltweit beim Aufbau von QM-Systemen, bei der Zulassung und Pr\u00fcfung ihrer Produkte sowie bei der digitalen Transformation regulatorischer Prozesse. Es bietet Weiterbildungen wie E-Learning und Seminare an und \u00fcbernimmt f\u00fcr Hersteller Prozesse wie die \u00dcberwachung der Regularien und der Produkte im Markt. Christian Johner lehrte an mehreren Universit\u00e4ten u.a. an der Hochschule Konstanz, der Universit\u00e4t St. Gallen, der Universit\u00e4t W\u00fcrzburg sowie der Stanford University v.a. Software-Architektur, Software-Qualit\u00e4tssicherung und medizinische Informatik.\",\"sameAs\":[\"https:\\\/\\\/www.linkedin.com\\\/in\\\/christianjohner\\\/\",\"https:\\\/\\\/x.com\\\/christianjohner\"],\"url\":\"https:\\\/\\\/www.johner-institut.de\\\/blog\\\/author\\\/christian\\\/\"}]}<\/script>\n<meta name=\"copyright\" content=\"Johner Institut GmbH\" \/>\n<!-- \/ Yoast SEO plugin. -->","yoast_head_json":{"title":"Wie wertvoll ist die VDE-AR-E 2842-61 f\u00fcr Hersteller von KI-Systemen?","description":"Die VDE-AR-E 2842-61 (KI-Systeme) legt Anforderungen an den ganzen Lebenszyklus. Ist die Norm f\u00fcr Medizinprodukte relevant?","robots":{"index":"index","follow":"follow","max-snippet":"max-snippet:-1","max-image-preview":"max-image-preview:large","max-video-preview":"max-video-preview:-1"},"canonical":"https:\/\/www.johner-institut.de\/blog\/systems-engineering\/ki-systeme\/","og_locale":"de_DE","og_type":"article","og_title":"Wie wertvoll ist die VDE-AR-E 2842-61 f\u00fcr Hersteller von KI-Systemen?","og_description":"Die VDE-AR-E 2842-61 (KI-Systeme) legt Anforderungen an den ganzen Lebenszyklus. Ist die Norm f\u00fcr Medizinprodukte relevant?","og_url":"https:\/\/www.johner-institut.de\/blog\/systems-engineering\/ki-systeme\/","og_site_name":"Regulatorisches Wissen f\u00fcr Medizinprodukte","article_publisher":"https:\/\/www.facebook.com\/JohnerInstitut\/","article_published_time":"2021-04-13T06:00:00+00:00","article_modified_time":"2023-04-14T07:13:26+00:00","og_image":[{"url":"https:\/\/www.johner-institut.de\/blog\/wp-content\/uploads\/2021\/04\/KI-Systeme.jpeg","type":"","width":"","height":""}],"author":"Prof. Dr. Christian Johner","twitter_misc":{"Verfasst von":"Prof. Dr. Christian Johner","Gesch\u00e4tzte Lesezeit":"18\u00a0Minuten"},"schema":{"@context":"https:\/\/schema.org","@graph":[{"@type":"Article","@id":"https:\/\/www.johner-institut.de\/blog\/systems-engineering\/ki-systeme\/#article","isPartOf":{"@id":"https:\/\/www.johner-institut.de\/blog\/systems-engineering\/ki-systeme\/"},"author":{"name":"Prof. Dr. Christian Johner","@id":"https:\/\/www.johner-institut.de\/blog\/#\/schema\/person\/77ee54cd54e987c0b5738d4cb4c80441"},"headline":"Weshalb die VDE-AR-E 2842-61 (vertrauensw\u00fcrdige KI-Systeme) nicht nur die Entwicklung betrifft","datePublished":"2021-04-13T06:00:00+00:00","dateModified":"2023-04-14T07:13:26+00:00","mainEntityOfPage":{"@id":"https:\/\/www.johner-institut.de\/blog\/systems-engineering\/ki-systeme\/"},"wordCount":3230,"commentCount":2,"publisher":{"@id":"https:\/\/www.johner-institut.de\/blog\/#organization"},"image":{"@id":"https:\/\/www.johner-institut.de\/blog\/systems-engineering\/ki-systeme\/#primaryimage"},"thumbnailUrl":"https:\/\/www.johner-institut.de\/blog\/wp-content\/uploads\/2021\/04\/KI-Systeme.jpeg","keywords":["IEC 60601-1: Medizinische elektrische Ger\u00e4te","Medizinische Software \/ Medical Device Software","Software-Architektur (IEC-62304-konform)"],"articleSection":["Systems Engineering bei Medizinprodukten"],"inLanguage":"de","potentialAction":[{"@type":"CommentAction","name":"Comment","target":["https:\/\/www.johner-institut.de\/blog\/systems-engineering\/ki-systeme\/#respond"]}]},{"@type":"WebPage","@id":"https:\/\/www.johner-institut.de\/blog\/systems-engineering\/ki-systeme\/","url":"https:\/\/www.johner-institut.de\/blog\/systems-engineering\/ki-systeme\/","name":"Wie wertvoll ist die VDE-AR-E 2842-61 f\u00fcr Hersteller von KI-Systemen?","isPartOf":{"@id":"https:\/\/www.johner-institut.de\/blog\/#website"},"primaryImageOfPage":{"@id":"https:\/\/www.johner-institut.de\/blog\/systems-engineering\/ki-systeme\/#primaryimage"},"image":{"@id":"https:\/\/www.johner-institut.de\/blog\/systems-engineering\/ki-systeme\/#primaryimage"},"thumbnailUrl":"https:\/\/www.johner-institut.de\/blog\/wp-content\/uploads\/2021\/04\/KI-Systeme.jpeg","datePublished":"2021-04-13T06:00:00+00:00","dateModified":"2023-04-14T07:13:26+00:00","description":"Die VDE-AR-E 2842-61 (KI-Systeme) legt Anforderungen an den ganzen Lebenszyklus. Ist die Norm f\u00fcr Medizinprodukte relevant?","breadcrumb":{"@id":"https:\/\/www.johner-institut.de\/blog\/systems-engineering\/ki-systeme\/#breadcrumb"},"inLanguage":"de","potentialAction":[{"@type":"ReadAction","target":["https:\/\/www.johner-institut.de\/blog\/systems-engineering\/ki-systeme\/"]}]},{"@type":"ImageObject","inLanguage":"de","@id":"https:\/\/www.johner-institut.de\/blog\/systems-engineering\/ki-systeme\/#primaryimage","url":"https:\/\/www.johner-institut.de\/blog\/wp-content\/uploads\/2021\/04\/KI-Systeme.jpeg","contentUrl":"https:\/\/www.johner-institut.de\/blog\/wp-content\/uploads\/2021\/04\/KI-Systeme.jpeg","width":480,"height":242},{"@type":"BreadcrumbList","@id":"https:\/\/www.johner-institut.de\/blog\/systems-engineering\/ki-systeme\/#breadcrumb","itemListElement":[{"@type":"ListItem","position":1,"name":"Blog","item":"https:\/\/www.johner-institut.de\/blog\/"},{"@type":"ListItem","position":2,"name":"Systems Engineering bei Medizinprodukten","item":"https:\/\/www.johner-institut.de\/blog\/category\/systems-engineering\/"},{"@type":"ListItem","position":3,"name":"Weshalb die VDE-AR-E 2842-61 (vertrauensw\u00fcrdige KI-Systeme) nicht nur die Entwicklung betrifft"}]},{"@type":"WebSite","@id":"https:\/\/www.johner-institut.de\/blog\/#website","url":"https:\/\/www.johner-institut.de\/blog\/","name":"Regulatorisches Wissen f\u00fcr Medizinprodukte","description":"Fachartikel zur Entwicklung und Zulassung von Medizinprodukten und weiteren regulatorischen Themen","publisher":{"@id":"https:\/\/www.johner-institut.de\/blog\/#organization"},"potentialAction":[{"@type":"SearchAction","target":{"@type":"EntryPoint","urlTemplate":"https:\/\/www.johner-institut.de\/blog\/?s={search_term_string}"},"query-input":{"@type":"PropertyValueSpecification","valueRequired":true,"valueName":"search_term_string"}}],"inLanguage":"de"},{"@type":"Organization","@id":"https:\/\/www.johner-institut.de\/blog\/#organization","name":"Johner Institut GmbH","url":"https:\/\/www.johner-institut.de\/blog\/","logo":{"@type":"ImageObject","inLanguage":"de","@id":"https:\/\/www.johner-institut.de\/blog\/#\/schema\/logo\/image\/","url":"https:\/\/www.johner-institut.de\/blog\/wp-content\/uploads\/2015\/07\/Johner-Institut.png","contentUrl":"https:\/\/www.johner-institut.de\/blog\/wp-content\/uploads\/2015\/07\/Johner-Institut.png","width":1213,"height":286,"caption":"Johner Institut GmbH"},"image":{"@id":"https:\/\/www.johner-institut.de\/blog\/#\/schema\/logo\/image\/"},"sameAs":["https:\/\/www.facebook.com\/JohnerInstitut\/","https:\/\/x.com\/christianjohner","https:\/\/www.youtube.com\/user\/JohnerInstitut"]},{"@type":"Person","@id":"https:\/\/www.johner-institut.de\/blog\/#\/schema\/person\/77ee54cd54e987c0b5738d4cb4c80441","name":"Prof. Dr. Christian Johner","image":{"@type":"ImageObject","inLanguage":"de","@id":"https:\/\/www.johner-institut.de\/blog\/wp-content\/uploads\/2023\/05\/Christian_Johner.jpgab057afc2debeb41aaf55cce7e79e618","url":"https:\/\/www.johner-institut.de\/blog\/wp-content\/uploads\/2023\/05\/Christian_Johner.jpg","contentUrl":"https:\/\/www.johner-institut.de\/blog\/wp-content\/uploads\/2023\/05\/Christian_Johner.jpg","caption":"Prof. Dr. Christian Johner"},"description":"Professor Johner ist Experte f\u00fcr die Entwicklung und Zulassung von Medizinprodukten, die Software enthalten oder Software sind. Als Auditor, als Mitglied eines Normen-Komitees, als Ausbilder benannter Stellen sowie als Autor mehrerer B\u00fccher und Leitf\u00e4den tr\u00e4gt der promovierte Physiker zur Weiterentwicklung der regulatorischen Landschaft bei. Davon zeugen auch Leitf\u00e4den, die er f\u00fcr die WHO und die Benannten Stellen entwickelt hat. Sein Unternehmen, das Johner Institut, unterst\u00fctzt Medizinproduktehersteller weltweit beim Aufbau von QM-Systemen, bei der Zulassung und Pr\u00fcfung ihrer Produkte sowie bei der digitalen Transformation regulatorischer Prozesse. Es bietet Weiterbildungen wie E-Learning und Seminare an und \u00fcbernimmt f\u00fcr Hersteller Prozesse wie die \u00dcberwachung der Regularien und der Produkte im Markt. Christian Johner lehrte an mehreren Universit\u00e4ten u.a. an der Hochschule Konstanz, der Universit\u00e4t St. Gallen, der Universit\u00e4t W\u00fcrzburg sowie der Stanford University v.a. Software-Architektur, Software-Qualit\u00e4tssicherung und medizinische Informatik.","sameAs":["https:\/\/www.linkedin.com\/in\/christianjohner\/","https:\/\/x.com\/christianjohner"],"url":"https:\/\/www.johner-institut.de\/blog\/author\/christian\/"}]}},"jetpack_publicize_connections":[],"jetpack_featured_media_url":"","jetpack-related-posts":[{"id":8774,"url":"https:\/\/www.johner-institut.de\/blog\/iec-62366-usability\/hauptbedienfunktion-iec-62366\/","url_meta":{"origin":4056065,"position":0},"title":"Hauptbedienfunktion: Was die IEC 62366 nicht definiert","author":"Dr. Philipp Schleer","date":"3. Februar 2016","format":false,"excerpt":"Die IEC 62366\u00a0formuliert Anforderungen an die Hauptbedienfunktion von Medizinprodukten. Leider definiert sie den Begriff Funktion nicht\u00a0und sorgt im Anhang f\u00fcr Verwirrung. Dieser Artikel liefert eine Definition und Beispiele nach. \u00a0Inhalts\u00fcbersicht Definition \"Hauptbedienfunktion\" \u00bb Was sind Funktionen? \u00bb Was hei\u00dft h\u00e4ufig und sicherheitskritisch? \u00bb Weitere relevante Definitionen \u00bb Update:\u00a0Ich habe den\u2026","rel":"","context":"In &quot;Usability &amp; IEC 62366-1&quot;","block_context":{"text":"Usability &amp; IEC 62366-1","link":"https:\/\/www.johner-institut.de\/blog\/category\/iec-62366-usability\/"},"img":{"alt_text":"Hauptbedienfunktion","src":"https:\/\/i0.wp.com\/www.johner-institut.de\/blog\/wp-content\/uploads\/2014\/11\/Hauptbedienfunktion-300x135.png?resize=350%2C200&ssl=1","width":350,"height":200},"classes":[]},{"id":594006,"url":"https:\/\/www.johner-institut.de\/blog\/systems-engineering\/iso-iec-15408\/","url_meta":{"origin":4056065,"position":1},"title":"ISO\/IEC 15408: IT-Sicherheit von (Medizin-)Produkten bewerten","author":"Christian Rosenzweig","date":"15. Dezember 2016","format":false,"excerpt":"Die ISO\/IEC 15408-1 tr\u00e4gt den Titel \u201eInformation technology \u2014 Security techniques \u2014 Evaluation criteria for IT security \u2014 Part 1: Introduction and general model\u201c. Sie beschreibt ganz allgemein, wie man bei der Bewertung der IT-Sicherheit z.B. von Produkten vorgehen soll. Die konkreten Hinweise, wie gepr\u00fcft werden soll, finden sich in\u2026","rel":"","context":"In &quot;Risikomanagement &amp; ISO 14971&quot;","block_context":{"text":"Risikomanagement &amp; ISO 14971","link":"https:\/\/www.johner-institut.de\/blog\/category\/iso-14971-risikomanagement\/"},"img":{"alt_text":"ISO\/IEC 15408: Konzept auf Klassen, Familien, Komponenten und Elementen","src":"https:\/\/i0.wp.com\/www.johner-institut.de\/blog\/wp-content\/uploads\/2016\/11\/ISO-IEC-15408-Konzept.png?resize=350%2C200&ssl=1","width":350,"height":200,"srcset":"https:\/\/i0.wp.com\/www.johner-institut.de\/blog\/wp-content\/uploads\/2016\/11\/ISO-IEC-15408-Konzept.png?resize=350%2C200&ssl=1 1x, https:\/\/i0.wp.com\/www.johner-institut.de\/blog\/wp-content\/uploads\/2016\/11\/ISO-IEC-15408-Konzept.png?resize=525%2C300&ssl=1 1.5x, https:\/\/i0.wp.com\/www.johner-institut.de\/blog\/wp-content\/uploads\/2016\/11\/ISO-IEC-15408-Konzept.png?resize=700%2C400&ssl=1 2x"},"classes":[]},{"id":5369694,"url":"https:\/\/www.johner-institut.de\/blog\/regulatory-affairs\/wartung-instandhaltung-von-medizinprodukten\/","url_meta":{"origin":4056065,"position":2},"title":"Wartung \/ Instandhaltung von Medizinprodukten","author":"Prof. Dr. Christian Johner","date":"15. Dezember 2024","format":false,"excerpt":"Die Begriffe Wartung, Instandhaltung, Instandsetzung, Inspektion, Service und sicherheitstechnische Kontrolle sind nicht synonym. Aber alle bezeichnen Aktivit\u00e4ten im Lebenszyklus von Medizinprodukten, die dem Ziel dienen, die Sicherheit, Leistungsf\u00e4higkeit und Wirksamkeit dieser Produkte auch nach der Inverkehrbringung zu gew\u00e4hrleisten. Hersteller und Betreiber m\u00fcssen die regulatorischen Anforderungen an die Wartung bzw. Instandhaltung\u2026","rel":"","context":"In &quot;Regulatory Affairs: Regulatorische Anforderungen an Medizinprodukte&quot;","block_context":{"text":"Regulatory Affairs: Regulatorische Anforderungen an Medizinprodukte","link":"https:\/\/www.johner-institut.de\/blog\/category\/regulatory-affairs\/"},"img":{"alt_text":"","src":"https:\/\/i0.wp.com\/www.johner-institut.de\/blog\/wp-content\/uploads\/2023\/02\/Wartung-Instandhaltung-Medizinprodukte-scaled.jpg?resize=350%2C200&ssl=1","width":350,"height":200,"srcset":"https:\/\/i0.wp.com\/www.johner-institut.de\/blog\/wp-content\/uploads\/2023\/02\/Wartung-Instandhaltung-Medizinprodukte-scaled.jpg?resize=350%2C200&ssl=1 1x, https:\/\/i0.wp.com\/www.johner-institut.de\/blog\/wp-content\/uploads\/2023\/02\/Wartung-Instandhaltung-Medizinprodukte-scaled.jpg?resize=525%2C300&ssl=1 1.5x, https:\/\/i0.wp.com\/www.johner-institut.de\/blog\/wp-content\/uploads\/2023\/02\/Wartung-Instandhaltung-Medizinprodukte-scaled.jpg?resize=700%2C400&ssl=1 2x, https:\/\/i0.wp.com\/www.johner-institut.de\/blog\/wp-content\/uploads\/2023\/02\/Wartung-Instandhaltung-Medizinprodukte-scaled.jpg?resize=1050%2C600&ssl=1 3x, https:\/\/i0.wp.com\/www.johner-institut.de\/blog\/wp-content\/uploads\/2023\/02\/Wartung-Instandhaltung-Medizinprodukte-scaled.jpg?resize=1400%2C800&ssl=1 4x"},"classes":[]},{"id":821647,"url":"https:\/\/www.johner-institut.de\/blog\/iso-14971-risikomanagement\/hazop-iec-61882\/","url_meta":{"origin":4056065,"position":3},"title":"HAZOP \u2013 Risikoanalyse konform IEC 61882","author":"Mario Klessascheck","date":"5. September 2019","format":false,"excerpt":"Die HAZOP (Hazard and Operability) ist ein Gef\u00e4hrdungsanalyseverfahren, das die ISO 14971 neben der FMEA, FTA und PHA empfiehlt. Das deutsche Akronym f\u00fcr HAZOP (Hazard and Operability) lautet PAAG. Das steht f\u00fcr Prognose, Auffinden der Ursache, Absch\u00e4tzen der Auswirkungen, Gegenma\u00dfnahmen.Die Norm IEC 61882 beschreibt dieses Verfahren. \u00a0Inhalts\u00fcbersicht HAZOP im \u00dcberblick\u2026","rel":"","context":"In &quot;Risikomanagement &amp; ISO 14971&quot;","block_context":{"text":"Risikomanagement &amp; ISO 14971","link":"https:\/\/www.johner-institut.de\/blog\/category\/iso-14971-risikomanagement\/"},"img":{"alt_text":"HAZOP - Leitworte","src":"https:\/\/i0.wp.com\/www.johner-institut.de\/blog\/wp-content\/uploads\/2017\/07\/hazop-klein.png?resize=350%2C200&ssl=1","width":350,"height":200},"classes":[]},{"id":8419,"url":"https:\/\/www.johner-institut.de\/blog\/iec-62304-medizinische-software\/software-schnittstellen-beschreibung-konform-iec-62304\/","url_meta":{"origin":4056065,"position":4},"title":"Software-Schnittstellen konform IEC 62304","author":"Janos Hackenbeck","date":"30. Januar 2025","format":false,"excerpt":"Interne Software-Schnittstellen sind notwendig, um Software-Komponenten innerhalb eines Software-Systems zu verbinden. Externe Software-Schnittstellen sind die Voraussetzung daf\u00fcr, dass das Software-System mit anderen Systemen kommunizieren kann. Dieser Artikel beschreibt, wie Sie Software-Schnittstellen gesetzeskonform und praxisnah dokumentieren k\u00f6nnen. 1. Interne vs. externe Software-Schnittstellen 1.1 \u00dcbersicht Medizinprodukte, gleich ob Standalone-Software oder physische Ger\u00e4te,\u2026","rel":"","context":"In &quot;Software &amp; IEC 62304&quot;","block_context":{"text":"Software &amp; IEC 62304","link":"https:\/\/www.johner-institut.de\/blog\/category\/iec-62304-medizinische-software\/"},"img":{"alt_text":"Komponenten: Interne und externe Schnittstellen","src":"https:\/\/i0.wp.com\/www.johner-institut.de\/blog\/wp-content\/uploads\/2014\/11\/Komponenten-interne-externe-Schnittstellen.png?resize=350%2C200&ssl=1","width":350,"height":200,"srcset":"https:\/\/i0.wp.com\/www.johner-institut.de\/blog\/wp-content\/uploads\/2014\/11\/Komponenten-interne-externe-Schnittstellen.png?resize=350%2C200&ssl=1 1x, https:\/\/i0.wp.com\/www.johner-institut.de\/blog\/wp-content\/uploads\/2014\/11\/Komponenten-interne-externe-Schnittstellen.png?resize=525%2C300&ssl=1 1.5x, https:\/\/i0.wp.com\/www.johner-institut.de\/blog\/wp-content\/uploads\/2014\/11\/Komponenten-interne-externe-Schnittstellen.png?resize=700%2C400&ssl=1 2x, https:\/\/i0.wp.com\/www.johner-institut.de\/blog\/wp-content\/uploads\/2014\/11\/Komponenten-interne-externe-Schnittstellen.png?resize=1050%2C600&ssl=1 3x"},"classes":[]},{"id":5381085,"url":"https:\/\/www.johner-institut.de\/blog\/regulatory-affairs\/anwendbarkeit-des-ai-acts\/","url_meta":{"origin":4056065,"position":5},"title":"Anwendbarkeit des AI Acts f\u00fcr (Hersteller als) Betreiber","author":"Prof. Dr. Christian Johner","date":"15. April 2025","format":false,"excerpt":"Dieser Artikel untersucht die Anwendbarkeit des AI Acts f\u00fcr Hersteller von Medizinprodukten und IVD, die keine KI-basierten Produkte in den Verkehr bringen. Unter anderem beantwortet er die Frage, ob ein Hersteller den AI Act beachten muss, falls er ChatGPT verwendet oder zur eigenen Nutzung ein KI-System entwickelt, das Kundenr\u00fcckmeldungen klassifiziert.\u2026","rel":"","context":"In &quot;Regulatory Affairs: Regulatorische Anforderungen an Medizinprodukte&quot;","block_context":{"text":"Regulatory Affairs: Regulatorische Anforderungen an Medizinprodukte","link":"https:\/\/www.johner-institut.de\/blog\/category\/regulatory-affairs\/"},"img":{"alt_text":"","src":"https:\/\/i0.wp.com\/www.johner-institut.de\/blog\/wp-content\/uploads\/2025\/04\/Anwendbarkeit-AI-Act.jpg?resize=350%2C200&ssl=1","width":350,"height":200,"srcset":"https:\/\/i0.wp.com\/www.johner-institut.de\/blog\/wp-content\/uploads\/2025\/04\/Anwendbarkeit-AI-Act.jpg?resize=350%2C200&ssl=1 1x, https:\/\/i0.wp.com\/www.johner-institut.de\/blog\/wp-content\/uploads\/2025\/04\/Anwendbarkeit-AI-Act.jpg?resize=525%2C300&ssl=1 1.5x, https:\/\/i0.wp.com\/www.johner-institut.de\/blog\/wp-content\/uploads\/2025\/04\/Anwendbarkeit-AI-Act.jpg?resize=700%2C400&ssl=1 2x, https:\/\/i0.wp.com\/www.johner-institut.de\/blog\/wp-content\/uploads\/2025\/04\/Anwendbarkeit-AI-Act.jpg?resize=1050%2C600&ssl=1 3x"},"classes":[]}],"jetpack_shortlink":"https:\/\/wp.me\/pavawf-h1ap","jetpack_sharing_enabled":true,"authors":[{"term_id":1210,"user_id":1,"is_guest":0,"slug":"christian","display_name":"Prof. Dr. Christian Johner","avatar_url":{"url":"https:\/\/www.johner-institut.de\/blog\/wp-content\/uploads\/2023\/05\/Christian_Johner.jpg","url2x":"https:\/\/www.johner-institut.de\/blog\/wp-content\/uploads\/2023\/05\/Christian_Johner.jpg"},"0":null,"1":"","2":"","3":"","4":"","5":"","6":"","7":"","8":"","9":""}],"_links":{"self":[{"href":"https:\/\/www.johner-institut.de\/blog\/wp-json\/wp\/v2\/posts\/4056065","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.johner-institut.de\/blog\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.johner-institut.de\/blog\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.johner-institut.de\/blog\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/www.johner-institut.de\/blog\/wp-json\/wp\/v2\/comments?post=4056065"}],"version-history":[{"count":20,"href":"https:\/\/www.johner-institut.de\/blog\/wp-json\/wp\/v2\/posts\/4056065\/revisions"}],"predecessor-version":[{"id":5366146,"href":"https:\/\/www.johner-institut.de\/blog\/wp-json\/wp\/v2\/posts\/4056065\/revisions\/5366146"}],"wp:attachment":[{"href":"https:\/\/www.johner-institut.de\/blog\/wp-json\/wp\/v2\/media?parent=4056065"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.johner-institut.de\/blog\/wp-json\/wp\/v2\/categories?post=4056065"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.johner-institut.de\/blog\/wp-json\/wp\/v2\/tags?post=4056065"},{"taxonomy":"author","embeddable":true,"href":"https:\/\/www.johner-institut.de\/blog\/wp-json\/wp\/v2\/ppma_author?post=4056065"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}