Am 19. Februar 2020 hat die EU ein White Paper „On Artificial Intelligence – A European approach to excellence and trust” veröffentlicht.
| Inhaltsübersicht |
|---|
| 1. Aufbau und Ziel des White Papers » |
| 2. (Des)Illusion » |
| 3. Geplante Regularien » |
| 4. Fazit » |
1. Aufbau und Zielsetzung des EU White Papers
Die EU möchte mit dem White Paper ihre Strategie vorstellen, mit der sie zwei wesentliche Ziele zu erreichen hofft:
- Den Einsatz von der künstlichen Intelligenz KI in der EU fördern, um wettbewerbsfähig zu bleiben
- Den Einsatz von KI regulieren, um Schäden wie Diskriminierung und Verletzung des Datenschutzes oder der körperlichen und finanziellen Integrität ihrer Bürger zu minimieren
Das EU White Paper umfasst sechs Kapitel. Das mit Abstand umfangreichste ist dem geplanten regulatorischen Rahmenwerk gewidmet.
2. Die Kapitel 2 bis 4: Zwischen Illusion und Desillusion
Die Kapitel 2, 3 und 4 des EU Whitepapers erläutern den Kontext sowie die übergeordnete Strategie und Zielsetzung der EU.
Beispielsweise fantasieren die Autoren von „preserving the EU’s technological leadership“ und glauben an ein “Europe, which has a strong position in digitised industry [and] is well placed to benefit from the potential of AI“.
Haben wir eine Aufholjagd Europas verpasst? Falls von Ihnen jemand glaubt, dass wir zumindest noch die Rücklichter der chinesischen und der US-amerikanischen Tech-Giganten sehen würde: Bitte melden!
Aber immerhin:
„The objective is to attract over €20 billion of total investment in the EU per year in AI over the next decade.”
Weiter schreibt das Whitepaper:
„Building on the forthcoming pilot investment fund of €100 million in AI and blockchain, the Commission plans to further scale up access to finance in AI under InvestEU.”
20 Mrd. Euro pro Dekade sind 2 Mrd. Euro pro Jahr. Bitte vergleichen Sie das nicht mit den F&E-Ausgaben der bereits erwähnten Tech-Firmen. Google: 7,2 Mrd. US-Dollar. Pro Quartal!
Immerhin erkennt das White Paper an, dass es in Europa einen Engpass an Spezialisten gibt:
“The European approach to AI will need to be underpinned by a strong focus on skills to fill competence shortages.”
Wie sich dieser Engpass mit der angeblichen „technological leadership“ in Übereinklang bringen lässt, bleibt das Geheimnis der Autoren.
3. Kapitel 5: Das geplante regulatorische Rahmenwerk
Das EU Whitepaper beschreibt nochmals die AI-spezifischen Probleme, die durch Regularien beherrscht werden sollen.
a) Ergänzung bestehender Regularien
Zu einen plant die EU, bestehende EU-Verordnungen und EU-Richtlinien zu ergänzen, z.B.:
- Richtlinie 2001/95/EC zur allgemeinen Produktsicherheit
- Richtlinie 2000/43/EC zur Rassengleichheit
- Richtlinien 2000/78/EC und 2006/54/EC zur Gleichbehandlung in Beschäftigung und Beruf
- Richtlinie 2004/113/EC zur Gleichbehandlung von Männern und Frauen beim Zugang zu und bei der Versorgung mit Gütern und Dienstleistungen
- Richtlinie 2005/29/EC zu unlauteren Geschäftspraktiken zwischen Unternehmen und Verbrauchern
- Richtlinie 2011/83/EC Verbraucherrechterichtlinie
- Richtlinie 2016/680 Schutz natürlicher Personen bei der Verarbeitung personenbezogener Daten durch die zuständigen Behörden
- Richtlinie (EU) 2019/882 zu Barrierefreiheitsanforderungen für Produkte und Dienstleistungen
Die Kommission ist der Meinung, dass „the legislative framework could be improved to address the following [AI specific] risks and situations“.
Medizinproduktehersteller müssen schon heute nicht nur die für die Medizinprodukte spezifischen Regularien beachten. So wie Medizinprodukte mit beweglichen Teilen die Maschinenrichtlinie befolgen müssen, müssen Medizinprodukte, die KI verwenden, noch weitere Richtlinien, Verordnungen und Gesetze einhalten.
b) Erweiterung durch neue Regularien
Zu den Prinzipien und Leitlinien bei der Entwicklung neuer Regularien zählt die EU:
- Neue Regularien müssen in der Lage sein, mit dem raschen technologischen Fortschritt Schritt zu halten.
- Kleine Unternehmen dürfen nicht überproportional belastet werden. (Hinweis: So etwas steht auch in der MDR. Die Realität ist bekannt.)
- Die Vorgaben müssen dem Risiko angemessen sein.
- Die Vorgaben müssen ausreichend spezifisch für die Sektoren sein.
Die künftigen Regularien sollen folgende Aspekte adressieren:
- Trainingsdaten (z.B. zum Vermeiden von Diskriminierung und zum Gewährleisten des Datenschutzes)
- Aufbewahrung von Daten und Aufzeichnungen: Hierzu zählt die EU neben dem Code auch wieder die Trainingsdaten (?!) und deren Charakterisierung.
- Bereitstellung von Informationen: z.B.verständliche Angaben in Gebrauchsanweisungen
- Robustheit und Genauigkeit: Zu diesen Aspekten zählt das White Paper auch die Reproduzierbarkeit.
- „Human Oversight“: Dieser Begriff ist doppeldeutig. Zum einen bezeichnet er Nutzungsfehler, zum anderen die menschliche „Aufsicht“, d.h. Kontrolle über das Produkt. Die EU meint letzteres.
- Spezifische Anforderungen für spezielle Anwendungen, z.B. für die biometrische Identifikation
Das White Paper beschreibt bisher nur diese Kategorien an Anforderungen. Die konkreten Anforderungen selbst gilt es erst noch zu erarbeiten.
Lesen Sie hier mehr zum Thema künstliche Intelligenz in der Medizin und den regulatorischen Anforderungen.
Das Johner Institut wird seinen KI-Leitfaden, der von Benannten Stellen bereits verwendet wird, um noch fehlende Aspekte ergänzen.
c) Durchsetzung der Anforderungen
Das EU White Paper zur künstlichen Intelligenz sieht vor, dass diese Anforderungen zumindest teilweise in den Konformitätsbewertungsverfahren nachzuweisen sind. Normen, Werkzeuge und „Digital Innovation Hubs“ sollen bereitgestellt bzw. gefördert werden, um diese Nachweise zu erleichtern.
4. Fazit und Bewertung
a) Der Ansatz ist gut
Der Ansatz der EU, die KI einer spezifischen Regulierung unterwerfen zu wollen, ist gut und richtig. Denn künstliche Intelligenz bietet nicht nur Chancen, sondern auch existenz- und lebensbedrohliche Risiken.
Es ist auch zu begrüßen, dass diese Regulierung EU-weit erfolgen soll und nicht individuell durch jedes Mitgliedsland geregelt wird.
b) Was die Politik tun kann und was sie lassen sollte
Die Fördermittel erscheinen im Vergleich zu den Budgets der Tech-Konzerne wie Peanuts. Den Herstellern sollte klar sein, dass die EU bzw. die Politik nicht mehr in der Lage sind, die internationale Wettbewerbsfähigkeit herzustellen.
Was die Kommission aber noch erreichen kann, ist behutsam zu regulieren und die wirklich schwarzen Schafe konsequent zur Rechenschaft zu ziehen. Eine Überregulierung bestraft sonst nur die Anständigen.
Die EU sollte auch darauf achten, das System nicht durch weitere Prüfzentren zu verkomplizieren. Das White Paper sieht explizit solche Testzentren vor, z.B. in Form von „Digital Innovation Hubs“.
c) Das Engagement der Hersteller ist gefragt!
Das EU White Paper lädt explizit zum Dialog ein. Es ist allerdings zu befürchten, dass die Medizinproduktehersteller diese Chance verstreichen lassen und das Feld anderen Lobbyverbänden überlassen.
Dadurch entsteht die Gefahr einer Überregulierung. Dass Europa in Sachen KI inzwischen abgeschlagen hinten liegt, ist jedoch nicht nur der bisherigen Überregulierung anzulasten.
Die Behäbigkeit, manchmal der sogar arrogante Irrglaube vieler Hersteller, man sei technologisch führend, hat Europa weit zurückfallen lassen. Daran werden weder die EU noch das White Paper etwas ändern können.
Daher sei den Herstellern sehr empfohlen,
- sich bei der Gesetzgebung aktiv engagieren,
- mit mehr „Committment“ (und damit auch Geld) die Digitalisierung des eigenen Unternehmens voranzutreiben,
- systematisch in die Weiterbildung der eigenen Mitarbeiter zu investieren sowie
- bereitstehende Finanzmittel (z.B. durch die EU) nutzen:
Also: Ärmel hochkrempeln!
