Publication
Deutsche Normungsroadmap Künstliche Intelligenz - Ausgabe 1
Aljoscha Burchardt; Iris Merget; Stefan Schaffer; Kinga Schumacher; Thomas Vögele; Roland Vogt; Wolfgang Wahlster
Normung und Standardisierung, Bundesministerium für Wirtschaft und Klimaschutz, Deutsche Normungsroadmap Künstliche Intelligenz, Vol. 1, 11/2020.
Abstract
Rund ein Jahr haben DIN und DKE in einem gemeinsamen Projekt mit dem Bundesministerium für Wirtschaft und Energie und zusammen mit ca. 300 Fachleuten aus Wirtschaft, Wissenschaft, öffentlicher Hand und Zivilgesellschaft an
der Normungsroadmap Künstliche Intelligenz gearbeitet. Eine hochrangige Steuerungsgruppe unter dem Vorsitz von
Prof. Wolfgang Wahlster hat die Erarbeitung koordiniert
und begleitet.
Ziel der Roadmap ist die frühzeitige Entwicklung eines Handlungsrahmens für die Normung und Standardisierung, der die internationale Wettbewerbsfähigkeit der deutschen Wirtschaft unterstützt und europäische Wertmaßstäbe auf die internationale Ebene hebt.
Mit der Normungsroadmap KI wird eine wesentliche Maßnahme der KI-Strategie der Bundesregierung umgesetzt, in der eines von zwölf Handlungsfeldern sich explizit dem Thema „Standards setzen“ widmet.
Gerade im Bereich der Künstlichen Intelligenz spielen Normen und Standards eine besondere Rolle: Sie fördern den schnellen Transfer von Technologien aus der Forschung in die Anwendung und öffnen internationale Märkte für Unternehmen und ihre Innovationen. Indem sie Anforderungen an Produkte, Dienstleistungen oder Prozesse festlegen, sorgen sie für Interoperabilität und Qualität. Normen und Standards tragen somit maßgeblich zur Erklärbarkeit und Sicherheit bei und unterstützen die Akzeptanz und das Vertrauen in KI-Anwendungen.
Die vorliegende Normungsroadmap KI wurde in einem breiten Beteiligungsprozess mit interdisziplinären Akteuren erarbeitet und skizziert die Arbeits- und Diskussionsergebnisse der Arbeitsgruppen. Sie liefert einen umfassenden Überblick über Status Quo, Anforderungen und Herausforderungen zu folgenden sieben Schwerpunktthemen:
→
Grundlagen
→
Ethik/Responsible AI
→
Qualität, Konformitätsbewertung und Zertifizierung
→
IT-Sicherheit bei KI-Systemen
→
Industrielle Automation
→
Mobilität und Logistik
→
KI in der Medizin
Für diese zentralen Themenbereiche wird das aktuelle Umfeld der KI-Standardisierung beschrieben und eine Übersicht über relevante Normen und Standards zu Aspekten der Künstlichen Intelligenz gegeben.
Mit über 70 identifizierten Normungs- und Standardisierungsbedarfen zeigt die Roadmap konkrete Potenziale auf und formuliert fünf zentrale und übergreifende Handlungsempfehlungen:
1. Datenreferenzmodelle für die Interoperabilität von KI-Systemen umsetzen In Wertschöpfungsketten kommen viele unterschiedliche Akteure zusammen. Damit auch die verschiedenen KI-Systeme dieser Akteure automatisiert zusammenarbeiten können, ist ein Datenreferenzmodell nötig, um Daten sicher, zuverlässig, flexibel und kompatibel auszutauschen. Standards für Datenreferenzmodelle aus unterschiedlichen Bereichen schaffen die Grundlage für einen übergreifenden Datenaustausch und stellen damit weltweit die Interoperabilität von KI-Systemen sicher.
2. Horizontale KI-Basis-Sicherheitsnorm erstellen KI-Systeme sind im Kern IT-Systeme – für letztere gibt es bereits viele Normen und Standards aus verschiedensten Anwendungsbereichen. Um ein einheitliches Vorgehen beim Thema IT-Sicherheit von KI-Anwendungen zu ermöglichen, ist eine übergreifende „Umbrella-Norm“ sinnvoll, die vorhandene Normen und Prüfverfahren für IT-Systeme bündelt und um KI-Aspekte ergänzt. Diese Basis-Sicherheitsnorm kann dann durch Sub-Normen zu weiteren Themen ergänzt werden.
3. Praxisgerechte initiale Kritikalitätsprüfung von KI-Systemen ausgestalten Wenn selbstlernende KI-Systeme über Menschen, deren Besitz oder Zugang zu knappen Ressourcen entscheiden, können ungeplante Probleme in der KI individuelle Grundrechte oder demokratische Werte gefährden. Damit sich KI-Systeme in ethisch unkritischen Anwendungsfeldern dennoch frei entwickeln lassen, sollte durch Normen und Standards eine initiale Kritikalitätsprüfung gestaltet werden – diese kann schnell und rechtssicher klären, ob ein KI-System solche Konflikte überhaupt auslösen kann.
4. Nationales Umsetzungsprogramm „Trusted AI“ zur Ertüchtigung der europäischen Qualitätsinfrastruktur initiieren und durchführen Bisher fehlen verlässliche Qualitätskriterien und Prüfverfahren für KI-Systeme – das gefährdet das wirtschaftliche Wachstum und die Wettbewerbsfähigkeit dieser Zukunftstechnologie. Es braucht ein nationales Umsetzungsprogramm „Trusted AI“, das die Basis für reproduzierbare und standardisierte Prüfverfahren legt, mit denen Eigenschaften von KI-Systemen wie Verlässlichkeit, Robustheit, Leistungsfähigkeit und funktionale Sicherheit geprüft und Aussagen über die Vertrauenswürdigkeit getroffen werden können. Normen und Standards beschreiben Anforderungen an diese und bilden so die Grundlage für die Zertifizierung und Konformitätsbewertung von KI-Systemen. Mit einer solchen Initiative hat Deutschland die Chance, ein weltweit erstes und international anerkanntes Zertifizierungsprogramm zu entwickeln.
5. Use Cases auf Normungsbedarf analysieren und bewerten Die KI-Forschung sowie die industrielle Entwicklung und Anwendung von KI-Systemen sind hoch dynamisch. Bereits heute gibt es viele Anwendungsfälle in den verschiedenen Einsatzfeldern von KI. Über anwendungstypische und branchenrelevante Use Cases lassen sich Standardisierungsbedarfe für industriereife KI-Anwendungen ableiten. Um Normen und Standards zu gestalten, ist es wichtig, wechselseitige Impulse aus Forschung, Industrie, Gesellschaft und Regulierung einzubinden. Im Zentrum dieses Ansatzes sollten die entwickelten Standards entlang von Use Cases erprobt und weiterentwickelt werden. So lassen sich anwendungsspezifische Bedarfe frühzeitig erkennen und marktfähige KI-Standards realisieren.
Die Ergebnisse der Normungsroadmap KI stellen den Auftakt der anstehenden Arbeiten dar und geben damit den Weg für die zukünftige Normung und Standardisierung im Bereich der Künstlichen Intelligenz vor. Ihre Umsetzung wird dazu beitragen, die deutsche Wirtschaft und Wissenschaft zu unterstützen und innovationsfreundliche Bedingungen für die Technologie der Zukunft schaffen. Insbesondere in der gesellschaftspolitischen Debatte auf europäischer Ebene über die künftige Rolle und den Einsatz von KI werden die Ergebnisse einen wichtigen Beitrag leisten.
Nur ein frühzeitiges und umfassendes Engagement der deutschen Stakeholder in der nationalen, aber vor allem auch der europäischen und internationalen Normung und Standardisierung wird die Position Deutschlands als Wirtschaftsnation und Exportland stärken und den Weg für „KI – Made in Germany“ ebnen.
Die Normungsroadmap KI wird dabei stetig aktualisiert und weiterentwickelt werden, um sich ändernde Anforderungen zu berücksichtigen.
Nun gilt es, konkrete Normungs- und Standardisierungsaktivitäten entlang der Handlungsempfehlungen auf den Weg zu bringen. Interessierte Fachleute sind ausdrücklich eingeladen, mitzuwirken und ihr Wissen in der Normung und Standardisierung einzubringen.