Mission KI Freiwilliger Qualitätsstandard und Prüfportal für Niedrigrisiko-KI

Anbieter zum Thema

Fraunhofer-Institut für Intelligente Analyse- und Informationssysteme IAIS

VDE Verband der Elektrotechnik Elektronik Informationstechnik e.V.

MicroConsult Academy GmbH

emlix GmbH

RTI Real-Time Innovations

Führende Technologieverbände in Deutschland haben gemeinsam das Projekt Mission KI erarbeitet: Der Qualitätsstandard und das damit verbundene digitale Prüfportal soll Unternehmen ermöglichen, sogenannte Niedrigrisiko-KI systematisch zu bewerten, Qualitätsnachweise zu erzeugen und sich frühzeitig auf Anforderungen des EU AI Act vorzubereiten.

Entwickelt wurde der Standard im Rahmen des Projekts „Mission KI – Nationale Initiative für Künstliche Intelligenz und Datenökonomie“ gemeinsam mit PwC Deutschland, TÜV AI.Lab, dem VDE, dem AI Quality & Testing Hub sowie dem Fraunhofer-Institut für Intelligente Analyse- und Informationssysteme IAIS. Der Ansatz verbindet Erfahrungen aus Normung, Prüfwesen, Beratung und Forschung zu einem einheitlichen Bewertungsrahmen.

Der freiwillige Qualitätsstandard richtet sich an sogenannte Niedrigrisiko-KI. Dabei handelt es sich um KI-Systeme, die unterhalb der Hochrisikoschwelle des EU AI Act liegen. Ergänzt wird der Standard durch ein digitales Prüfportal, das die strukturierte Selbstbewertung dieser Niedrigrisiko-KI unterstützt. „Mission KI“ richtet sich damit an einen Bereich, in dem bislang vor allem Transparenzpflichten, aber keine systematische Qualitätsbewertung vorgegeben sind.

Mehrstufiges System der Qualitätserfassung

Kern des Standards ist die Übersetzung zentraler Prinzipien vertrauenswürdiger KI – unter anderem Transparenz, Nicht-Diskriminierung und Verlässlichkeit – in sechs Qualitätsdimensionen. Diese werden in konkrete Kriterien, Indikatoren und prüfbare Maßnahmen überführt. Unternehmen erhalten damit ein Raster, anhand dessen die Qualität eines KI-Systems nachvollziehbar bewertet und dokumentiert werden kann.

Das Prüfverfahren ist mehrstufig aufgebaut. Ausgangspunkt ist eine präzise Beschreibung des Anwendungsfalls: Zweck, Einsatzkontext, Datenbasis, Abgrenzung des Systems sowie Betriebsart, etwa lokal oder in der Cloud. Darauf folgt eine Schutzbedarfsanalyse, in der potenzielle Schäden bei Nichterfüllung von Anforderungen bewertet werden – etwa im Hinblick auf Sicherheit, Diskriminierungsrisiken oder Datenschutz. Jedes Kriterium wird dabei je nach Einsatzkontext als gering, moderat oder hoch relevant eingestuft oder als nicht anwendbar markiert.

Die eigentliche Bewertung erfolgt entlang einer hierarchischen VCIO-Systematik: Von den Qualitätsdimensionen über Kriterien und Indikatoren bis zu sogenannten Observablen, also konkreten Nachweisen. Für jeden relevanten Indikator wird ein Erfüllungsgrad von A (best practice) bis D (nicht erfüllt) vergeben. Die notwendige Stufe hängt vom zuvor bestimmten Schutzbedarf ab; je höher dieser ausfällt, desto anspruchsvoller sind die zu erreichenden Nachweisstufen.

Zu jeder Einstufung sind passende Evidenzen bereitzustellen, etwa Risikoanalysen, Testprotokolle, Dokumentation zu Datensätzen und Modellversionen oder Verweise auf bestehende Zertifizierungen. Der Standard differenziert dabei zwischen Basisdokumentation für gering schutzbedürftige Anwendungen und detaillierten, reproduzierbaren Nachweisen inklusive Audit-Trail bei hohem Schutzbedarf. Die Validierung kann je nach Kritikalität als Selbstprüfung, interne unabhängige Prüfung oder im Vier-Augen-Prinzip erfolgen; externe Prüfstellen lassen sich optional einbinden.

In der Gesamtbewertung werden die erreichten Qualitätsstufen den Schutzbedarfen gegenübergestellt. Für Systeme mit hohem Schutzbedarf ist mindestens die Stufe A erforderlich, für moderaten Schutzbedarf Stufe B und für geringen Schutzbedarf Stufe C. Besteht ein System, werden Übererfüllungen dokumentiert; nicht erfüllte Kriterien werden transparent ausgewiesen. Ein standardisierter Prüfbericht fasst Systemkontext, Schutzbedarfe, Qualitätsstufen, nachgewiesene Maßnahmen sowie den Validierungsgrad zusammen.

Strukturierter Qualitätsnachweis und vergleichbare Kirterien

Für Unternehmen aus der Elektronikbranche und der Software-Entwicklung bietet der Standard unter anderem einen strukturierten Qualitätsnachweis gegenüber Investoren, Kunden und Aufsichtsbehörden. Insbesondere Start-ups und KMU können Qualitätsmaßnahmen systematisch dokumentieren und in Ausschreibungen oder Beschaffungsverfahren vorlegen. Für öffentliche Auftraggeber entstehen zugleich vergleichbare Kriterien, um unterschiedliche KI-Lösungen einheitlich zu bewerten.

Das digitale Prüfportal bildet das Verfahren in einer Beta-Version ab und führt Unternehmen Schritt für Schritt durch die Selbstbewertung. Geführte Prozesse und integrierte Hilfestellungen sollen den Aufwand der Dokumentation reduzieren und die Nachvollziehbarkeit erhöhen. Perspektivisch sind Erweiterungen um automatisierte Prüfschritte und Schnittstellen zu akkreditierten Prüfstellen vorgesehen, sodass Ergebnisse aus Selbstprüfungen einfacher in externe Bewertungen überführt werden können.

Für Entwickler eingebetteter KI-Funktionen in Elektronikprodukten, von industriellen Softwarelösungen oder datengetriebenen Diensten schafft der Standard einen klaren Rahmen dafür, welche Qualitätsaspekte adressiert und wie sie nachgewiesen werden sollten. Gleichzeitig ermöglicht er es, Anforderungen des EU AI Act frühzeitig systematisch zu berücksichtigen, anstatt sie erst in späten Entwicklungsphasen zu adressieren.

Nähere Informationen finden Sie auf der Webseite des Projekts „Mission KI“. (sg)

(ID:50639935)