Als Schlüsseltechnologie ist Künstliche Intelligenz (KI), insbesondere in Form von tiefen neuronalen Netzen, in vielen Digitalisierungsanwendungen bereits allgegenwärtig. Auch bei sicherheitsrelevanten Anwendungen wie Biometrie, Gesundheitswesen und Automotive wird sie angewendet. Trotz ihrer unbestrittenen Vorteile bringt der Einsatz von KI auch qualitativ und quantitativ neue Risiken und Schwachstellen mit sich. Zusammen mit der zunehmenden Verbreitung von KI erfordert dies Prüfmethoden, die Garantien für die Vertrauenswürdigkeit geben und die es ermöglichen, die entstehenden KI-Standards und KI-Regulierungsbemühungen, zum Beispiel den European AI Act, zu operationalisieren. Die Prüfung von KI-Systemen ist ein komplexes Unterfangen, da entlang des KI-Lebenszyklus zahlreiche Aspekte berücksichtigt werden müssen, die multidisziplinäre Ansätze erfordern. KI-Prüfmethoden und -Werkzeuge sind in vielen Fällen Gegenstand der Forschung und noch nicht praktisch anwendbar.
Um eine umfassende Bestandsaufnahme der Auditierbarkeit von KI-Systemen in verschiedenen Anwendungsfällen zu ermöglichen und den Fortschritt im Laufe der Zeit zu verfolgen, empfehlen BSI, Fraunhofer HHI und TÜV-Verband die Verwendung einer neu entwickelten "Certification Readiness Matrix" (CRM) und stellen in einem gemeinsam Whitepaper das erste Konzept vor. Durch die Verwendung des CRM-Konzepts als Rahmen für die Zusammenfassung der Ergebnisse eines eintägigen Workshops über die Prüfung von KI-Systemen mit Vorträgen über Grundlagenforschung, angewandte KI-Auditierungsbemühungen und Standardisierungsaktivitäten wird gezeigt, dass Audit-Methoden für einige Aspekte bereits gut entwickelt sind, während andere Aspekte noch weitere Forschung und Entwicklung neuer Audit-Technologien und -Tools erfordern.
Zum Download
Whitepaper "Towards Auditable AI Systems: From Principles to Practice"
