TÜV AI Lab

Künstliche Intelligenz (KI) findet zunehmend Eingang in alle Bereiche der Gesellschaft. Das neu gegründete TÜV AI Lab hat es sich zur Aufgabe gemacht, die technischen und regulatorischen Anforderungen, die Künstliche Intelligenz mit sich bringt, zu definieren und Standards für die Prüfung sicherheitskritischer KI-Anwendungen zu entwickeln.

Die Anwendungsfelder Künstlicher Intelligenz gehen heute weit über Sprachassistenten oder intelligente Online-Werbung hinaus. Zunehmend werden auch KI-Systeme eingesetzt, die Auswirkungen auf Leib und Leben von Menschen oder ihre elementaren Grundrechte haben können. Das ist etwa der Fall bei Systemen zur Früherkennung von Krebszellen auf MRT-Scans oder automatisierten Fahrzeugen mit automatischer Verkehrsschilderkennung. Damit KI-Systeme im Sinne der Menschen eingesetzt werden, sind unterschiedliche Formen der Regulierung und Prüfung notwendig. Im TÜV AI Lab werden KI-Expert:innen aus den TÜV-Organisationen an praktischen Prüfszenarien arbeiten. So könnten die KI-Prüfer:innen zum Beispiel ermitteln, wie sicher automatisierte Fahrzeuge mit KI–Systemen Personen, Verkehrszeichen oder bestimmte Hindernisse erkennen und darauf reagieren. Eine entsprechende Prüfung sollte in Zukunft Voraussetzung für die Zulassung neuer Fahrzeuge sein.

Risikoklassen für Künstliche Intelligenz

Grundlage für die Entwicklung von Standards zur Prüfung von Künstlicher Intelligenz wird die Einordnung von KI-Systemen in Risikoklassen sein. „Nicht alle KI-Systeme müssen die gleichen Anforderungen erfüllen“, sagt Dr. Dirk Schlesinger, Leiter des TÜV AI Lab. Je nach Risikoklasse reichen die Anforderungen von einem vollständigen Regulierungsverzicht über Transparenzpflichten und Zulassungsverfahren vor der Markteinführung bis zu einem Verbot besonders gefährlicher oder ethisch bedenklicher KI-Anwendungen. Auch mit der Entwicklung von Lösungsansätzen für die Einteilung von Systemen mit Künstlicher Intelligenz in Risikoklassen wird das TÜV AI Lab sich befassen.

Die Frage ist, wie viele Risikoklassen tatsächlich sinnvoll sind und nach welchen Kriterien KI-Systeme diesen in der Praxis zugeordnet werden können.

Dr. Dirk Schlesinger, Leiter des TÜV AI Lab

Die EU-Kommission hat mit ihrem „Weißbuch Künstliche Intelligenz“ Empfehlungen für einen europäischen Rechtsrahmen für KI-Systeme vorgelegt. Sie schlägt darin die Anwendung des sogenannten Kritikalitätsmodells vor. Demnach würden KI-Systeme abhängig von ihrem Risiko in zwei Klassen eingestuft: nicht regulierungsbedürftig und regulierungsbedürftig. Die Datenethikkommission der Bundesregierung wiederum plädiert für ein fünfstufiges System und orientiert sich bei der Einstufung ebenfalls am möglichen Risiko einer KI.

Die Ziele des TÜV AI Labs im Überblick:

• Ausarbeitung von Kriterien zur Einteilung von KI-Systemen in Risikogruppen abhängig von ihrem Gefährdungspotenzial,
• Erarbeiten geeigneter Prüfverfahren für sicherheitskritische KI-Systeme und
• Entwicklung von Verfahren zur Beurteilung der Eignung von Trainingsdaten für bestimmte KI-Anwendungen.

Erste Ergebnisse der Arbeit des Labs werden an dieser Stelle veröffentlicht.