Künstliche Intelligenz

TÜV AI Lab

Künstliche Intelligenz (KI) findet zunehmend Eingang in alle Bereiche der Gesellschaft. Das neu gegründete TÜV AI Lab hat es sich zur Aufgabe gemacht, die technischen und regulatorischen Anforderungen, die Künstliche Intelligenz mit sich bringt, zu definieren und Standards für die Prüfung sicherheitskritischer KI-Anwendungen zu entwickeln.

Die Anwendungsfelder Künstlich87% der Unternehmen sind der Meinung, dass KI-Anwendungen abhängig von ihrem Risiko reguliert werden sollten.er Intelligenz gehen heute weit über Sprachassistenten oder intelligente Online-Werbung hinaus. Zunehmend werden auch KI-Systeme eingesetzt, die Auswirkungen auf Leib und Leben von Menschen oder ihre elementaren Grundrechte haben können. Das ist etwa der Fall bei Systemen zur Früherkennung von Krebszellen auf MRT-Scans oder automatisierten Fahrzeugen mit automatischer Verkehrsschilderkennung. Damit KI-Systeme im Sinne der Menschen eingesetzt werden, sind unterschiedliche Formen der Regulierung und Prüfung notwendig. Im TÜV AI Lab werden KI-Expert:innen aus den TÜV-Organisationen an praktischen Prüfszenarien arbeiten. So könnten die KI-Prüfer:innen zum Beispiel ermitteln, wie sicher automatisierte Fahrzeuge mit KI–Systemen Personen, Verkehrszeichen oder bestimmte Hindernisse erkennen und darauf reagieren. Eine entsprechende Prüfung sollte in Zukunft Voraussetzung für die Zulassung neuer Fahrzeuge sein.

Risikoklassen für Künstliche Intelligenz

Grundlage für die Entwicklung von Standards zur Prüfung von Künstlicher Intelligenz wird die Einordnung von KI-Systemen in Risikoklassen sein. „Nicht alle KI-Systeme müssen die gleichen Anforderungen erfüllen“, sagt Dr. Dirk Schlesinger, Leiter des TÜV AI Lab. Je nach Risikoklasse reichen die Anforderungen von einem vollständigen Regulierungsverzicht über Transparenzpflichten und Zulassungsverfahren vor der Markteinführung bis zu einem Verbot besonders gefährlicher oder ethisch bedenklicher KI-Anwendungen. Auch mit der Entwicklung von Lösungsansätzen für die Einteilung von Systemen mit Künstlicher Intelligenz in Risikoklassen wird das TÜV AI Lab sich befassen.

Die Frage ist, wie viele Risikoklassen tatsächlich sinnvoll sind und nach welchen Kriterien KI-Systeme diesen in der Praxis zugeordnet werden können.

Dr. Dirk Schlesinger, Leiter des TÜV AI Lab

Die EU-Kommission hat mit ihrem „Weißbuch Künstliche Intelligenz“ Empfehlungen für einen europäischen Rechtsrahmen für KI-Systeme vorgelegt. Sie schlägt darin die Anwendung des sogenannten Kritikalitätsmodells vor. Demnach würden KI-Systeme abhängig von ihrem Risiko in zwei Klassen eingestuft: nicht regulierungsbedürftig und regulierungsbedürftig. Die Datenethikkommission der Bundesregierung wiederum plädiert für ein fünfstufiges System und orientiert sich bei der Einstufung ebenfalls am möglichen Risiko einer KI.

Die Ziele des TÜV AI Labs im Überblick:

  • Ausarbeitung von Kriterien zur Einteilung von KI-Systemen in Risikogruppen abhängig von ihrem Gefährdungspotenzial,
  • Erarbeiten geeigneter Prüfverfahren für sicherheitskritische KI-Systeme und
  • Entwicklung von Verfahren zur Beurteilung der Eignung von Trainingsdaten für bestimmte KI-Anwendungen.

Erste Ergebnisse der Arbeit des Labs werden an dieser Stelle veröffentlicht.

Neuigkeiten

 

Neues Whitepaper zur Prüfbarkeit von KI

 

Vorschläge der EU-Kommission für KI-Regulierung unzureichend

 

TÜV-Unternehmen gründen AI Lab

 

TÜV-Verband: Autonomes Fahren muss sicher sein

 

Unternehmens­befragung zu KI

 

TÜV-Verband wird Mitglied bei IAMTS

 

Daten in den Mittelpunkt des Autogipfels stellen

 

Zur Sicherheit KI-gestützter Anwendungen

 

Künstliche Intelligenz braucht Regeln

 

Künstliche Intelligenz braucht bessere Bildung

 

Risikobasierte Prüfung von KI-Anwendungen

 

KI-Verbraucherstudie

 

TÜV® MeetUp | Künstlicher Intelligenz vertrauen

 

TÜV Cybersecurity Studie

 

Unabhängige Prüfung und Klimaschutz

 

Vertrauen in KI-basierte Systeme schaffen

 

Angst vor Datenmissbrauch im Smart Home

 

Vertrauen in KI-basierte Systeme schaffen

 

Große Mehrheit für Algorithmen-Checks

Sie haben Fragen?

Dr. Dirk Schlesinger

Chief Digital Officer TÜV SÜD AG und Leiter TÜV AI Lab

+49 30 760095-444

dirk@tuev-lab.ai