Besonders leistungsfähige KI-Modelle (Frontier-KI) und autonome KI-Agenten bieten große Chancen, bergen aber auch neuartige Sicherheitsrisiken. Bestehende Regulierungsansätze und freiwillige Selbstverpflichtungen der Hersteller reichen nicht aus. In einem gemeinsamen Whitepaper fordern TÜV AI.Lab und TÜV-Verband unabhängige Prüfungen und den Aufbau eines international verbindlichen Sicherheitsrahmens.
Das Whitepaper im Überblick
- Frontier-KI unabhängig prüfen: Leistungsfähige KI-Modelle müssen über ihren gesamten Lebenszyklus unabhängig geprüft werden. Deutschland und Europa müssen die Risiken dieser Systeme bewerten können, auch wenn sie nicht in Europa entwickelt wurden.
- Deutsches AI Safety and Security Institute (AISI) ausbauen: Das AISI soll zum Kompetenzzentrum für Frontier-KI und nationale Sicherheit werden. Dafür braucht es zwei Säulen: Zum einen die Kompetenz zur lebenszyklusbegleitenden, unabhängigen Evaluation und Prüfung von Frontier-Modellen. Zum anderen braucht es Safety-, Domänen- und Prüfkompetenz, sobald Frontier-KI auf kritische Infrastrukturen, Industrieanlagen, Fahrzeuge oder andere Systeme der physischen Welt trifft. Der Aufbau des AISI sollte deshalb von Beginn an gemeinsam mit unabhängigen Prüforganisationen erfolgen und deren über Jahrzehnte aufgebaute Safety- und Domänenkompetenz systematisch einbinden.
- Europäischen KI-Rechtsrahmen sichern: Einen kohärenten EU-Regulierungsrahmen konsequent umsetzen und nationale Prüf- und Aufsichtsstrukturen mit europäischen Vorgaben verzahnen.
- Internationale Zusammenarbeit ausbauen: Die EU soll gemeinsam mit gleichgesinnten Staaten international abgestimmte Sicherheitskriterien und Prüfmechanismen entwickeln.
- Verbindlichen globalen Sicherheitsrahmen schaffen: International verbindliche Sicherheitsanforderungen sowie abgestimmte Prüfmechanismen, Melde- und Aufsichtsstrukturen etablieren.
