Berlin, 21. September 2026 – Der TÜV-Verband hat verpflichtende Prüfungen für besonders leistungsstarke KI-Modelle („Frontier Models“) gefordert, bevor diese auf den Markt kommen dürfen. Die Prüfungen könnten von Behörden oder von unabhängigen Prüforganisationen in öffentlichem Auftrag durchgeführt werden. „Die Sicherheitsvorfälle der letzten Zeit haben gezeigt, welche Gefahren von neuen KI-Modellen ausgehen“, sagt Dr. Dirk Stenkamp, Präsident des TÜV-Verbands. „Wir brauchen vor der Markteinführung ein verpflichtendes Prüfregime für besonders leistungsstarke KI-Modelle.“ In den vergangenen Monaten hatten sich Vorfälle gehäuft, bei denen sich KI-Agenten selbständig in Online-Plattformen gehackt haben oder unkontrolliert aus ihren Testumgebungen ausgebrochen sind. „Im Idealfall verständigt sich die Weltgemeinschaft auf ein gemeinsames Vorgehen, wie sie die Risiken neuer KI-Modelle beherrschen will“, sagt Stenkamp. Notwendig seien internationale Absprachen, die in verbindliche Vorgaben überführt werden. Stenkamp: „Die von den Tech-Konzernen propagierte Selbstkontrolle und Selbstregulierung reicht nicht aus. Angesichts des hohen Tempos der KI-Entwicklung muss die Politik jetzt schnell und entschlossen handeln.“
In der Europäischen Union müssten die bereits vorhandenen Instrumente der Marktaufsicht gestärkt werden. Laut AI Act müssen neue KI-Modelle mit systemischen Risiken zahlreiche Vorgaben unter anderem in Bezug auf Cybersicherheit, Trainingsdaten, Modell-Evaluation und Meldepflichten erfüllen. Eine verpflichtende externe Prüfung vor der Marktzulassung eines neuen KI-Modells gibt es allerdings nicht. „Der bestehende Rahmen muss sich jetzt in der Praxis bewähren. Anforderungen müssen bei Bedarf verschärft, einheitliche Prüfverfahren entwickelt und eigene Prüfkompetenzen aufgebaut werden“, sagt Stenkamp. „Das europäische ‚AI Office‘ braucht dringend zusätzliche finanzielle und personelle Ressourcen, um die Sicherheit der neuen Frontier Modelle substanziell bewerten und die Einhaltung der Vorgaben durchsetzen zu können.“ Gleichzeitig sollte das AI Safety and Security Institute (AISI) in Berlin zügig seine Arbeit aufnehmen, um Auswirkungen auf die nationale Sicherheit selbst kompetent einschätzen zu können.
„Die Sicherheit der fortschrittlichen KI-Modelle kann kein Anbieter allein stemmen“, sagt Stenkamp. „Es braucht das bewährte Zusammenspiel aus Selbstverantwortung der Entwickler, dem Know-how externer Prüfer und behördlicher Aufsicht.“ Rund um die Sicherheit von KI-Systemen entstehe gerade weltweit ein neuer Milliardenmarkt. Stenkamp: „Wir müssen ein Ökosystem aus öffentlichen KI-Instituten, etablierten Prüforganisationen und innovativen Startups schaffen. Europa hat hier beste Voraussetzungen, eine führende Rolle einzunehmen.“ Die TÜV-Unternehmen haben bereits früh in den Aufbau eigener KI-Kompetenzen investiert und mit dem TÜV AI.Lab ein eigenes Joint Venture gegründet. Das TÜV AI.Lab entwickelt einheitliche Prüfverfahren und Prüfmethoden für KI-Systeme.
Europäischen AI Act nicht weiter aushöhlen
Neben den großen Allzweck-KI-Modellen wie ChatGPT, Claude oder Gemini regelt der EU AI Act insbesondere, unter welchen Bedingungen Produkte und Anwendungen mit integrierter KI in der EU auf den Markt gebracht werden dürfen. „In naher Zukunft werden auch die leistungsfähigsten KI-Modelle Eingang in europäische Produkte finden“, sagt Stenkamp. „Wir können die Sicherheit dieser Produkte nur mit einheitlichen KI-Regeln gewährleisten." In diesem Zusammenhang erteilt der TÜV-Verband Forderungen eine klare Absage, den europäischen AI Act weiter auszuhöhlen. Industrievertreter fordern, dass nach Maschinen auch Medizinprodukte aus dem direkten Anwendungsbereich des AI Acts gestrichen und die KI-Anforderungen in sektoralen Einzelgesetzen geregelt werden. „Der KI-Omnibus hat gezeigt, dass wir hier in die falsche Richtung steuern“, sagt Stenkamp. „Der AI Act macht klare Vorgaben zur Sicherheit von Hochrisiko-KI-Systemen in Produkten. Der ‚Sektor-Exit‘ für Maschinen führt zu einer regulatorischen Fragmentierung mit unterschiedlichen Anforderungen, Verfahren und Fristen. Das Ergebnis ist Rechtsunsicherheit und mehr statt weniger bürokratischer Aufwand für Unternehmen.“ Das dürfe sich bei Medizinprodukten nicht wiederholen.
Weitere Informationen: Die TÜV-Organisationen haben kürzlich eine Zertifizierung für vertrauenswürdige KI-Systeme von Unternehmen auf den Weg gebracht.
