Unternehmen nutzen Künstliche Intelligenz, um Inhalte zu erstellen, Daten auszuwerten und Abläufe zu automatisieren. Dabei entstehen neue Risiken, vom Abfluss sensibler Daten bis zu fehlerhaften Entscheidungen. Gleichzeitig setzen Cyberkriminelle KI ein, um Unternehmen gezielter anzugreifen. Die gemeinsame KI-Sicherheitsstudie 2026 von BSI und TÜV-Verband untersucht, wie Unternehmen KI nutzen und absichern, welche Risiken sie sehen und wo sie Unterstützung benötigen.
Die wichtigsten Studienergebnisse auf einen Blick
KI-gestützte Angriffe: Spezielle Vorfallprozesse sind selten
- 17 Prozent aller befragten Unternehmen berichten für die vergangenen zwölf Monate von bestätigten oder vermuteten Cyberangriffen oder Betrugsversuchen mit KI-Bezug.
- 90 Prozent dieser Unternehmen nennen täuschend echte Phishing-Mails als tatsächliche oder vermutete Angriffsmethode.
- 11 Prozent der Unternehmen mit bestehender oder geplanter KI-Nutzung haben spezielle Prozesse für KI-bezogene Sicherheitsvorfälle.
- 25 Prozent der Unternehmen mit bestehender oder geplanter KI-Nutzung haben bislang keine Regelungen für solche Vorfälle.
KI-Nutzung: Fertige Anwendungen und generative KI dominieren
- 49 Prozent aller befragten Unternehmen setzen bereits KI ein.
- 9 Prozent planen den Einsatz innerhalb der nächsten zwölf Monate.
- 85 Prozent der KI-nutzenden Unternehmen verwenden fertige Anwendungen wie ChatGPT, Microsoft Copilot oder Canva ohne größere Anpassungen.
- 76 Prozent der KI-nutzenden Unternehmen setzen generative KI ein, etwa Text-, Bild-, Code- oder Sprachmodelle.
Organisation: Zuständigkeiten sind häufiger als eine gemeinsame Strategie
Unter den Unternehmen, die KI bereits nutzen:
- 63 Prozent haben feste Zuständigkeiten für KI-Themen.
- 59 Prozent haben verbindliche interne Richtlinien für den KI-Einsatz.
- 33 Prozent verfügen über eine unternehmensweite KI-Strategie.
Absicherung: Tests und laufende Überwachung sind noch nicht Standard
Unter den Unternehmen, die KI bereits nutzen:
- 67 Prozent setzen auf Qualitätssicherung und die menschliche Prüfung kritischer KI-Ergebnisse.
- 52 Prozent testen KI-Anwendungen vor dem Einsatz, beispielsweise auf Sicherheit.
- 40 Prozent protokollieren oder überwachen die KI-Nutzung.
- 31 Prozent nutzen KI zur Verbesserung ihrer IT-Sicherheit, etwa zur frühzeitigen Erkennung von Cyberangriffen.
Kompetenzen: Hoher Schulungsbedarf bei Anwendung und Sicherheit
Unter den Unternehmen, die KI bereits nutzen:
- 76 Prozent sehen Weiterbildungsbedarf bei der Anwendung und Integration von KI.
- 69 Prozent benötigen mehr Wissen für den sicheren Umgang mit KI.
- 65 Prozent sehen Schulungsbedarf bei der Datenkompetenz.
KI-Agenten: Wenig verbreitet, aber mit großen Risikobedenken
- 5 Prozent der KI-nutzenden Unternehmen setzen autonome KI-Agenten ein.
- 84 Prozent aller befragten Unternehmen sehen das Risiko, dass KI-Agenten Entscheidungen aufgrund falscher oder erfundener Erkenntnisse treffen.
- 78 Prozent aller befragten Unternehmen sehen das Risiko, dass sensible Daten oder Geschäftsgeheimnisse abfließen.
KI-Auswahl: Sicherheit und unabhängige Prüfungen sind gefragt
Unter den Unternehmen, die KI nutzen oder ihren Einsatz planen:
- 94 Prozent halten IT- und Cybersicherheit bei der Auswahl von KI-Anwendungen für wichtig.
- 51 Prozent betrachten eine Zertifizierung durch unabhängige Prüforganisationen als wichtiges Auswahlkriterium.
- 69 Prozent erwarten, dass unabhängige Prüfungen oder Zertifizierungen die Sicherheit und Zuverlässigkeit der Anwendungen erhöhen.
Digitale Souveränität: Europäische Angebote sind bekannt, Abhängigkeiten bleiben
Unter den Unternehmen, die KI bereits nutzen:
- 66 Prozent kennen europäische oder deutsche KI-Anwendungen.
- 35 Prozent setzen europäische oder deutsche KI-Anwendungen ein.
- 30 Prozent sehen sich stark von außereuropäischen KI-Anbietern abhängig.
AI Act: Unternehmen brauchen Orientierung und praktische Unterstützung
- 71 Prozent aller befragten Unternehmen fühlen sich schlecht über die Anforderungen des AI Act informiert.
- 88 Prozent der Unternehmen mit bestehender oder geplanter KI-Nutzung bewerten Schulungen für Fach- und Führungskräfte als hilfreich für einen sicheren und rechtskonformen KI-Einsatz.
- 76 Prozent der Unternehmen mit bestehender oder geplanter KI-Nutzung bewerten Beratung zur Umsetzung regulatorischer Anforderungen als hilfreich.
Politische Empfehlungen des TÜV-Verbands
1. Frontier-KI: Internationales Prüfregime etablieren und AISI Deutschland einbinden
2. EU AI Act: Unabhängige Prüfungen stärken und hohes Schutzniveau bewahren
3. Umsetzung: Praxisnahe AI Act Guidance und KMU-Ansprechpartner stärken
4. Digitale Souveränität: Europäische Alternativen und KI-Kompetenz ausbauen
Download
Studienbericht "KI-Sicherheitsstudie 2026"
Politische Empfehlungen "KI-Sicherheitsoffensive starten"
