Digitalisierung

Künstliche Intelligenz

 

Künstliche Intelligenz (KI) ist eine der Schlüsseltechnologien unserer Zeit. Algorithmen helfen Mediziner:innen bei der Diagnose von Krankheiten, Verbraucher:innen beim Energiesparen oder Singles bei der Wahl der Partner:innen. Autonomes Fahren und neue Mobilitätskonzepte wären ohne KI nicht denkbar. Das bedeutet aber auch: Die Risiken durch fehlerhafte KI-Anwendungen, Eingriffe in die Privatsphäre oder Cyberangriffe steigen.

Viele KI-gestützte Systeme sind für Nutzer:innen wie eine „Blackbox“, deren Funktionsweise sie weder nachvollziehen noch verstehen. Sie müssen darauf vertrauen, dass die Anbieter dieser Systeme höchste Sicherheitsstandards einhalten. Deshalb engagieren sich der TÜV-Verband und seine Mitglieder dafür, prüfbare Sicherheitsstandards zu etablieren, die KI-Anwendungen gleichzeitig transparent und sicher machen. Dazu sind auf politischer Ebene noch einige Schritte notwendig: Sicherheitsstandards müssen formuliert, ethische Fragen geklärt, Prüfszenarien entwickelt und Institutionen für deren Umsetzung benannt werden.

Wie schaffen wir Sicherheit und Verlässlichkeit bei KI-Anwendungen?

KI BRAUCHT STANDARDS

Wie wichtig Vertrauen und Sicherheit für den Erfolg von Künstlicher Intelligenz sind, hat die KI-Studie des TÜV-Verbands gezeigt: Vier von fünf Bundesbürger:innen fordern ein von unabhängigen Stellen vergebenes Prüfzeichen für Künstliche Intelligenz, um das Vertrauen in die Technologie zu stärken. Der TÜV-Verband unterstützt daher den Einsatz von Künstlicher Intelligenz zum Nutzen der Gesellschaft und setzt sich mit seinen Mitgliedern dafür ein, die Qualitäts- und Sicherheitsstandards von KI-gestützten Systemen zu verbessern. Insbesondere für den Einsatz von KI-Systemen mit einem hohen Risiko für den Menschen sollten verbindliche Sicherheitsstandards gelten, deren Einhaltung von unabhängigen Prüforganisationen überwacht wird. Denn erst durch die sichere Anwendung KI-gestützter Systeme wird die notwendige gesellschaftliche Akzeptanz für ihren Einsatz geschaffen.

Ein wichtiger Baustein für Vertrauen in Künstliche Intelligenz ist die geplante europäische KI-Regulierung. Der Vorschlag zur Regulierung Abhängigkeit vom Risiko ist richtig. Noch fehlt im Vorschlag der EU-Kommission allerdings eine klare Herleitung und Definition der Risikoklassen. Nicht alle Anwendungen, die Leib und Leben der Menschen oder elementare Grundrechte wie Privatsphäre oder Gleichbehandlung gefährden können, sind erfasst. Der TÜV-Verband hat daher in einer Stellungnahme zusammengefasst, welcher Änderungsbedarf beim aktuellen Regulierungsvorschlag besteht.

TESTZENTREN FÜR KÜNSTLICHE INTELLIGENZ

Bei einer komplexen Technologie wie Künstlicher Intelligenz reicht es nicht aus, Gesetzestexte zu formulieren. Die praktische Umsetzung der KI-Regulierung muss schon jetzt vorangetrieben werden. Zur Entwicklung von Standards für die Prüfung sicherheitskritischer KI-Anwendungen haben die TÜV-Unternehmen das TÜV AI Lab gegründet. Hier finden Sie alle weiteren Informationen zum Thema.

Daneben plant der TÜV-Verband, ein interdisziplinäres Test- und Qualitätszentrum für KI zu etablieren. In solch einem  „AI Quality & Testing Hub“ könnten KI-Anbieter, Forschungseinrichtungen, Startups und Prüforganisationen gemeinsam an Normen, Standards und Qualitätskriterien für Künstliche Intelligenz arbeiten und neue Test- und Prüfverfahren entwickeln. Auch die Ausbildung von Fachkräften soll dort vorangetrieben werden, genauso wie die Umsetzung von Forschungsvorhaben. Kleineren und mittelständischen Unternehmen können sie als Anlaufstelle bei der Umsetzung der anstehenden KI-Regulierung dienen. Der „AI Quality & Testing Hub“ wurde vom TÜV-Verband gemeinsam mit dem VDE initiiert. Die Bundesländer Berlin, Hessen und Nordrhein-Westfalen haben bereits konkrete Aktivitäten gestartet, um die „AI Quality & Testing Hubs“ in ihren Ländern umzusetzen bzw. mit Förderprojekten zu unterstützen.

TÜV AI CONFERENCE

Über diese Themen diskutieren wir gemeinsam mit führenden Expert:innen aus Politik, Wissenschaft und Wirtschaft bei der alljährlichen TÜV AI Conference. Auf dieser Seite finden Sie einen Rückblick auf die Konferenz 2021 mit den Inhalten der Focus Sessions, den Videoaufzeichnungen und einer kleinen Fotogalerie.

Brauchen wir ein KI-Gesetz und wie sollte es aussehen?

Neuigkeiten

 

Prüfbarkeit von sicherheitskritischen KI-Anwendungen

 

Whitepaper zur Prüfbarkeit von KI-Systemen

 

In Weiterbildung zu KI investieren

 

TÜV-Verband fordert Testzentren für Künstliche Intelligenz

 

KI-Studie: Verbraucher:innen fordern Prüfzeichen für KI

 

KI-Studie 2021

 

Künstliche Intelligenz mit hohem Risiko unabhängig prüfen

 

Vorschlag zur Risikoklassifizierung von KI-Systemen

 

Stellungnahme zum KI-Gesetzesvorschlag der EU-Kommission

 

Neues Whitepaper zur Prüfbarkeit von KI

 

Vorschläge der EU-Kommission für KI-Regulierung unzureichend

 

TÜV-Unternehmen gründen AI Lab

 

KI-Studie mit Unternehmen

 

Zur Sicherheit KI-gestützter Anwendungen

 

Künstliche Intelligenz braucht Regeln

 

Künstliche Intelligenz braucht bessere Bildung

 

KI-Verbraucherstudie

 

TÜV® MeetUp | Künstlicher Intelligenz vertrauen

 

TÜV Cybersecurity Studie

 

Vertrauen in KI-basierte Systeme schaffen

 

Angst vor Datenmissbrauch im Smart Home

 

Vertrauen in KI-basierte Systeme schaffen

 

Große Mehrheit für Algorithmen-Checks

Haben Sie Fragen?

Dr. Patrick Gilroy

Referent Künstliche Intelligenz und Bildung

+49 30 760095-360

patrick.gilroy@tuev-verband.de