Bei Autos, Aufzügen oder Industrieanlagen ist es selbstverständlich, dass Technik geprüft wird. Bei Künstlicher Intelligenz war das bislang deutlich schwieriger. Ein System kann heute überzeugend funktionieren und morgen bei einer anderen Aufgabenstellung falsche Ergebnisse liefern. Hinzu kommen Datenschutz, Verzerrungen in Trainingsdaten, Sicherheitsfragen und die Frage, wer eigentlich verantwortlich ist. Genau hier wollen die TÜV-Organisationen ansetzen. Der TÜV-Verband arbeitet gemeinsam mit dem TÜV AI.Lab und den TÜV-Unternehmen an einem einheitlichen Rahmen für die Zertifizierung von KI-Systemen. Erste Prüfverfahren laufen bereits mit Pilotpartnern. Der Marktstart ist für Ende 2026 vorgesehen.
Autor: Thomas W. Frick (LinkedIn-Profil / Xing-Profil)
Nicht jede KI braucht dieselbe Prüfung
Ein Chatbot im Kundenservice ist etwas anderes als ein KI-System, das Bewerbungen bewertet oder sicherheitsrelevante Entscheidungen unterstützt. Entsprechend soll auch nicht jede Anwendung durch dasselbe Prüfverfahren geschickt werden.
Das geplante TÜV-Modell sieht drei Abstufungen vor.
- In einer ersten Stufe geht es um grundlegende Anforderungen an Qualität und Sicherheit.
— - Die zweite Stufe kommt eine strukturierte KI-Risikobewertung hinzu, außerdem werden Dokumentationen und die Umsetzung beim Hersteller geprüft.
— - Bei der umfangreichsten Zertifizierung sollen bestimmte Eigenschaften eines KI-Systems zusätzlich durch technische Tests untersucht werden.
Interessant: Das ist der gleiche Ansatz, den wir mit AIttention und den Checks hinsichtlich der KI-Kompetenz verfolgen. Denn ein einfaches Etikett „KI geprüft“ sagt zunächst wenig aus. Entscheidend ist, was geprüft wurde, nach welchen Kriterien und für welchen konkreten Einsatzzweck.
Die Sache mit ChatGPT
Bei allgemein verfügbaren Anwendungen wie ChatGPT wird die Sache komplizierter.
Ein Unternehmen kann schließlich nicht den Quellcode oder das komplette Trainingsmaterial eines fremden KI-Modells untersuchen.
Es kann aber sehr kontrollieren, wie es selbst mit solchen Systemen arbeitet, mit z.B. folgenden Fragestellungen:
- Wer darf welche KI einsetzen?
- Welche Daten dürfen eingegeben werden?
- Werden Ergebnisse kontrolliert?
- Gibt es Verantwortliche?
- Sind Risiken dokumentiert?
- Wissen Mitarbeiter, wann sie einem Ergebnis nicht ungeprüft vertrauen dürfen?
Perspektivenwechsel: Damit verschiebt sich die Perspektive vom einzelnen KI-Modell auf das Unternehmen, das KI einsetzt. Und dafür gibt es bereits einen internationalen Standard.
ISO/IEC 42001 » KI wird zur Managementaufgabe
Die ISO/IEC 42001 beschreibt Anforderungen an ein Managementsystem für Künstliche Intelligenz. Unternehmen sollen KI nicht einfach irgendwo einsetzen, sondern Verantwortlichkeiten, Risiken, Prozesse und Kontrollen systematisch organisieren.
TÜV SÜD bietet entsprechende Zertifizierungsaudits bereits an. Im April 2025 wurde nach Angaben des Unternehmens das erste ISO/IEC-42001-Zertifikat von TÜV SÜD in Europa vergeben.
Das klingt zunächst nach klassischer Normenwelt. Für den betrieblichen Alltag steckt dahinter jedoch eine ziemlich einfache Frage:
Hat das Unternehmen seinen KI-Einsatz im Griff?
Dazu gehört beispielsweise:
- Risiken zu kennen
- Zuständigkeiten festzulegen
- Prozesse zu dokumentieren
- den Umgang mit KI kontinuierlich zu überprüfen.
Hinweis: Die Norm lässt sich zudem mit bestehenden Managementsystemen wie ISO 9001 oder ISO/IEC 27001 verbinden.
Ein TÜV-Siegel macht KI nicht unfehlbar
Das sollte man bei aller Begeisterung für Zertifizierungen nicht vergessen.
Ein geprüftes KI-System wird deshalb nicht plötzlich immer die richtige Antwort liefern. Auch eine zertifizierte Organisation kann Fehler machen. Und eine Prüfung kann nur diejenigen Eigenschaften bewerten, die Bestandteil des jeweiligen Prüfprogramms sind.
Das macht Zertifizierungen nicht wertlos. Sie können einen nachvollziehbaren Rahmen schaffen, wo heute häufig nur Versprechen stehen.
Der Unterschied ist entscheidend: Ein Unternehmen sagt nicht mehr nur „Wir gehen verantwortungsvoll mit KI um“, sondern muss zeigen, wie es das tut.
Der EU AI Act erhöht den Druck
Parallel dazu verändert der EU AI Act die Rahmenbedingungen. Er arbeitet risikobasiert. Je größer die möglichen Auswirkungen eines KI-Systems auf Sicherheit oder Grundrechte sind, desto umfangreicher werden die Anforderungen.
Bei Hochrisiko-Systemen spielen unter anderem Risikomanagement, Datenqualität, technische Dokumentation und menschliche Aufsicht eine zentrale Rolle. TÜV SÜD beschreibt beispielsweise für KI-gestützte Maschinen genau diese Anforderungen.
Die geplanten TÜV-Zertifizierungen sollen mit den Anforderungen des AI Acts kompatibel sein und diese durch technische und risikobasierte Prüfungen ergänzen.
Das ist mehr als eine Formalität. Denn spätestens wenn KI Entscheidungen vorbereitet, die Menschen betreffen, reicht ein Hinweis in den Geschäftsbedingungen kaum noch aus.
Vertrauen könnte zum Wettbewerbsvorteil werden
Vielleicht liegt genau darin die wirtschaftlich spannendste Entwicklung.
Bislang wird beim Thema KI überwiegend darüber gesprochen, was ein System kann, z.B.:
- Schneller schreiben.
- Daten auswerten.
- Kundenanfragen beantworten.
- Prozesse automatisieren.
Die nächste Frage lautet zunehmend: Kann ich mich darauf verlassen?
Der TÜV-Verband verweist auf eine Umfrage, nach der 79 Prozent der Bundesbürger unkalkulierbare Risiken durch KI befürchten. Selbst unter Menschen, die KI bereits nutzen, vertraut nur gut die Hälfte darauf, dass die gelieferten Antworten und Ergebnisse korrekt sind. Damit bekommt Vertrauen plötzlich einen messbaren wirtschaftlichen Wert.
Ein Unternehmen, das seinen KI-Einsatz dokumentiert, Mitarbeiter qualifiziert, Verantwortlichkeiten festlegt und unabhängige Prüfungen zulässt, könnte künftig einen Vorteil gegenüber Wettbewerbern haben, die lediglich damit werben, „KI einzusetzen“.
Prüfung ersetzt keine Verantwortung
Am Ende bleibt allerdings etwas, das kein KI-Zertifikat übernehmen kann.
Menschen müssen entscheiden, wann KI eingesetzt werden darf. Menschen müssen Ergebnisse hinterfragen. Und Menschen müssen eingreifen können, wenn ein System an seine Grenzen kommt.
Gerade deshalb ist die Entwicklung rund um TÜV-Prüfungen interessant. Nach der ersten Phase des KI-Hypes rückt eine wesentlich nüchternere Frage in den Vordergrund. Nicht mehr nur „Was können wir mit KI machen?“ Sondern auch: „Wie können wir nachweisen, dass wir vernünftig damit umgehen?“
Für Unternehmen dürfte diese zweite Frage in den kommenden Jahren mindestens genauso wichtig werden wie die erste.
Quellen
- offizielle Ankündigung des TÜV-Verbands zur neuen KI-Zertifizierung
- Informationen von TÜV SÜD zur ISO/IEC 42001.
- Ergänzend beschreibt TÜV SÜD die Anforderungen des EU AI Acts an KI-gestützte Maschinen
- und die bereits erfolgte erste ISO/IEC-42001-Zertifizierung durch TÜV SÜD in Europa.
Unsere Informationsservices zur Künstlichen Intelligenz in der Praxis
Bleiben Sie am Ball mit AInews
| AInews – Ihr kostenloser KI-Infoservice Verpassen Sie keine relevanten Entwicklungen im Bereich der Künstlichen Intelligenz für die Geschäftswelt. Jetzt kostenlos bei AInews registrieren → |  |
Über die nachfolgenden Logo kommen Sie zu unserer Initiative und unsere KI-Ecke, in welcher Sie auch die KI-Fachartikel unserer anderen Fachportale finden, z.B. KI im Marketing, KI in der Produktion oder KI für Internetseiten.
