Einfach erklärt
Zertifizierung von KI heißt: Unabhängig prüfen (lassen), ob eine KI‑Lösung oder die Organisation dahinter vorgegebene Regeln/Standards erfüllt. In Europa ist das bei vielen hochrisikoreichen KI‑Systemen über den EU‑KI‑Rechtsrahmen (AI Act) geregelt.
Was wird geprüft?
- Das System (z. B. Datenqualität, technische Doku, Test/Monitoring, Transparenz, menschliche Aufsicht).
- Das Management‑System des Anbieters (z. B. ISO/IEC 42001 – KI‑Managementsystem).
Beispiele:
- Ein Hersteller eines medizinischen KI‑Systems braucht eine Konformitätsbewertung (je nach Anwendung ggf. mit Notifizierter Stelle) → CE‑Kennzeichnung.
- Ein Unternehmen führt ISO/IEC 42001 ein und lässt sich auditieren → Nachweis eines strukturierten KI‑Risikomanagements.
Warum wichtig?
Sicherheit, Fairness, Transparenz und Rechtssicherheit – für Nutzende, Aufsicht und Markt.
Professionelle Definition
KI‑Zertifizierung umfasst formale Konformitätsbewertungen von KI‑Systemen (produkt-/systembezogen) und Managementsystem‑Zertifizierungen (organisationsbezogen), gestützt auf Recht und Standards:
A) EU‑AI‑Act – Konformitätsbewertung (produkt-/systembezogen)
- Hochrisiko‑KI (z. B. bestimmte Anwendungen gem. Annex III) unterliegt Pflichten (Risikomanagement, Daten-/Doku‑Anforderungen, Transparenz, Human Oversight, Monitoring).
- Vermutung der Konformität: Wer harmonisierte Normen (im Amtsblatt veröffentlicht) anwendet, wird bzgl. abgedeckter Anforderungen als konform vermutet (Art. 40).
- Bewertungswege: Interne Kontrolle (bei vollständiger Anwendung harmonisierter Normen) oder Einbezug einer Notifizierten Stelle (Third‑Party) z. B. wenn Normen nicht vollständig abdecken – Ergebnis ist die CE‑Konformitätserklärung.
- Notifizierte Stellen: von Mitgliedstaaten benannte Konformitätsbewertungsstellen; sie prüfen nach den Modulen/Umfang ihrer Notifizierung.
B) Managementsystem‑Zertifizierung (organisationsbezogen)
- ISO/IEC 42001:2023 – (erstes) KI‑Managementsystem: Anforderungen an Governance, Risiko, Transparenz, Verantwortlichkeiten etc.; auditierbar durch akkreditierte Stellen.
- ISO/IEC 23894:2023 – Leitfaden zum KI‑Risikomanagement (praxisnahe Guidance; selbst kein Zertifizierungsstandard, aber Referenz für Audits/Prozesse).
- Ergänzend: NIST AI RMF 1.0 (freiwillig, Rahmenwerk für Risiko/Trustworthiness; kein Zertifikat, aber oft Audit‑Kriterium in Programmen/Policies).
C) Rolle der Normung (Harmonisierung)
- CEN‑CENELEC JTC 21 erarbeitet harmonisierte europäische Normen zu KI, die den AI Act unterstützen. Veröffentlichung im Amtsblatt → Vermutung der Konformität.
Quellen
EU – AI Act (Überblick der Europäischen Kommission)
https://digital-strategy.ec.europa.eu/en/policies/regulatory-framework-ai
EU – AI Act Service Desk (Art. 40: Harmonisierte Normen → Vermutung der Konformität)
https://ai-act-service-desk.ec.europa.eu/en/ai-act/article-40
EU – AI Act Service Desk (Art. 29: Notifizierte/Benannte Stellen – Anforderungen)
https://ai-act-service-desk.ec.europa.eu/en/ai-act/article-29
EU – Notified bodies (Definition/Grundlagen)
https://single-market-economy.ec.europa.eu/single-market/goods/building-blocks/notified-bodies_en
CEN‑CENELEC – Artificial Intelligence / JTC 21 (Normungsarbeit, Harmonisierung)
https://www.cencenelec.eu/areas-of-work/cen-cenelec-topics/artificial-intelligence/
JRC (EU) – Harmonised Standards for the European AI Act (Analyse/Überblick)
https://publications.jrc.ec.europa.eu/repository/bitstream/JRC139430/JRC139430_01.pdf
ISO – ISO/IEC 42001:2023 (KI‑Managementsystem)
https://www.iso.org/standard/42001
ISO – ISO/IEC 23894:2023 (KI‑Risikomanagement – Guidance)
https://www.iso.org/standard/77304.html
NIST – AI Risk Management Framework 1.0 (PDF)
https://nvlpubs.nist.gov/nistpubs/ai/nist.ai.100-1.pdf
NIST – AI RMF Overview
https://www.nist.gov/itl/ai-risk-management-framework