EU‑KI‑Verordnung (EU AI Act) – Verordnung (EU) 2024/1689

1) Einfach erklärt

Die EU‑KI‑Verordnung ist ein EU‑Gesetz. Es legt fest, wie Künstliche Intelligenz (KI) in Europa entwickelt und benutzt werden darf.

Drei Stufen:

• Verboten: z. B. soziales Punkte‑System für Menschen; Gefühls‑Erkennung in Schulen oder am Arbeitsplatz; das ungezielte Sammeln von Gesichtsbildern aus dem Internet, um Gesichtsdatenbanken zu bauen.
• Hohes Risiko: z. B. KI, die bei Krediten, Jobs, Bildung, Medizin oder Infrastruktur mitentscheidet. Hier gelten strenge Regeln (u. a. gute Daten, Dokumentation, Prüfungen, Aufsicht durch Menschen).
• Geringeres Risiko: vor allem Transparenz. Nutzerinnen und Nutzer sollen wissen, dass KI im Einsatz ist.

Beispiel: Eine Bank setzt KI ein, um die Kreditwürdigkeit zu prüfen. Das gilt als hohes Risiko. Die Bank muss Risiken prüfen, Datenqualität sichern, Abläufe dokumentieren, menschliche Aufsicht sicherstellen und das System in eine EU‑Datenbank eintragen, bevor es eingesetzt wird. Gefühls‑Erkennung in einer Schule ist dagegen verboten.

Wann gilt was? (Zeitplan)

• Seit 1. August 2024: Verordnung in Kraft.
• Seit 2. Februar 2025: Verbote und Vorgaben zu KI‑Kompetenz.
• Seit 2. August 2025: Regeln für allgemeine KI‑Modelle und Aufsicht.
• Ab 2. August 2026: Großer Teil der Vorschriften gilt.
• Bis 2. August 2027: längere Frist für einige eingebettete Hochrisiko‑Systeme.

2) Professionelle Definition

Die Verordnung (EU) 2024/1689 schafft einen risikobasierten Rechtsrahmen für KI in der EU. Sie enthält:

(i) Verbote (Art. 5): u. a.

• manipulative oder täuschende Techniken,
• soziales Scoring,
• das ungezielte Auslesen/Scraping von Gesichtsbildern aus Internet oder Videoüberwachung zur Erstellung/Erweiterung von Gesichtsdatenbanken,
• Gefühls‑Erkennung am Arbeitsplatz und in Bildungs‑Einrichtungen (Ausnahme: medizinische oder **Sicherheits‑**zwecke).

(ii) Pflichten für Hochrisiko‑KI (Art. 9–15): Risikomanagement, Daten‑/Daten‑Governance, technische Dokumentation, Protokollierung, Transparenz gegenüber Anwendern, menschliche Aufsicht, Genauigkeit/Robustheit/IT‑Sicherheit.

(iii) Registrierung (Art. 49, 71): Anbieter von Hochrisiko‑KI (und Anbieter, die ihr System begründet als nicht hochriskant einstufen) registrieren sich und das System in der EU‑Datenbank, vor Inverkehrbringen/Inbetriebnahme; öffentliche Stellen, die Hochrisiko‑KI einsetzen, registrieren auch die Nutzung.

(iv) Einordnung „hohes Risiko“ (Art. 6, Anhang III): Dazu zählen u. a. Systeme, die über den Zugang zu privaten/öffentlichen Diensten entscheiden; ausdrücklich genannt sind Systeme zur Bewertung der Kreditwürdigkeit von Personen.

(v) Sanktionen (Art. 99): Bei Verstößen gegen Verbote: Geldbußen bis zu 7 % des weltweiten Jahresumsatzes (oder bis zu 35 Mio. EUR), je nachdem, was höher ist.

(vi) Anwendung und Aufsicht: Stufenweiser Anwendungsbeginn (siehe Zeitplan oben); spezielle Regeln für allgemeine KI‑Modelle und Governance (u. a. EU‑KI‑Amt).

Quellen (geprüft)

• EUR‑Lex (Amtsblatt – Volltext der Verordnung (EU) 2024/1689) – inkl. Art. 5 (Verbote), Art. 6, Art. 9–15, Art. 49, Art. 71, Art. 99 sowie Erwägungsgründe (z. B. Erwägungsgrund 43/44 zu Gesichtsbildern/Emotionserkennung).
  https://eur-lex.europa.eu/eli/reg/2024/1689/oj/eng
  (Authentische PDF‑Fassung: OJ L, 12. 7. 2024)
• Europäische Kommission – „AI Act“ Übersichtsseite (Anwendungs‑Zeitplan)
  https://digital-strategy.ec.europa.eu/en/policies/regulatory-framework-ai
• EUR‑Lex (Nachweise/Erwägungsgründe zum Hochrisiko‑Bereich „Kreditwürdigkeit“) – bestätigt die Einstufung als Hochrisiko
  (siehe Erwägungen im Amtsblatt‑PDF und Annex‑Verweise)