PreiseAnmelden

Hochrisiko-KI-Systeme.

Geprüft am

Kurzantwort

Ein KI-System ist hochriskant, wenn es Sicherheitsbauteil eines Produkts ist (oder selbst ein Produkt), das nach den EU-Vorschriften in Anhang I eine Konformitätsbewertung durch Dritte braucht, oder wenn es in einem der Bereiche des Anhangs III eingesetzt wird, etwa zur Auswahl von Bewerbern, zur Kreditwürdigkeitsprüfung oder in der Bildung (Artikel 6). Die Pflichten gelten nach der Digital-Omnibus-Verordnung ab dem 2. Dezember 2027 für Anhang III und ab dem 2. August 2028 für Anhang I.

Amtliche Quellen: KI-Verordnung, Artikel 6 (konsolidiert) · Anhang III (Amtsblatt)

Die acht Bereiche des Anhangs III

Bereiche des Anhangs III der KI-Verordnung, mit Beispielen aus dem Text
BereichBeispiele aus Anhang III
1. Biometrie, soweit nach Unions- oder nationalem Recht zugelassenBiometrische Fernidentifizierung, biometrische Kategorisierung, Emotionserkennung
2. Kritische InfrastrukturSicherheitsbauteile in der Verwaltung und im Betrieb kritischer digitaler Infrastruktur, des Straßenverkehrs oder der Wasser-, Gas-, Wärme- und Stromversorgung
3. Allgemeine und berufliche BildungZulassung zu Bildungseinrichtungen, Bewertung von Lernergebnissen, Überwachung von Prüfungen
4. Beschäftigung, Personalmanagement und Zugang zur SelbstständigkeitStellenanzeigen schalten, Bewerbungen sichten oder filtern, Bewerber bewerten; Entscheidungen über Beförderung und Kündigung
5. Grundlegende private und öffentliche Dienste und LeistungenAnspruch auf öffentliche Unterstützungsleistungen, Kreditwürdigkeitsprüfung (außer Betrugserkennung), Risikobewertung und Preisbildung bei Lebens- und Krankenversicherungen, Notrufe
6. Strafverfolgung, soweit zugelassenEtwa Bewertung der Verlässlichkeit von Beweismitteln
7. Migration, Asyl und Grenzkontrolle, soweit zugelassenEtwa Prüfung von Anträgen auf Asyl, Visa und Aufenthaltstitel
8. Rechtspflege und demokratische ProzesseUnterstützung von Justizbehörden; Beeinflussung von Wahlen und Abstimmungen

Ein System aus Anhang III gilt ausnahmsweise nicht als hochriskant, wenn es kein erhebliches Risiko für Gesundheit, Sicherheit oder Grundrechte birgt, indem es unter anderem das Ergebnis der Entscheidungsfindung nicht wesentlich beeinflusst (Artikel 6 Absatz 3). Seit 2026 stellt Artikel 6 Absatz 1a klar, dass KI-Systeme, die ausschließlich nicht sicherheitsrelevante Aspekte wie Nutzerunterstützung, Leistungsoptimierung oder Qualitätskontrolle betreffen, keine Sicherheitsbauteile sind. Die Kommission hat Leitlinien zur Einstufung bislang nur als Entwurf vorgelegt.

Wer was tun muss

Die wichtigsten Pflichten bei Hochrisiko-KI-Systemen, nach Rolle
RollePflichten (Auswahl)Artikel
AnbieterAnforderungen aus Kapitel III Abschnitt 2 erfüllen (Risikomanagement, Daten, technische Dokumentation, Aufzeichnung, Transparenz, menschliche Aufsicht, Genauigkeit und Robustheit), Konformitätsbewertung, CE-Kennzeichnung, Registrierung16, 43, 48, 49
BetreiberNach der Betriebsanleitung verwenden, menschliche Aufsicht durch kompetente Personen, Eingabedaten im Griff behalten, Betrieb überwachen, Protokolle aufbewahren26
Bestimmte Betreiber (etwa öffentliche Stellen)Grundrechte-Folgenabschätzung vor dem ersten Einsatz27
Einführer und HändlerVor dem Bereitstellen prüfen, dass Konformitätsbewertung, CE-Kennzeichnung und Unterlagen vorhanden sind23, 24
Anbieter aus DrittländernEinen Bevollmächtigten in der EU bestellen22

Fristen

  • 2. Dezember 2027: Hochrisiko-KI-Systeme nach Artikel 6 Absatz 2 und Anhang III (Artikel 113 Buchstabe c Ziffer i).
  • 2. August 2028: Hochrisiko-KI-Systeme nach Artikel 6 Absatz 1 und Anhang I (Ziffer ii).
  • Systeme, die vorher in Verkehr gebracht wurden, fallen nur bei erheblicher Änderung ihrer Konzeption darunter; Systeme für Behörden müssen bis 2. August 2030 nachziehen (Artikel 111 Absatz 2).

Erste Schritte

  • Alle KI-Anwendungen auflisten, die Menschen bewerten, auswählen oder über Leistungen entscheiden.
  • Jede mit Anhang I und Anhang III abgleichen und die Begründung festhalten, auch für die Ausnahme nach Artikel 6 Absatz 3.
  • Klären, ob Sie Anbieter oder Betreiber sind, oder durch Umbenennung oder wesentliche Änderung zum Anbieter werden (Artikel 25).
  • Den Zeitplan bis 2. Dezember 2027 oder 2. August 2028 planen.

Fragen

Ist ein KI-Werkzeug zur Bewerberauswahl hochriskant?
In der Regel ja: Anhang III Nummer 4 nennt KI-Systeme für die Einstellung oder Auswahl von Personen, insbesondere um Bewerbungen zu sichten oder zu filtern und Bewerber zu bewerten. Ausnahmen nach Artikel 6 Absatz 3 sind eng; die Pflichten gelten ab dem 2. Dezember 2027.

Quellen

Zuletzt geprüft am von Volkan Çatak, Gründer, Proofcan.

Keine Rechtsberatung. Diese Seite erklärt amtliche Texte in einfachen Worten und verlinkt jeden davon; prüfen Sie die Quellen oder fragen Sie eine Anwältin oder einen Anwalt, bevor Sie eine Entscheidung darauf stützen.