Welche KI-Systeme sind nach der KI-Verordnung Hochrisiko-KI-Systeme?

Art. 6 der KI-Verordnung der EU legt die beiden Wege in die Hochrisikostufe fest.

Der Weg über Anhang I. Das KI-System ist Sicherheitsbauteil eines Produkts, das bereits unter Harmonisierungsrechtsvorschriften der Union fällt — Medizinprodukte, Maschinen, Aufzüge, Spielzeug und die übrigen —, oder ist selbst ein solches Produkt.

Der Weg über Anhang III. Das System fällt in einen von acht eigenständigen Bereichen:

1. Biometrie
2. Kritische Infrastruktur
3. Allgemeine und berufliche Bildung
4. Beschäftigung und Personalmanagement
5. Zugänglichkeit und Inanspruchnahme grundlegender privater und öffentlicher Dienste und Leistungen
6. Strafverfolgung
7. Migration, Asyl und Grenzkontrolle
8. Rechtspflege und demokratische Prozesse

Bereich 4 erfasst mehr europäische KMU als jeder andere: Einstellung und Auswahl, einschließlich Systemen, die gezielte Stellenanzeigen schalten, Bewerbungen filtern oder Bewerber bewerten. Die meisten Bewerbermanagementsysteme und Produkte zur Bewertung von Bewerbern landen hier.

Die Ausnahme. Nach Art. 6 Abs. 3 entgeht ein System, das sonst unter Anhang III fiele, der Hochrisikostufe, wenn es eine eng gefasste vorbereitende Aufgabe erfüllt und das Ergebnis der Entscheidungsfindung nicht wesentlich beeinflusst. Die Ausnahme ist enger, als sie zunächst wirkt, und wer sie in Anspruch nimmt, muss die Bewertung dokumentieren. Hier zu raten, ist einer der teureren Fehler, die man machen kann.