Artikel 5: die zehn verbotenen Praktiken im KI-Bereich

Artikel 5 der KI-Verordnung der EU (Verordnung (EU) 2024/1689) zählt Praktiken im KI-Bereich auf, die vollständig verboten sind. Sie werden nicht nach Risiko gestuft und unterliegen keiner Konformitätsbewertung — sie sind verboten. Die ursprünglichen acht gelten seit dem 2. Februar 2025, mit Geldbußen von bis zu 35 Mio. € oder 7 % des weltweiten Umsatzes (Art. 99 Abs. 3). Dieser Ratgeber geht jedes Verbot mit konkreten Beispielen durch. Zwei weitere Verbote — für KI, die nicht einvernehmliche intime Bilder (NCII) und Darstellungen sexuellen Kindesmissbrauchs (CSAM) erzeugt — hat der digitale Omnibus zur KI eingefügt; sie gelten ab dem 2. Dezember 2026 (siehe das Ende dieses Ratgebers). Damit sind es insgesamt zehn.

Die ursprünglichen acht Verbote

1. Unterschwellige Techniken (Art. 5 Abs. 1 Buchst. a)

KI, die Techniken der unterschwelligen Beeinflussung außerhalb des Bewusstseins einer Person oder manipulative oder täuschende Techniken einsetzt, mit dem Ziel oder der Wirkung, das Verhalten wesentlich zu verändern, und zwar in einer Weise, die erheblichen Schaden zufügt oder mit hinreichender Wahrscheinlichkeit zufügen wird.

Der Haken: Die Schwelle ist, das Verhalten „wesentlich zu verändern“, mit dem Potenzial erheblichen Schadens. Übliche Überzeugungsmuster in Benutzeroberflächen („Angebot nur für kurze Zeit“, spielerische Belohnungsschleifen) sind nicht verboten. KI, die mit personalisierter Manipulation die bewusste Wahrnehmung umgeht, besonders bei schutzbedürftigen Personen, ist es.

2. Ausnutzung von Schutzbedürftigkeit (Art. 5 Abs. 1 Buchst. b)

KI, die eine Vulnerabilität oder Schutzbedürftigkeit einer Person oder einer bestimmten Gruppe aufgrund ihres Alters, einer Behinderung oder einer sozialen oder wirtschaftlichen Situation ausnutzt, um das Verhalten wesentlich zu verändern, und zwar in einer Weise, die erheblichen Schaden zufügt oder mit hinreichender Wahrscheinlichkeit zufügen wird.

Erfasst sind KI-Produkte, die darauf ausgelegt sind, Kinder, ältere Menschen oder Menschen in finanzieller Not so anzusprechen, dass sie zu selbstschädigenden Entscheidungen gedrängt werden (räuberische Kreditempfehlungen, suchtfördernde Spielmechanik für Minderjährige, ausbeuterische Dating-Apps).

3. Soziale Bewertung (Art. 5 Abs. 1 Buchst. c)

KI, die natürliche Personen auf der Grundlage ihres sozialen Verhaltens oder bekannter oder vorhergesagter persönlicher Eigenschaften bewertet oder einstuft, wenn die soziale Bewertung zu Folgendem führt:

• einer Schlechterstellung oder Benachteiligung in sozialen Zusammenhängen, die mit dem ursprünglichen Kontext nichts zu tun haben, oder
• einer Schlechterstellung oder Benachteiligung, die im Hinblick auf das Verhalten unverhältnismäßig ist

Vorbild ist das chinesische Sozialkreditsystem, aber das Verbot reicht weiter. Wer Verhaltensbewertungen über Kontexte hinweg nutzt — auch kommerzielle —, riskiert, hierunter zu fallen.

4. Vorhersage von Straftaten (Predictive Policing) (Art. 5 Abs. 1 Buchst. d)

KI, die ausschließlich auf der Grundlage des Profiling oder der Bewertung von Persönlichkeitsmerkmalen verwendet wird, um das Risiko vorherzusagen, dass eine Person eine Straftat begeht. Die Ausnahme: wenn die Vorhersage die menschliche Bewertung der Beteiligung an einer kriminellen Aktivität unterstützt, die sich bereits auf objektive und überprüfbare Tatsachen stützt.

5. Ungezieltes Auslesen von Gesichtsbildern (Art. 5 Abs. 1 Buchst. e)

KI-Systeme, die Datenbanken zur Gesichtserkennung durch das ungezielte Auslesen von Gesichtsbildern aus dem Internet oder von Überwachungsaufnahmen erstellen oder erweitern.

Auf das Geschäftsmodell von Clearview AI zielte dieser Buchstabe. Ein Gesichtserkennungsprodukt aus ausgelesenen öffentlichen Fotos zu bauen, ist verboten. Eines aus lizenzierten Datensätzen oder aus Fotos zu bauen, die Ihre eigenen Nutzer hochgeladen haben, ist es nicht.

6. Emotionserkennung am Arbeitsplatz und in Bildungseinrichtungen (Art. 5 Abs. 1 Buchst. f)

KI zur Emotionserkennung am Arbeitsplatz oder in Bildungseinrichtungen, außer aus Sicherheitsgründen oder medizinischen Gründen.

Erfasst sind:

• Kameras zur „Engagement-Erkennung“ in Klassenzimmern
• Systeme, die die „Stimmung“ von Beschäftigten verfolgen
• KI, die die „Aufrichtigkeit“ oder den „Stress“ von Beschäftigten aus Stimme oder Video bewertet

Die Ausnahme ist eng — medizinisch (etwa die Erkennung von Fahrermüdigkeit in einem sicherheitskritischen Kontext) oder Sicherheit (die Erkennung unmittelbar bevorstehender Gewalt). Marketing-Beobachtung („Wie fühlt sich die Kundschaft in unserem Geschäft?“) ist erlaubt; die Überwachung von Beschäftigten nicht.

7. Biometrische Kategorisierung nach sensiblen Merkmalen (Art. 5 Abs. 1 Buchst. g)

KI, die natürliche Personen auf der Grundlage biometrischer Daten kategorisiert, um ihre Rasse, ihre politischen Einstellungen, ihre Gewerkschaftszugehörigkeit, ihre religiösen Überzeugungen, ihr Sexualleben, ihre sexuelle Ausrichtung oder ihre weltanschaulichen Überzeugungen abzuleiten.

Enge Ausnahme für die Kennzeichnung oder Filterung rechtmäßig erworbener Datensätze im Bereich der Strafverfolgung.

8. Biometrische Echtzeit-Fernidentifizierung in öffentlich zugänglichen Räumen (Art. 5 Abs. 1 Buchst. h)

Biometrische Echtzeit-Fernidentifizierung in öffentlich zugänglichen Räumen zu Strafverfolgungszwecken — grundsätzlich verboten. Enge Ausnahmen für:

• die gezielte Suche nach Opfern von Entführung, Menschenhandel oder sexueller Ausbeutung sowie nach vermissten Personen
• die Abwehr unmittelbarer Gefahren für das Leben oder von Terroranschlägen
• das Aufspüren von Verdächtigen bestimmter aufgelisteter schwerer Straftaten

Bei Verwendung im Rahmen einer Ausnahme ist eine Genehmigung durch eine Justizbehörde oder eine unabhängige Verwaltungsbehörde erforderlich.

Zwei weitere Verbote gelten ab dem 2. Dezember 2026

Der digitale Omnibus zur KI (Verordnung (EU) 2026/1744), seit dem 27. Juli 2026 in Kraft, fügt zwei neue Buchstaben in Art. 5 Abs. 1 ein — nicht einen. Sie gelten ab dem 2. Dezember 2026:

• Buchstabe ba — KI-Systeme, die realistische Bilder, Videos, Audioinhalte oder vergleichbares Material von den Intimbereichen einer identifizierbaren Person oder von einer identifizierbaren Person bei sexuell expliziten Handlungen erzeugen oder manipulieren, ohne dass diese Person freiwillig, für den konkreten Fall, informiert, unmissverständlich und ausdrücklich eingewilligt hat. Das ist das „Nudifier“-Verbot.
• Buchstabe bb — KI-Systeme, die Darstellungen sexuellen Kindesmissbrauchs im Sinne von Art. 2 Buchst. c und e der Richtlinie 2011/93/EU erzeugen oder manipulieren, es sei denn, nach nationalem Recht greift ein Rechtfertigungsgrund, weil nicht unrechtmäßig gehandelt wird.

Die neuen Absätze 1a und 1b des Art. 5 begrenzen, wie die beiden Buchstaben greifen, und auf die Einzelheiten kommt es an:

• Das Inverkehrbringen ist nur verboten, wenn das Erzeugen solchen Materials die Zweckbestimmung des Systems ist, oder wenn Konzeption, Training, Architektur, Fähigkeiten oder nutzerseitige Funktionen des Systems es ohne erhebliche technische Veränderung zu einem vernünftigerweise vorhersehbaren und reproduzierbaren Ergebnis machen und dem System angemessene, geeignete Schutzvorkehrungen fehlen, um es zu verhindern und zu korrigieren. „Das war nicht beabsichtigt“ ist keine Verteidigung, wenn die Fähigkeit ungesichert bleibt.
• Die Verwendung ist nur verboten, wenn der Betreiber das System tatsächlich nutzt, um solches Material herzustellen.
• Nach Abs. 1b gilt eine Manipulation, die die abgebildeten Intimbereiche nicht stärker entblößt und die Art der dargestellten sexuell expliziten Handlungen nicht verändert, nicht als Manipulation im Sinne von Buchstabe ba.

Erwägungsgrund 13 bestätigt, dass dieser Rechtfertigungsgrund legitime Strafverfolgungsarbeit erfasst sowie Red-Teaming oder Evaluierungen, die durchgeführt werden, um zu testen, ob ein System genau dieses Verbot einhält.

Damit ändert sich die Gesamtzahl: Art. 5 Abs. 1 nennt jetzt zehn verbotene Praktiken, nicht acht.

Was „öffentlich zugänglicher Raum“ bedeutet

Verbot 8 gilt speziell in „öffentlich zugänglichen Räumen“ — definiert als jeder physische Ort, der einer unbestimmten Anzahl von Personen zugänglich ist. Dazu gehören Straßen, Parks, Bahnhöfe und Einkaufszentren. Nicht dazu gehören private Arbeitsstätten (für die über Verbot 6 andere Verbote gelten) und Orte, die nur Mitgliedern offenstehen.

Praxisbeispiele — verboten oder erlaubt

Anwendungsfall	Ergebnis
Emotions-KI in Verkaufskiosken (Stimmung der Kundschaft)	Erlaubt (nicht Arbeitsplatz/Bildung)
Emotions-KI, die die Empathie von Vertriebsmitarbeitenden in Gesprächen bewertet	Verboten (Arbeitsplatz)
Emotions-KI, die Fahrermüdigkeit im Lkw-Verkehr erkennt	Erlaubt (Ausnahme aus Sicherheitsgründen)
Gesichtserkennung beim Login (Ihre eigene Nutzerdatenbank)	Erlaubt (kein ungezieltes Auslesen)
Gesichtserkennungsprodukt aus ausgelesenen Instagram-Fotos	Verboten (Art. 5 Abs. 1 Buchst. e)
KI-Bewertung der Aufmerksamkeit von Lernenden per Kamera im Klassenzimmer	Verboten (Bildung + Emotion)
KI-Auswertung der Bearbeitungszeiten von Lerneinheiten in einem LMS	Erlaubt (keine Ableitung von Emotionen oder biometrischen Merkmalen)
Kredit-KI, die Antragstellende in finanzieller Not mit Hochzinsangeboten ausnutzt	Verboten (Ausnutzung von Schutzbedürftigkeit)
Kredit-KI mit gestaffelten Preisen nach Bonität	Erlaubt (transparente risikobasierte Preisgestaltung)

Wann die Verbote gelten

Die Verbote gelten unabhängig von der Risikoeinstufung — es gibt keine Ausnahme für Systeme mit geringer Konfidenz, interne Prototypen oder Forschung. Seit dem 2. Februar 2025 ist die Verwendung oder das Inverkehrbringen einer der oben genannten Praktiken ein Verstoß der höchsten Bußgeldstufe.

Für Forschung und Wissenschaft nimmt Art. 2 Abs. 6 KI-Systeme, die eigens für den alleinigen Zweck der wissenschaftlichen Forschung und Entwicklung entwickelt und in Betrieb genommen werden, ganz vom Anwendungsbereich der Verordnung aus.

Worauf Sie prüfen sollten

Bevor eine KI-Funktion in der EU ausgeliefert wird:

1. Überwachung am Arbeitsplatz — ist Emotionserkennung im Spiel? Wenn ja, stoppen
2. Ausrichtung auf schutzbedürftige Personen — zielt eine Verhaltensmanipulation auf Alter, Behinderung oder sozioökonomische Lage?
3. Bewertung über Kontexte hinweg — wird eine Ausgabe außerhalb ihres ursprünglichen Kontexts so genutzt, dass sie Nutzer benachteiligt?
4. Biometrische Datenflüsse — werden sensible Merkmale abgeleitet?
5. Biometrische Identifizierung im öffentlichen Raum — wenn Ihr Kunde eine Strafverfolgungsbehörde ist: Liegt eine Genehmigung einer Justizbehörde vor?

Wenn eines dieser Signale anschlägt, holen Sie vor der Auslieferung Rechtsrat ein.

Bußgeldrahmen

Verstöße gegen die Verbote nach Art. 5 sind am höchsten bußgeldbewehrt (Art. 99 Abs. 3):

• Bis zu 35 Mio. € oder 7 % des weltweiten Jahresumsatzes, je nachdem, welcher Betrag höher ist
• Für KMU (Art. 99 Abs. 6) gilt der niedrigere der beiden Beträge

In diesem Bereich liegen Bußgelder, die ein Unternehmen beenden können. Stufen Sie sorgfältig ein und dokumentieren Sie die Begründung — ein einziger versehentlicher Einsatz einer nach Art. 5 verbotenen Praktik ist der direkteste Weg zu einem Verfahren der höchsten Bußgeldstufe.