Artikel 5 — åtta förbjudna AI-praktiker, en nionde på väg

Artikel 5 i EU:s AI-förordning listar åtta AI-praktiker som är helt förbjudna. Inga risknivåer, inga bedömningar av överensstämmelse — bara förbud. I kraft sedan 2 februari 2025, med böter upp till 35 miljoner euro eller 7 % av global omsättning (artikel 99.3). Den här guiden går igenom var och en med konkreta exempel. Ett nionde förbud — riktat mot AI som genererar icke-samtyckesbaserat intimt bildmaterial (NCII) eller material med sexuella övergrepp mot barn (CSAM) — är på väg genom Digital Omnibus (politiskt överenskommet den 7 maj 2026, i väntan på formellt antagande; se slutet av guiden).

De åtta förbuden

1. Subliminala tekniker (art. 5.1 a)

AI som använder subliminala tekniker bortom en persons medvetande, eller manipulerande eller bedrägliga tekniker, med syftet eller effekten att materiellt förvränga beteende på ett sätt som orsakar eller rimligen kan orsaka betydande skada.

Gränsen: tröskeln är “materiellt förvränga beteende” med betydande skadepotential. Standardpersuasiva UI-mönster (“tidsbegränsat erbjudande”, gamifierade loopar) är inte förbjudna. AI som kringgår medveten medvetenhet med personlig manipulation, särskilt av sårbara användare, är det.

2. Utnyttjande av sårbarheter (art. 5.1 b)

AI som utnyttjar en persons eller specifik grupps sårbarheter på grund av ålder, funktionsnedsättning eller social/ekonomisk situation, för att materiellt förvränga beteende på ett sätt som orsakar eller rimligen kan orsaka betydande skada.

Detta fångar AI-produkter designade för att rikta sig till barn, äldre eller ekonomiskt desperata användare på sätt som styr dem mot självskadliga beslut (predatoriska låneförslag, beroendeframkallande spel för minderåriga, exploaterande dejtingappar).

3. Social poängsättning (art. 5.1 c)

AI som utvärderar eller klassificerar fysiska personer baserat på socialt beteende eller kända/förutspådda personliga egenskaper, där den sociala poängen leder till:

• Skadlig eller ogynnsam behandling i orelaterade sociala sammanhang, eller
• Skadlig eller ogynnsam behandling som är oproportionerlig mot beteendet

Referensen är Kinas sociala kreditsystem, men förbudet är bredare. Tvärsammanhangsanvändning av beteendepoäng — även kommersiella — riskerar att hamna här.

4. Förutsägande polisarbete (art. 5.1 d)

AI som används enbart baserat på profilering eller bedömning av personlighetsdrag för att förutsäga risken att begå ett brott. Undantag: när förutsägelsen stöder en mänsklig bedömning av involvering i brottslig verksamhet som redan stöds av objektiva och verifierbara fakta.

5. Oriktad ansiktsskrapning (art. 5.1 e)

AI-system som skapar eller utökar ansiktsigenkänningsdatabaser genom oriktad skrapning av ansiktsbilder från internet eller CCTV-material.

Denna artikel riktade sig mot Clearview AIs affärsmodell. Att bygga en ansiktsigenkänningsprodukt genom att skrapa offentliga foton är förbjudet. Att bygga en från licensierade datasätt eller egna användaruppladdade foton är det inte.

6. Känsloigenkänning på arbetsplatser och i skolor (art. 5.1 f)

AI för känsloigenkänning på arbetsplatser eller utbildningsinstitutioner, utom av säkerhets- eller medicinska skäl.

Detta fångar:

• “Engagemangsdetektering” via kameror i klassrum
• “Arbetares humör”-spårningssystem
• AI som bedömer anställdas “uppriktighet” eller “stress” från röst/video

Undantaget är smalt — medicinskt (t.ex. detektera förartrötthet i säkerhetskritisk kontext) eller säkerhet (detektera nära förestående våld). Marknadsövervakning (“hur känner kunderna sig i vår butik?”) är okej; arbetstagar­övervakning är inte.

7. Biometrisk kategorisering av känsliga attribut (art. 5.1 g)

AI som kategoriserar fysiska personer baserat på biometriska data för att härleda ras, politiska åsikter, fackförenings­medlemskap, religiös tro, sexliv, sexuell läggning eller filosofisk övertygelse.

Smalt undantag för brottsbekämpning­etikettering eller filtrering av lagligen förvärvade datasätt.

8. Realtids-fjärrbiometrisk identifiering i offentliga utrymmen (art. 5.1 h)

Realtids-fjärrbiometrisk identifiering i offentligt tillgängliga utrymmen för brottsbekämpning — förbjudet som standard. Smala undantag för:

• Riktad sökning efter saknade personer, inklusive barn
• Förebyggande av omedelbara hot mot liv eller terroristattacker
• Lokalisering av misstänkta för specifika listade allvarliga brott

Vid användning under undantag krävs rättsligt eller oberoende administrativt godkännande.

En nionde förbjuden metod på väg genom Digital Omnibus (i väntan på antagande)

Digital Omnibus — politiskt överenskommen den 7 maj 2026 och ännu inte formellt antagen — lägger till ett nytt förbud i artikel 5: AI-system som genererar icke-samtyckesbaserat intimt bildmaterial (NCII) eller material med sexuella övergrepp mot barn (CSAM), inklusive så kallade “nudifier”-appar.

Det träffar system som är utformade för dessa syften, och system där sådana utdata är rimligen förutsebara och reproducerbara i avsaknad av rimliga, proportionerliga och effektiva skyddsåtgärder.

Snäva undantag: intimt innehåll som skapas med uttryckligt samtycke från de personer som avbildas; lagliga verktyg för att upptäcka, utreda eller moderera CSAM; samt utvecklingen av de underliggande generativa förmågorna i sig.

Förväntas gälla från 2 december 2026 när Omnibus antagits och publicerats i EUT. Fram till dess är det en preliminär överenskommelse, inte lag — men leverantörer av generativa mediesystem bör bygga in skyddsåtgärderna nu.

Praktiska exempel — förbjudet vs tillåtet

| Användning | Verdikt | |---|---| | Känslo-AI i butikskiosker (konsumenthumör) | Tillåtet (inte arbetsplats/utbildning) | | Känslo-AI som bedömer säljares empati i samtal | Förbjudet (arbetsplats) | | Känslo-AI som upptäcker förartrötthet i transport | Tillåtet (säkerhetsundantag) | | Ansiktsigenkänningsinloggning (egen användardatabas) | Tillåtet (ingen oriktad skrapning) | | Ansiktsigenkänningsprodukt byggd från skrapade Instagram-foton | Förbjudet (art. 5.1 e) | | AI-bedömning av elevers uppmärksamhet via klassrumskamera | Förbjudet (utbildning + känsla) | | Lån-AI som utnyttjar ekonomiskt desperata sökande med höga räntor | Förbjudet (sårbarhetsexploatering) | | Lån-AI som erbjuder nivåbaserad prissättning baserad på kreditpoäng | Tillåtet (transparent riskbaserad prissättning) |

När förbuden gäller

Förbuden gäller oavsett riskklassificering — inget undantag för lågkonfidenssystem, interna prototyper eller forskning. Från 2 februari 2025 är distribution eller marknadsplacering av något av ovanstående en nivå 1-överträdelse.

För forskning och akademiska sammanhang utesluter artikel 2.8 AI-system utvecklade och driftsatta uteslutande för vetenskaplig forskning och utveckling helt från förordningens omfattning.

Vad ni ska screena för

Innan någon AI-funktion levereras inom EU:

1. Arbetsplatsövervakning — är någon känsloigenkänning inblandad? Om ja, stoppa
2. Inriktning på sårbara användare — riktas någon beteende­manipulation mot ålder, funktionsnedsättning eller socioekonomisk status?
3. Tvärkontext-poängsättning — används något resultat utanför sin ursprungliga kontext på sätt som missgynnar användare?
4. Biometriska dataflöden — sker härledning av känsliga attribut?
5. Biometrisk ID i offentliga utrymmen — om kunden är brottsbekämpning, finns rättsligt godkännande?

Om någon signal utlöses, sök juridisk rådgivning innan leverans.