De AI Act deelt AI-systemen in naar risiconiveau — zie de volledige uitleg over risiconiveaus. De zwaarste categorie, onaanvaardbaar risico, is niet onderworpen aan verplichtingen maar aan een volledig verbod. Sinds 2 februari 2025 zijn de volgende acht praktijken verboden binnen de EU, ongeacht wie de aanbieder is of waar deze is gevestigd.
1. Schadelijke manipulatietechnieken
AI-systemen die subliminale technieken buiten iemands bewustzijn, of doelbewust manipulatieve of misleidende technieken inzetten om iemands gedrag wezenlijk te veranderen op een manier die aantoonbare schade veroorzaakt — bijvoorbeeld financiële schade of fysiek letsel.
2. Uitbuiten van kwetsbaarheden
Systemen die misbruik maken van kwetsbaarheden door leeftijd, handicap of een specifieke sociale of economische situatie, met als doel gedrag te veranderen op een manier die schade toebrengt.
3. Social scoring
Het beoordelen of classificeren van natuurlijke personen op basis van hun sociale gedrag of persoonlijkheidskenmerken, waarbij die score leidt tot nadelige behandeling in een andere context dan waarin de data is verzameld — het bekendste voorbeeld is een overheids-"social credit"-systeem.
4. Voorspellend profileren van criminaliteit
Risicobeoordelingen van individuen om de kans op een strafbaar feit te voorspellen, uitsluitend gebaseerd op profilering of persoonlijkheidskenmerken — zonder dat er objectieve, verifieerbare feiten aan ten grondslag liggen die rechtstreeks verband houden met criminele activiteit.
5. Ongerichte scraping van gezichtsbeelden
Het zonder gerichte selectie ("untargeted") verzamelen van gezichtsbeelden van internet of CCTV-beelden om gezichtsherkenningsdatabases te bouwen of uit te breiden.
6. Emotieherkenning op werk en school
Het afleiden van emoties op de werkvloer of in onderwijsinstellingen, behalve om medische of veiligheidsredenen (bijvoorbeeld vermoeidheidsdetectie bij piloten).
7. Biometrische categorisering van gevoelige kenmerken
Systemen die biometrische gegevens gebruiken om ras, politieke opvattingen, vakbondslidmaatschap, religieuze overtuiging of seksuele geaardheid af te leiden — met een beperkte uitzondering voor rechtshandhaving onder strikte voorwaarden.
8. Real-time biometrische identificatie op afstand in publieke ruimtes
Het gebruik van real-time gezichtsherkenning in openbare ruimtes door rechtshandhavingsinstanties is in beginsel verboden. Er gelden nauw omschreven uitzonderingen, bijvoorbeeld het zoeken naar specifieke slachtoffers van ontvoering of mensenhandel, het voorkomen van een concrete en actuele terroristische dreiging, of het opsporen van verdachten van ernstige misdrijven — telkens met voorafgaande rechterlijke of onafhankelijke toetsing.
Wat als jouw organisatie zo'n systeem gebruikt?
Overtreding van artikel 5 is de zwaarst beboete categorie in de hele verordening: tot €35 miljoen of 7% van de wereldwijde jaaromzet, wat hoger is. Bekijk het volledige overzicht van boetes en sancties. Twijfel je of jouw AI-toepassing onder een van deze categorieën valt? Doorloop de interactieve risico-check voor een indicatieve inschatting.
De officiële, juridisch bindende tekst van deze bepalingen staat in artikel 5 van Verordening (EU) 2024/1689 op EUR-Lex.