AI Act Kompas

De onderhandelingen over de AI Act draaiden lange tijd om één onderwerp: biometrie bij de politie. Het resultaat is een gelaagd stelsel van verboden, uitzonderingen en zware procedurele waarborgen. Dit artikel zet uiteen wat waar valt.

Wat verboden is

Vier van de acht verboden praktijken uit artikel 5 raken rechtshandhaving direct:

• Voorspellend profileren van criminaliteit. Het beoordelen of voorspellen van het risico dat een persoon een strafbaar feit pleegt, uitsluitend op basis van profilering of van beoordeling van persoonlijkheidskenmerken. Uitzondering: systemen die een menselijke beoordeling ondersteunen die al berust op objectieve, verifieerbare feiten die rechtstreeks verband houden met criminele activiteit.
• Ongerichte scraping van gezichtsbeelden van internet of CCTV om gezichtsherkenningsdatabanken op te bouwen of uit te breiden.
• Biometrische categorisering om ras, politieke opvattingen, vakbondslidmaatschap, religieuze overtuiging of seksuele geaardheid af te leiden — met een beperkte uitzondering voor het labelen of filteren van rechtmatig verkregen datasets in het kader van rechtshandhaving.
• Real-time biometrische identificatie op afstand in publiek toegankelijke ruimtes voor rechtshandhaving.

De uitzonderingen op het real-time verbod

Het verbod op real-time biometrische identificatie kent drie limitatieve uitzonderingen:

1. het gericht zoeken naar specifieke slachtoffers van ontvoering, mensenhandel of seksuele uitbuiting, en het zoeken naar vermiste personen;
2. het voorkomen van een specifieke, aanzienlijke en imminente dreiging voor het leven of de fysieke veiligheid van personen, of van een reële en actuele of voorzienbare dreiging van een terroristische aanslag;
3. het lokaliseren of identificeren van een verdachte van een strafbaar feit uit bijlage II waarop in de betrokken lidstaat een vrijheidsstraf of detentiemaatregel van ten minste vier jaar staat.

De waarborgen daarbij zijn zwaar: het gebruik moet strikt noodzakelijk zijn, beperkt in tijd, plaats en personen, en er is in beginsel voorafgaande toestemming nodig van een rechterlijke instantie of onafhankelijke bestuurlijke autoriteit. Bij naar behoren gemotiveerde spoed mag zonder voorafgaande toestemming worden gestart, mits die onverwijld — uiterlijk binnen 24 uur — wordt aangevraagd. Wordt de toestemming geweigerd, dan moet het gebruik onmiddellijk worden gestaakt en moeten de data worden gewist. Bovendien is voorafgaand een grondrechteneffectbeoordeling en registratie vereist, en moet de lidstaat het gebruik jaarlijks rapporteren.

Hoog-risico toepassingen (bijlage III punt 6)

Buiten de verboden vallen vrijwel alle politietoepassingen onder hoog risico. Bijlage III noemt:

• AI om te beoordelen of iemand risico loopt slachtoffer te worden van een strafbaar feit;
• AI als leugendetector of vergelijkbaar instrument;
• AI om de betrouwbaarheid van bewijsmateriaal te beoordelen tijdens onderzoek of vervolging;
• AI om het risico op (recidive van) strafbare feiten te beoordelen, anders dan op basis van uitsluitend profilering — of om persoonlijkheidskenmerken en eerder crimineel gedrag te beoordelen;
• AI voor profilering in het kader van opsporing, onderzoek of vervolging.

Voor deze systemen gelden alle eisen van hoofdstuk III: risicobeheer, datagovernance, documentatie, logging, menselijk toezicht en robuustheid en beveiliging.

Bijzondere regels voor de sector

• Vier-ogenprincipe. Bij bepaalde systemen voor biometrische identificatie op afstand mag een actie of besluit pas worden genomen nadat minstens twee bekwame personen de identificatie afzonderlijk hebben geverifieerd. Voor rechtshandhaving, migratie en grenscontrole gelden hierop specifieke nuances in het Unierecht.
• Registratie. Systemen op het gebied van rechtshandhaving, migratie, asiel en grenscontrole worden geregistreerd in een beveiligd, niet-openbaar deel van de EU-databank.
• Gegevensbescherming. Naast de AI Act geldt de Richtlijn gegevensbescherming opsporing en vervolging (2016/680), in Nederland uitgewerkt in de Wet politiegegevens en de Wet justitiële en strafvorderlijke gegevens.

Waarom dit ook buiten de politie relevant is

Private partijen die beveiligingssystemen inzetten — winkels, stadions, evenementenorganisatoren — vallen niet onder de uitzonderingen voor rechtshandhaving. Voor hen geldt het verbod op ongerichte scraping onverkort, is biometrische categorisering op gevoelige kenmerken verboden, en is biometrische identificatie op afstand een hoog-risico toepassing met alle bijbehorende eisen, náást een strenge AVG-toets.