AI Act Kompas

Overheidsorganisaties zitten in een bijzondere positie onder de AI Act. Ze zijn vrijwel altijd gebruiksverantwoordelijke, soms ook aanbieder, en krijgen daarbovenop verplichtingen die private partijen niet hebben. Bovendien werken ze in een context waarin het bestuursrecht al eisen stelt aan motivering, zorgvuldigheid en gelijke behandeling.

Waar overheidsgebruik hoog risico wordt

Bijlage III raakt de publieke sector op meerdere plaatsen:

• AI die bepaalt of iemand recht heeft op essentiële overheidsuitkeringen en -diensten, of die deze toekent, verlaagt, intrekt of terugvordert — denk aan bijstand, toeslagen, zorgtoewijzing of schuldhulpverlening;
• AI voor het evalueren en prioriteren van noodoproepen en de inzet van hulpdiensten;
• AI in onderwijs (toelating, beoordeling, examenmonitoring) — zie AI in het onderwijs;
• AI in werving en personeelsbeheer, ook als werkgever;
• AI bij rechtshandhaving, migratie en rechtsbedeling — zie rechtshandhaving;
• AI als veiligheidscomponent bij kritieke infrastructuur, zoals verkeersmanagement of drinkwatervoorziening.

Veel gemeentelijke toepassingen vallen hier níet onder: een tekstassistent voor conceptbrieven, automatische ondertiteling, of het rubriceren van inkomende post. Toch is ook daar de AI-geletterdheidsplicht van toepassing, en gelden de transparantieregels zodra burgers met een AI-systeem communiceren.

De drie extra verplichtingen voor de overheid

1. Grondrechteneffectbeoordeling (FRIA)

Publiekrechtelijke instanties en private partijen die publieke diensten leveren, moeten vóór ingebruikname van een hoog-risico systeem een FRIA uitvoeren: welke processen, welke personen, welke risico's voor grondrechten, welke toezichtmaatregelen en welk klachtmechanisme. Het resultaat wordt gemeld aan de markttoezichthouder.

2. Registratie in de EU-databank

De overheidsinstantie registreert zichzelf, selecteert het systeem en registreert het gebruik in de EU-databank. Dit staat naast de nationale registratie.

3. Informeren van betrokkenen

Wordt een besluit over een persoon genomen of ondersteund door een hoog-risico systeem, dan moet die persoon daarover worden geïnformeerd. En op grond van artikel 86 heeft hij recht op uitleg over de rol van het systeem in het besluit.

Samenloop met het Nederlandse kader

Nederland kent al een aantal instrumenten die naast de AI Act blijven bestaan:

• het Algoritmeregister van de Nederlandse overheid, waarin overheidsorganisaties impactvolle algoritmes publiceren;
• het Impact Assessment Mensenrechten en Algoritmes (IAMA), dat inhoudelijk sterk overlapt met de FRIA en er een goede basis voor vormt;
• de algemene beginselen van behoorlijk bestuur: motiveringsplicht, zorgvuldigheid, evenredigheid en het verbod op willekeur — die gelden onverkort bij AI-ondersteunde besluitvorming;
• toezicht van de Autoriteit Persoonsgegevens op algoritmes en gegevensverwerking.

Praktisch advies: gebruik het IAMA als onderlegger voor de FRIA en vul aan met de specifieke elementen die artikel 27 noemt. En zorg dat de omschrijving van een systeem in het algoritmeregister en in de EU-databank niet uiteenloopt — dat verschil valt op.

Inkoop is het belangrijkste sturingsmoment

Bijna alle overheids-AI wordt ingekocht. Dat maakt de aanbesteding de plek waar je compliance regelt: eis de documentatie, leg de rolverdeling vast en gebruik de door de Europese Commissie gepubliceerde modelcontractbepalingen voor AI-inkoop. Zie AI inkopen en contracteren.

Een werkbare aanpak voor een gemeente

1. Inventariseer alle AI-toepassingen, inclusief functies in bestaande vakapplicaties en generatieve tools die medewerkers gebruiken.
2. Classificeer per toepassing en leg de onderbouwing vast — ook wanneer je concludeert dat iets géén hoog risico is.
3. Beleg eigenaarschap per systeem: proceseigenaar, functionaris gegevensbescherming, informatiebeveiliging en juridische zaken.
4. Regel AI-geletterdheid voor bestuurders, beleidsmedewerkers en uitvoerders — met verschillende diepgang.
5. Voer FRIA's uit voor de hoog-risico toepassingen en registreer tijdig.
6. Richt een klacht- en uitlegroute in voor burgers, aansluitend op de bestaande bezwaarprocedure.

Meer achtergrond over het Nederlandse beleid staat op de pagina van de Rijksoverheid over AI en algoritmes.