AI Act Kompas

Een AI-systeem kan op twee manieren hoog risico worden. Via bijlage I, wanneer het een veiligheidscomponent is van een product dat al onder EU-productwetgeving valt. En via bijlage III, die specifieke toepassingsdomeinen aanwijst. Dit artikel behandelt bijlage III — de route waarlangs de meeste Nederlandse organisaties met hoog risico te maken krijgen.

1. Biometrie

Hieronder vallen systemen voor biometrische identificatie op afstand (behalve systemen die uitsluitend verifiëren of iemand is wie hij zegt te zijn, zoals ontgrendeling met een gezichtsscan), systemen voor biometrische categorisering op basis van gevoelige of beschermde kenmerken, en systemen voor emotieherkenning. Emotieherkenning op de werkvloer en in het onderwijs is bovendien volledig verboden.

2. Kritieke infrastructuur

AI-systemen die worden gebruikt als veiligheidscomponent bij het beheer en de werking van kritieke digitale infrastructuur, wegverkeer, of de levering van water, gas, verwarming en elektriciteit. Het gaat om systemen waarvan een storing direct gevolgen heeft voor de veiligheid van mensen of de continuïteit van essentiële voorzieningen — denk aan netbalancering of verkeersmanagement.

3. Onderwijs en beroepsopleiding

Vier toepassingen: bepalen van toegang of toelating tot onderwijsinstellingen, evalueren van leerresultaten (inclusief het sturen van het leerproces), bepalen van het passende onderwijsniveau, en monitoren en detecteren van verboden gedrag tijdens toetsen. Zie de uitwerking in AI Act in het onderwijs.

4. Werkgelegenheid en personeelsbeheer

AI voor werving en selectie — het plaatsen van gerichte vacatures, het analyseren en filteren van sollicitaties en het beoordelen van kandidaten — en AI die wordt gebruikt voor besluiten over promotie, ontslag, taaktoewijzing op basis van gedrag of persoonlijkheidskenmerken, en het monitoren en evalueren van prestaties en gedrag van werkenden. Dit domein raakt vrijwel elke grotere werkgever; zie CV-screening met AI en AI op de werkvloer en de OR.

5. Toegang tot essentiële diensten

Dit domein bevat vier categorieën:

• AI die bepaalt of iemand recht heeft op essentiële overheidsuitkeringen en -diensten, inclusief het toekennen, verlagen, intrekken of terugvorderen daarvan;
• AI voor kredietwaardigheidsbeoordeling of het vaststellen van een kredietscore — behalve wanneer het uitsluitend om fraudedetectie gaat;
• AI voor risicobeoordeling en prijsstelling bij levens- en ziektekostenverzekeringen;
• AI voor het evalueren en classificeren van noodoproepen en het prioriteren van inzet van hulpdiensten, inclusief triage van patiënten.

Zie verder AI Act voor banken en verzekeraars en AI Act bij de overheid.

6. Rechtshandhaving

AI die door of namens politie en justitie wordt ingezet voor risicobeoordeling van personen (kans op slachtofferschap of recidive), als leugendetector, voor het beoordelen van bewijsmateriaal, voor het profileren van personen bij opsporing en voor misdaadanalyse. Zie AI Act en rechtshandhaving.

7. Migratie, asiel en grenscontrole

AI als leugendetector, voor risicobeoordeling van personen die het grondgebied willen betreden, voor het beoordelen van asiel-, visum- en verblijfsaanvragen, en voor het opsporen, herkennen of identificeren van personen in de context van migratie — met uitzondering van verificatie van reisdocumenten.

8. Rechtsbedeling en democratische processen

AI die een rechterlijke instantie ondersteunt bij het onderzoeken en uitleggen van feiten en recht en bij het toepassen van het recht op concrete feiten, plus AI die bedoeld is om de uitslag van verkiezingen of referenda of het stemgedrag van personen te beïnvloeden. Puur administratieve ondersteuning — planning, anonimisering, documentbeheer — valt hier niet onder.

De uitzondering van artikel 6 lid 3

Staat jouw toepassing in bijlage III, dan is dat een sterk vermoeden — maar geen automatisme. Artikel 6 lid 3 bepaalt dat een systeem tóch niet als hoog risico geldt als het geen significant risico oplevert voor de gezondheid, veiligheid of grondrechten van personen, en het de uitkomst van de besluitvorming niet wezenlijk beïnvloedt. Dat is het geval wanneer het systeem:

• een beperkte procedurele taak uitvoert (bijvoorbeeld documenten sorteren of dubbelingen verwijderen);
• het resultaat van eerder afgerond menselijk werk alleen verbetert (zoals taalcorrectie op een al opgesteld advies);
• bedoeld is om afwijkingen in besluitpatronen te signaleren zonder het menselijke oordeel te vervangen;
• alleen een voorbereidende taak uitvoert voor een beoordeling die relevant is voor bijlage III.

Twee harde randvoorwaarden: bij profilering van natuurlijke personen geldt de uitzondering nooit, en je moet de beoordeling documenteren vóór ingebruikname en het systeem alsnog registreren in de EU-databank. De toezichthouder kan je vragen die documentatie te tonen.

En daarna?

Concludeer je dat je systeem hoog risico is, dan bepaalt je rol wat je moet doen. Als aanbieder doorloop je het volledige eisenpakket uit hoofdstuk III; als deployer gelden de verplichtingen van artikel 26 en mogelijk een FRIA. Gebruik de compliance-checklist om de gaten in kaart te brengen.

De volledige tekst staat in bijlage III en artikel 6 van Verordening (EU) 2024/1689. De Commissie kan bijlage III via gedelegeerde handelingen aanpassen, dus controleer periodiek of er toepassingen zijn toegevoegd.

Veelgestelde vragen

Welke AI-systemen staan in bijlage III?

Bijlage III noemt acht domeinen: biometrie, kritieke infrastructuur, onderwijs en beroepsopleiding, werkgelegenheid en personeelsbeheer, toegang tot essentiële particuliere en publieke diensten, rechtshandhaving, migratie/asiel/grenscontrole, en rechtsbedeling en democratische processen.

Kan een systeem uit bijlage III toch geen hoog risico zijn?

Ja. Artikel 6 lid 3 bepaalt dat een systeem uit bijlage III niet als hoog risico geldt wanneer het geen significant risico oplevert voor gezondheid, veiligheid of grondrechten — bijvoorbeeld omdat het slechts een beperkte procedurele taak uitvoert, menselijk werk verbetert zonder het te vervangen, of alleen voorbereidend werk doet. Je moet die beoordeling wel documenteren vóór ingebruikname en het systeem registreren.

Is een chatbot voor de klantenservice hoog risico?

Doorgaans niet. Een chatbot valt onder de transparantieregels van artikel 50. Hij kán hoog risico worden als hij feitelijk beslist over toegang tot essentiële diensten, bijvoorbeeld door aanvragen te beoordelen of te prioriteren.