Hoog-risico AI-systemen mogen niet volledig autonoom over mensen beslissen zonder mogelijkheid tot menselijke controle. Artikel 14 van de AI Act verplicht aanbieders om hun systemen zo te ontwerpen dat effectief menselijk toezicht mogelijk is gedurende de periode dat het systeem in gebruik is.
Twee niveaus van verantwoordelijkheid
- De aanbieder moet het systeem technisch zo bouwen dat menselijk toezicht mógelijk is — bijvoorbeeld via interface-elementen, waarschuwingen of stopmechanismen;
- De deployer moet dat toezicht ook daadwerkelijk organiseren: geschikte, getrainde en bevoegde mensen aanwijzen, met voldoende tijd, middelen en gezag om daadwerkelijk in te grijpen.
Wat moet menselijk toezicht mogelijk maken?
De wet noemt concrete vaardigheden die de toezichthoudende persoon moet kunnen uitoefenen:
- De capaciteiten en beperkingen van het systeem goed begrijpen en de werking naar behoren monitoren, zodat afwijkingen, storingen en onverwachte prestaties snel opvallen;
- Zich bewust blijven van de mogelijke neiging om automatisch te vertrouwen op de output ("automation bias"), zeker bij systemen die worden gebruikt om informatie of aanbevelingen te geven waarop natuurlijke personen beslissingen baseren;
- De output van het systeem correct interpreteren, mede rekening houdend met de beschikbare interpretatiehulpmiddelen en -methoden;
- In een specifieke situatie kunnen besluiten om het systeem niet te gebruiken, de output naast zich neer te leggen, terug te draaien of aan te passen;
- Kunnen ingrijpen in de werking van het systeem of het kunnen stoppen via een "stopknop" of vergelijkbaar mechanisme, waar relevant.
Extra eis bij biometrische identificatie
Voor hoog-risico AI-systemen die zijn bedoeld voor biometrische identificatie geldt een strengere regel: er mag geen actie of beslissing worden genomen op basis van de identificatie die uit het systeem voortkomt, tenzij deze afzonderlijk is geverifieerd en bevestigd door ten minste twee natuurlijke personen met de nodige competentie, training en autoriteit — behoudens beperkte uitzonderingen voor rechtshandhaving waar dit onevenredig zou zijn.
Hoe verhoudt dit zich tot andere verplichtingen?
Menselijk toezicht staat niet op zichzelf: het werkt samen met de eisen voor datagovernance uit artikel 10, logging, transparantie en het risicobeheersysteem. Samen vormen deze artikelen het technische en organisatorische fundament van hoofdstuk III van de AI Act. Zie het volledige overzicht van verplichtingen voor hoe dit zich verhoudt tot de rol van aanbieder versus deployer.
De officiële tekst staat in artikel 14 van Verordening (EU) 2024/1689, van toepassing sinds 2 augustus 2026 — zie de volledige tijdlijn.