AI-toepassingen in de zorg — van diagnose-ondersteuning tot triagesystemen — behoren vaak tot de meest impactvolle en tegelijk meest gereguleerde categorieën binnen de AI Act. Dat komt doordat ze op twee manieren "hoog risico" kunnen worden: via Annex III (specifieke toepassingsgebieden) of via Annex I (AI als veiligheidscomponent van een gereguleerd product).
Twee routes naar hoog risico
Route 1 — Annex III: AI-systemen die worden gebruikt om natuurlijke personen te classificeren voor de toegang tot en beoordeling van cruciale particuliere en publieke diensten, waaronder essentiële gezondheidsdiensten, kunnen hoog risico zijn. Ook AI-systemen die worden gebruikt om de urgentie van oproepen bij nooddiensten te bepalen (triage bij ambulance, brandweer of politie) staan expliciet genoemd in Annex III.
Route 2 — Annex I: wanneer AI wordt geïntegreerd als veiligheidscomponent in een product dat al onder bestaande EU-productwetgeving valt — zoals de Medical Device Regulation (MDR) of de In Vitro Diagnostic Regulation (IVDR) — en dat product een verplichte conformiteitsbeoordeling door een derde partij (notified body) moet doorlopen, dan is het AI-systeem automatisch hoog risico onder de AI Act.
Samenloop met de MDR/IVDR
Voor deze productgerelateerde AI-systemen probeert de AI Act dubbel werk te voorkomen: de conformiteitsbeoordeling voor de AI Act-eisen wordt zoveel mogelijk geïntegreerd in het bestaande MDR/IVDR-beoordelingsproces, uitgevoerd door dezelfde aangemelde instantie (notified body). Fabrikanten van AI-gedreven medische hulpmiddelen moeten dus zowel aan de MDR/IVDR-eisen als aan de AI Act-eisen voldoen, maar via één gecoördineerd traject.
Verlengde deadline: 2 augustus 2027
Vanwege deze samenloop met bestaande productwetgeving geldt voor Annex I-producten — waaronder veel medische hulpmiddelen — een verlengde overgangstermijn tot 2 augustus 2027, in plaats van de reguliere datum van 2 augustus 2026 die voor Annex III-toepassingen geldt. Zie de volledige tijdlijn voor het complete overzicht.
Wat betekent dit voor zorgaanbieders (deployers)?
Ziekenhuizen, huisartsenpraktijken en andere zorginstellingen die AI-systemen inzetten (in plaats van ontwikkelen) zijn doorgaans deployer. Hun verplichtingen omvatten onder meer: het systeem gebruiken conform de gebruiksaanwijzing van de aanbieder, menselijk toezicht organiseren, relevante logs bewaren, en — voor publiekrechtelijke of publieke-dienstverlenende instellingen — mogelijk een Fundamental Rights Impact Assessment uitvoeren voordat het systeem in gebruik wordt genomen.
Voor de volledige lijst van hoog-risico toepassingsgebieden, zie Annex III bij Verordening (EU) 2024/1689 op EUR-Lex.