Leerdoelen
- Je kent de risicopiramide en de twee routes naar de kwalificatie hoog risico.
- Je kunt de rollen onderscheiden (aanbieder, gebruiksverantwoordelijke, importeur, distributeur) en weet wanneer een rol wisselt.
- Je kent de verboden praktijken van artikel 5, inclusief het nieuwe verbod uit de omnibus.
- Je kent de eisen aan hoogrisicosystemen en de plichten van de gebruiksverantwoordelijke.
- Je kent de GPAI-regels en de gewijzigde tijdlijn na de Digital Omnibus.
- Je kunt voor een zorgorganisatie een aanpak formuleren om aantoonbaar te voldoen.
De risicopiramide
Verordening (EU) 2024/1689 trad op 1 augustus 2024 in werking en deelt AI-systemen in naar risico. Bovenaan staan de verboden praktijken (artikel 5). Daaronder de categorie hoog risico, met twee routes: via Annex I voor AI die als veiligheidscomponent is ingebed in al gereguleerde producten (zoals medische hulpmiddelen onder de MDR met een conformiteitsbeoordeling door een notified body), en via Annex III voor zelfstandige AI-systemen in gevoelige domeinen, waaronder onderwijs, werving en selectie, kredietbeoordeling, kritieke infrastructuur en rechtshandhaving. De onderste lagen zijn beperkt risico (transparantieplichten van artikel 50, zoals melden dat iemand met een chatbot praat en het labelen van synthetische content) en minimaal risico, waarvoor geen aanvullende eisen gelden. Dwars daardoorheen lopen de regels voor general-purpose AI: modellen voor algemene doeleinden, met extra verplichtingen bij systeemrisico.
Rollen: wie is wat in de keten
De verordening verdeelt de verplichtingen over rollen. De aanbieder (provider) ontwikkelt een AI-systeem of laat het ontwikkelen en brengt het onder eigen naam op de markt; op de aanbieder rusten de zwaarste eisen. De gebruiksverantwoordelijke (deployer) zet een AI-systeem onder eigen verantwoordelijkheid in binnen een professionele context. Daarnaast kennen de regels de importeur en de distributeur in de handelsketen. De meeste zorgorganisaties zijn gebruiksverantwoordelijke: zij kopen AI in en zetten die in binnen het zorgproces.
Cruciaal is de rolwissel: een gebruiksverantwoordelijke wordt zelf aanbieder wanneer hij een hoogrisicosysteem onder eigen naam of merk aanbiedt, er een substantiële wijziging in aanbrengt, of het beoogde doel zodanig wijzigt dat het systeem hoogrisico wordt. Een ziekenhuis dat een ingekocht model doortraint op eigen data en breed uitrolt, kan daarmee ongemerkt aanbiedersverplichtingen naar zich toe halen. Dit is een van de belangrijkste governancevragen bij elke AI-pilot: wie is hier juridisch de aanbieder, en blijft dat zo?
De verboden praktijken uitgediept
Artikel 5 verbiedt AI-praktijken die onaanvaardbaar zijn, ongeacht waarborgen. De belangrijkste: subliminale of doelbewust manipulatieve technieken die gedrag wezenlijk verstoren en schade (kunnen) veroorzaken; het uitbuiten van kwetsbaarheden vanwege leeftijd, handicap of sociaaleconomische situatie; social scoring die tot onevenredige of contextvreemde benadeling leidt; het voorspellen van crimineel gedrag uitsluitend op basis van profilering of persoonlijkheidskenmerken; het ongericht scrapen van gezichtsafbeeldingen voor herkenningsdatabanken; emotieherkenning op de werkplek en in het onderwijs, behoudens medische of veiligheidsredenen; biometrische categorisering naar gevoelige kenmerken zoals ras of geloofsovertuiging; en realtime biometrische identificatie op afstand in de openbare ruimte door rechtshandhaving, behoudens limitatieve uitzonderingen. Deze verboden gelden al sinds 2 februari 2025.
De Digital Omnibus voegt daar per 2 december 2026 een verbod aan toe op AI-systemen voor het genereren van niet-consensueel intiem beeldmateriaal en materiaal van seksueel kindermisbruik, inclusief zogenoemde nudify-apps. Voor de zorg is vooral de uitzondering bij emotieherkenning relevant: inzet om medische redenen, zoals het monitoren van pijn of stress bij patiënten, valt buiten het verbod, maar inzet op de werkvloer richting eigen personeel niet.
Hoogrisico: eisen aan het systeem en plichten van de gebruiker
Voor hoogrisicosystemen stelt de verordening eisen aan het systeem zelf, te borgen door de aanbieder: een doorlopend risicomanagementsysteem; eisen aan data en datagovernance (relevant, representatief, zo foutvrij en volledig mogelijk); technische documentatie en automatische logging; transparantie richting de gebruiksverantwoordelijke via een gebruiksaanwijzing; effectief menselijk toezicht; en passende nauwkeurigheid, robuustheid en cyberbeveiliging. Daarbovenop komen een kwaliteitsmanagementsysteem, conformiteitsbeoordeling, CE-markering en registratie in de EU-databank.
De gebruiksverantwoordelijke heeft eigen plichten (artikel 26): het systeem gebruiken volgens de gebruiksaanwijzing, menselijk toezicht beleggen bij mensen met de juiste competentie en het mandaat om in te grijpen, borgen dat de eigen inputdata relevant en representatief zijn, de werking monitoren en de aanbieder informeren bij risico’s of incidenten, logbestanden bewaren en, waar werknemers geraakt worden, hen vooraf informeren. Overheidsorganisaties en aanbieders van publieke diensten moeten voor bepaalde hoogrisicosystemen bovendien een grondrechteneffectbeoordeling (FRIA, artikel 27) uitvoeren, die goed te combineren is met de DPIA uit de AVG.
General-purpose AI
Voor aanbieders van GPAI-modellen gelden sinds 2 augustus 2025 eigen verplichtingen: technische documentatie opstellen en delen met afnemers, een beleid voeren voor de naleving van het Europese auteursrecht en een voldoende gedetailleerde samenvatting publiceren van de trainingsdata. Modellen met systeemrisico (zeer grote modellen) krijgen aanvullende plichten: modelevaluaties, het beperken van systeemrisico’s, incidentrapportage en adequate cyberbeveiliging. Voor zorgorganisaties is dit vooral indirect relevant: wie generatieve AI inkoopt, mag van de modelaanbieder deze basis verwachten en doet er goed aan die in contracten te verankeren. De praktische gedragscode voor GPAI-aanbieders ondersteunt de naleving.
Wat al geldt, en wat de Digital Omnibus verschuift
De oorspronkelijke fasering: per 2 februari 2025 de verboden praktijken en de AI-geletterdheidsplicht (artikel 4); per 2 augustus 2025 de GPAI-regels, de governance en het sanctiekader; per 2 augustus 2026 de hoogrisicoverplichtingen voor Annex III en de transparantieplichten; per 2 augustus 2027 Annex I. Die planning bleek niet houdbaar: geharmoniseerde normen en nationale toezichtstructuren liepen achter. De Commissie publiceerde daarom in november 2025 de Digital Omnibus on AI. Na een mislukte eerste triloog op 28 april 2026 volgde op 6 en 7 mei 2026 een politiek akkoord, op 16 juni 2026 de instemming van het Europees Parlement en op 29 juni 2026 het definitieve groene licht van de Raad. Publicatie in het Publicatieblad wordt vóór 2 augustus 2026 verwacht.
Annex III · hoog risico
Van 2 augustus 2026 naar 2 december 2027. De FRIA-verplichting van artikel 27 schuift mee. De data zijn vast en niet langer gekoppeld aan het gereedkomen van normen.
Annex I · ingebedde AI
Van 2 augustus 2027 naar 2 augustus 2028. Dit raakt onder meer AI in medische hulpmiddelen. Producten onder de Machineverordening worden grotendeels uitgezonderd en de definitie van veiligheidscomponent is versmald.
Artikel 50 · transparantie
Blijft 2 augustus 2026. Alleen de watermerkplicht van artikel 50, lid 2, krijgt voor systemen die vóór die datum al op de markt zijn een korte verlenging tot 2 december 2026.
Nieuw verbod
Verbod op AI-systemen voor het genereren van niet-consensueel intiem beeldmateriaal en materiaal van seksueel kindermisbruik, van toepassing per 2 december 2026.
Overig
Nationale AI-sandboxes verschuiven naar 2 augustus 2027; de AI-geletterdheidsplicht wordt verzacht tot het bevorderen en stimuleren van geletterdheid met proportionele maatregelen; er komt meer ruimte voor het gebruik van gevoelige gegevens bij biasdetectie.
Wat niet verandert. De architectuur van de verordening blijft intact: de verboden praktijken en de GPAI-regels gelden onverkort sinds 2025, en de inhoudelijke eisen aan hoogrisicosystemen zijn niet afgezwakt. De verschuiving koopt tijd voor normontwikkeling, geen vrijstelling. Bestaande sectorwetgeving (AVG, MDR, productaansprakelijkheid) geldt intussen gewoon.
Betekenis voor de zorg, en hoe je het aanpakt
Voor de zorg lopen drie sporen door elkaar. AI in medische hulpmiddelen, zoals diagnostische beeldanalyse of beslisondersteuning die als medisch hulpmiddel kwalificeert, valt via Annex I onder hoog risico zodra een notified body de conformiteit beoordeelt; die verplichtingen gelden per 2 augustus 2028, naast de MDR-eisen die al gelden (module 7). De omnibus bevat een mechanisme om dubbele eisen tussen AI Act en sectorwetgeving te beperken. Zelfstandige AI in bijvoorbeeld triage en de toeleiding naar spoedeisende hulp valt onder Annex III, per 2 december 2027. En generatieve AI in de zorgadministratie, zoals gespreksamenvattingen en automatische verslaglegging, raakt vooral aan de transparantieplichten van artikel 50 (per 2 augustus 2026) en aan de AVG. Nationaal flankeert de Aanpak AI in de Zorg uit het AZWA (module 2) deze Europese kaders.
Een werkbare aanpak voor een zorgorganisatie: leg een AI-register aan van alle systemen in gebruik en in pilots, inclusief schaduwgebruik; classificeer elk systeem naar risicocategorie en bepaal per systeem de eigen rol (gebruiksverantwoordelijke of, na wijzigingen, aanbieder); regel de transparantieplichten vóór 2 augustus 2026, want die verschuiven niet; veranker eisen aan aanbieders in inkoop en contracten; combineer FRIA en DPIA waar dat kan; en volg de publicatie van de omnibus en de geharmoniseerde normen richting 2 december 2027. Wie dit koppelt aan het bestaande ISMS (NEN 7510) en het AVG-verwerkingsregister, bouwt geen apart compliancebouwwerk maar breidt een bestaand fundament uit.
Behaald en gepland
1 augustus 2024 behaald
AI Act in werking
Verordening (EU) 2024/1689; start van de gefaseerde toepassing.
2 februari 2025 behaald
Verboden praktijken en AI-geletterdheid van toepassing
Eerste materiële verplichtingen voor aanbieders en gebruiksverantwoordelijken.
2 augustus 2025 behaald
GPAI-regels en governance van toepassing
Verplichtingen voor modellen voor algemene doeleinden, AI Office en sanctiekader.
november 2025 behaald
Commissievoorstel Digital Omnibus on AI
Voorstel tot uitstel en vereenvoudiging, na achterblijvende normontwikkeling.
29 juni 2026 behaald
Raad geeft definitief akkoord op de omnibus
Na het politieke akkoord van 6 en 7 mei en de EP-stemming van 16 juni; publicatie in het Publicatieblad volgt.
2 augustus 2026 doelstelling
Transparantieplichten artikel 50 van toepassing
Chatbot-melding en labeling van AI-content; watermerken voor bestaande systemen per 2 december 2026.
2 december 2026 doelstelling
Nieuw verbod op NCII- en CSAM-generatie
Aanbieders van beeldgeneratie moeten aantoonbare waarborgen hebben.
2 december 2027 doelstelling
Hoogrisicoverplichtingen Annex III
Zelfstandige hoogrisicosystemen, inclusief FRIA.
2 augustus 2028 doelstelling
Hoogrisicoverplichtingen Annex I
AI ingebed in gereguleerde producten, waaronder medische hulpmiddelen.