Veel Nederlandse zorgprofessionals voelen zich persoonlijk verantwoordelijk als een AI-systeem in hun werk een fout maakt. Dat blijkt uit een recente peiling in ziekenhuizen en huisartsenpraktijken. De uitkomst zet druk op duidelijke afspraken over aansprakelijkheid, juist nu de Europese AI‑verordening (AI Act) en de AVG strengere eisen stellen. Instellingen en leveranciers moeten helder maken wie beslist, wie controleert en wie betaalt bij schade.
Zorgverlener voelt eindverantwoordelijkheid
In de zorg ondersteunen algoritmen artsen en verpleegkundigen bij triage, beeldanalyse en medicatiebewaking. Zo’n algoritme is een set rekenregels die patronen herkent in data. Het systeem doet een voorstel, maar de professional neemt het besluit. Dat maakt de vraag naar verantwoordelijkheid direct voelbaar op de werkvloer.
Veel zorgmedewerkers willen dat het systeem uitlegbaar is in gewone taal. Zij willen weten waarom een advies verschijnt en welke gegevens zijn gebruikt. Zonder uitleg groeit het risico op “automation bias”: de neiging om de computer te volgen. Dat gevaar vergroot de behoefte aan scholing en duidelijke protocollen.
Ziekenhuizen bouwen daarom extra controles in, zoals een vier-ogenprincipe en het verplicht vastleggen van afwijken van het AI-advies. Ook vragen zij om lokale validatie op Nederlandse patiëntdata. Daarmee toetsen zij of het model in hun populatie werkt. Die praktijk versterkt het gevoel van eigen regie bij zorgprofessionals.
Aansprakelijkheid blijft diffuus
Bij fouten met AI speelt de verdeling van verantwoordelijkheid tussen zorgverlener, zorginstelling en leverancier. Medische AI-software valt vaak onder de Europese Medical Device Regulation (MDR) en moet een CE‑markering hebben. Toch bepaalt de lokale inzet, zoals drempelwaarden en workflow, mede het risico. Dat maakt aansprakelijkheid in de praktijk gelaagd en soms onduidelijk.
Contracten tussen ziekenhuizen en leveranciers vragen daarom om scherpere afspraken. Denk aan prestatie-eisen, updatebeleid en plichten voor post-market surveillance. Ook moet incidentmelding worden geregeld, zowel intern als richting de fabrikant en toezichthouders. Verzekeraars vragen steeds vaker om logbestanden en audittrails.
Op het moment van schrijven bereidt de AI‑verordening een rolverdeling voor tussen “aanbieders” en “inzetters” van AI. Leveranciers moeten onder meer risicobeheer, datakwaliteit en logging borgen. Zorginstellingen moeten passende menselijke controle organiseren en gebruikslogboeken bijhouden. Daarmee komt de juridische praktijk dichter bij de klinische realiteit.
Europese AI‑verordening in de zorg
De AI‑verordening plaatst systemen voor diagnose en behandeling in de hoge-risicoklasse. Dat betekent strenge eisen aan datagovernance, documentatie en uitlegbaarheid. Ook moeten gebruikers kunnen ingrijpen en het systeem veilig kunnen overrulen. Deze plicht tot “menselijke controle” sluit aan bij wat zorgverleners in Nederland wensen.
Voor zorginstellingen brengt dit concrete taken mee. Zij moeten personeel trainen, risico’s vastleggen en het gebruik monitoren. Logboeken worden verplicht zodat beslissingen en modelversies terug te vinden zijn. Naar verwachting gelden de meeste hoge-risicoverplichtingen vanaf 2026, op het moment van schrijven.
Menselijke eindverantwoordelijkheid betekent dat een arts of verpleegkundige het AI-advies niet klakkeloos volgt, maar zelf de keuze maakt en die keuze kan uitleggen.
De AI‑verordening komt bovenop bestaande regels. De MDR blijft leidend voor medische software en hulpmiddelen. De AVG blijft de lat leggen voor privacy en dataminimalisatie. Samen dwingen ze betere governance af bij zowel leverancier als zorginstelling.
AVG stelt eisen aan data
AI-modellen leren van grote hoeveelheden patiëntgegevens. De AVG eist daarvoor een rechtmatige grondslag en dataminimalisatie: niet meer gegevens dan nodig. Voor onderzoek gelden aparte waarborgen, zoals pseudonimisering en strikt toegangsbeheer. Dit moet vooraf worden vastgelegd in een DPIA, een gegevensbeschermingseffectbeoordeling.
Beveiliging is eveneens verplicht. Nederlandse zorginstellingen gebruiken hiervoor NEN 7510 voor informatiebeveiliging. Gegevens moeten versleuteld worden opgeslagen en verzonden, met sterke toegangscontrole. Loggen wie wat wanneer bekeek, helpt bij zowel privacy als kwaliteitsborging.
NEN 7513 schrijft voor dat bewerkingen in het elektronisch patiëntendossier worden gelogd. Die plicht sluit aan bij de AI‑verordening, die gedetailleerde logging vraagt van modeluitvoer. Samen maken ze reconstructie en verantwoording mogelijk na een incident. Dat geeft patiënten en professionals meer zekerheid.
Praktische stappen voor zorginstellingen
Begin met een helder governance‑model voor AI. Wijs een klinisch eigenaar aan die techniek, kwaliteit en ethiek verbindt. Voer lokale validatie uit en stel acceptatiecriteria op per afdeling. Borg dat afdelingen drempelwaarden kunnen aanpassen en uitzonderingen kunnen documenteren.
Investeer in scholing over kansen en risico’s van algoritmen. Train teams om AI‑adviezen kritisch te lezen en te weerleggen waar nodig. Stimuleer melden van near misses en leer daarvan. Zo wordt de cultuur mensgericht en veilig.
Leg in inkoopcontracten verplichtingen vast over prestaties, updates, uitlegbaarheid en aansprakelijkheid. Vraag om technische documentatie, bias‑tests en een incidentresponsplan. Eis dat leveranciers logging, versiebeheer en rollback ondersteunen. Dat geeft grip als een systeem onverwacht faalt.
Wat dit betekent voor Nederland
De combinatie van MDR, AI‑verordening en AVG zet de lat hoger voor AI in de zorg. Toezichthouders als de Inspectie Gezondheidszorg en Jeugd en de Autoriteit Persoonsgegevens krijgen hierbij een duidelijke rol. Nederlandse normen zoals NEN 7510 en NEN 7513 sluiten goed aan op de Europese eisen. Daardoor ontstaat meer duidelijkheid over processen, zonder de menselijke maat te verliezen.
Voor leveranciers is Nederland daarmee een veeleisende maar voorspelbare markt. Fabrikanten moeten uitleg, logging en risicobeheer op orde hebben. Zorginstellingen vragen om aantoonbare veiligheid en prestaties in hun eigen populatie. Dat maakt de route naar brede invoering realistischer.
Voor zorgprofessionals blijft één punt centraal staan: zij nemen het eindbesluit. AI kan tijd winnen en patronen vinden, maar mag de klinische blik niet vervangen. Heldere protocollen, goede uitleg en veilige software helpen daarbij. Zo blijft de verantwoordelijkheid waar die hoort, met steun van regels én techniek.