De beroepsvereniging V&VN stelt de vraag wie de regie houdt nu kunstmatige intelligentie snel terrein wint in de zorg. Het gaat om verpleegkundigen, verzorgenden en patiënten in Nederland. De inzet van algoritmen raakt de dagelijkse praktijk en de veiligheid rond besluiten aan het bed. De oproep is actueel omdat nieuwe systemen nu in ziekenhuizen en verpleeghuizen verschijnen.
V&VN wil duidelijke regie
V&VN benadrukt dat zorgprofessionals vroeg moeten meebeslissen over het doel en het gebruik van AI-systemen. Het gaat om keuzes als: waarvoor mag het model adviseren, en wanneer niet. Zonder die afspraken kan de zorg onoverzichtelijk worden. Dat vergroot het risico op fouten en extra werkdruk.
De vereniging vraagt om heldere verantwoordelijkheden tussen zorginstelling, leverancier en gebruiker. Wie controleert de kwaliteit van het algoritme, en wie houdt toezicht op updates. Ook moet vastliggen wie aanspreekbaar is als het systeem verkeerd adviseert. Dit voorkomt dat verantwoordelijkheden tussen wal en schip vallen.
Daarnaast wijst V&VN op de rol van bestuur en medisch-ethische commissies. Zij moeten tijdig beoordelen of de inzet past bij het zorgpad en de waarden van de organisatie. Dat geldt ook voor de ondernemingsraad en de cliëntenraad. Zo krijgen medewerkers en patiënten een stem bij invoering.
Mens blijft eindverantwoordelijk
AI in de zorg geeft vaak beslissingsondersteuning: het model doet een suggestie, de professional beslist. Zo’n systeem kan patronen vinden in data, maar kent geen volledige context. Verpleegkundigen en artsen moeten afwijkende signalen kunnen herkennen. En zij moeten veilig kunnen afwijken van een advies.
De Europese AI-verordening (AI Act) schrijft menselijke toezicht voor bij hoog-risico systemen in de zorg. Dat betekent dat professionals uitleg en grenzen van het algoritme moeten kennen. Ook moeten organisaties trainen op zogeheten automatiseringsbias, de neiging om het systeem te snel te volgen. Praktische checklists en second opinions helpen die valkuil te vermijden.
In de praktijk kan een waarschuwing van een triage-algoritme nuttig zijn, maar blijft klinisch oordeel leidend. Duidelijke protocollen bieden houvast, bijvoorbeeld: wat te doen bij twijfel of bij tegenstrijdige signalen. Logboeken van het systeem maken beslissingen achteraf toetsbaar. Dat is belangrijk bij incidentonderzoek en bijscholing.
Transparantie en testen nodig
Zorginstellingen hebben tests nodig die laten zien hoe een model presteert op Nederlandse data. Dat vraagt om validatie op representatieve patiëntengroepen, ook bij zeldzame aandoeningen. Publiceer foutpercentages en beperkingen in begrijpelijke taal. Alleen zo kunnen teams risico’s goed inschatten.
Leveranciers moeten uitlegbaarheid bieden: waarom geeft het model dit advies. Dat kan met eenvoudige verklaringen, bijvoorbeeld welke meetwaarden het zwaar meeweegt. Ook hoort er een plan te zijn voor kwaliteitscontrole na livegang. Denk aan drempelwaarden aanpassen en periodieke hertraining.
Voorbeelden in Nederland laten zien dat dit kan. IC-afdelingen werken met voorspellende modellen zoals Pacmed Critical, die vooraf in meerdere ziekenhuizen zijn getoetst. Zulke projecten tonen winst en grenzen tegelijk. Ze onderstrepen waarom lokale verificatie en continu meten nodig blijven.
Hoog-risico AI in de zorg: systemen die medische besluitvorming ondersteunen of beïnvloeden en daarom extra eisen kennen, zoals risicobeheer, datagovernance, menselijk toezicht en conformiteitsbeoordeling onder de Europese AI-verordening.
AVG en AI-verordening sturen
Bij inzet van AI gelden de AVG en de Europese AI-verordening, op het moment van schrijven in afronding. De AVG vereist dataminimalisatie, versleuteling en een DPIA, een risicoanalyse voor privacy. De zorginstelling blijft verwerkingsverantwoordelijke. Dat betekent: heldere verwerkersafspraken en audits bij de leverancier.
De AI-verordening plaatst medische AI meestal in de hoog-risicoklasse. Dan zijn een kwaliteitsmanagementsysteem, risicobeheer en menselijk toezicht verplicht. Voor systemen die als medisch hulpmiddel tellen, blijft ook CE-markering onder de MDR gelden. Leveranciers moeten beide kaders aantoonbaar combineren.
Inkoop kan deze regels vertalen naar praktische eisen. Vraag om modelkaarten met prestaties, bias-analyses en herkomst van trainingsdata. Leg NEN 7510 voor informatiebeveiliging vast in het contract. En zorg voor exit-clausules als het systeem niet aan normen blijft voldoen.
Scholing en inkoop als hefboom
Teams hebben tijd en scholing nodig om veilig met nieuwe systemen te werken. Denk aan basiskennis over algoritmen, valkuilen en het lezen van modelrapporten. Koppel trainingen aan casussen uit de eigen afdeling. Zo sluit de kennis aan op de praktijk.
Goede tooling verlaagt werkdruk in plaats van die te verhogen. Generatieve systemen die rapportages samenvatten kunnen helpen, mits controle door de professional verplicht is. Leveranciers moeten duidelijk aangeven waar een model onzeker is. Dat voorkomt dat suggesties als feiten worden overgenomen.
Tot slot kan gezamenlijke inkoop via ziekenhuizen en zorgorganisaties de lat verhogen. Stel uniforme eisen aan veiligheid, uitleg en interoperabiliteit met EPD’s zoals ChipSoft HiX en Epic. Deel evaluaties en incidentmeldingen in sectorbrede netwerken. Zo blijft de regie in handen van de zorg, niet van de technologie.