Brancheorganisaties in de Nederlandse zorg, waaronder de Nederlandse Vereniging van Ziekenhuizen (NVZ), presenteren deze week nieuwe handvatten voor verantwoorde inzet van kunstmatige intelligentie. De richtlijnen moeten ziekenhuizen en klinieken helpen om AI veilig, ethisch en volgens de regels toe te passen. Ze verschijnen in Nederland en sluiten aan op Europese wetgeving. Doel is betere patiëntzorg met beheersbare risico’s en duidelijke verantwoordelijkheden.
Zorgkoepels bundelen krachten
De handvatten zijn opgesteld door zorgkoepels die dagelijks te maken hebben met digitale zorg en patiëntveiligheid. Zij richten zich op bestuurders, zorgprofessionals, dataspecialisten en inkopers. De kern is: begin klein, werk transparant en leg beslissingen vast. Zo ontstaat een gedeeld beeld van doelen, risico’s en randvoorwaarden.
De publicatie biedt praktische stappen om van idee naar toepassing te gaan. Denk aan het beschrijven van het doel, de beoogde uitkomst en de rol van menselijk toezicht. Ook benoemt de set wie waarvoor verantwoordelijk is tijdens inkoop, implementatie en beheer. Dat maakt toetsing en bijsturing eenvoudiger.
Er is aandacht voor datakwaliteit en uitlegbaarheid van modellen. Uitlegbaarheid betekent hier dat zorgverleners kunnen begrijpen hoe een systeem tot een advies komt. Daarnaast benadrukken de handvatten continue monitoring van prestaties na livegang. Dat verkleint de kans op ongewenste effecten in de praktijk.
Richting voor veilige inzet
De richtlijnen leggen nadruk op patiëntveiligheid en klinische validatie. Klinische validatie is het aantonen dat een systeem werkt in de dagelijkse zorgomgeving. Het proces hoort vooraf te borgen dat uitkomsten betrouwbaar zijn voor de beoogde patiëntengroep. Zo wordt voorkomen dat een algoritme in het ene ziekenhuis goed presteert, maar elders faalt.
Menselijk toezicht blijft leidend bij beslissingen over diagnose of behandeling. AI ondersteunt, maar vervangt het oordeel van de professional niet. De set adviseert om bij elk gebruiksmoment vast te leggen wie beslist, op basis van welke informatie en met welke grenzen. Dat helpt ook bij het leren van incidenten.
Bias en representativiteit van data krijgen een aparte plaats. Bias betekent scheve uitkomsten voor bepaalde groepen, bijvoorbeeld door een niet-representatieve dataset. De handvatten raden aan om dat vooraf te testen en resultaten per subgroep te volgen. Ook wordt gevraagd om duidelijk te communiceren wat een systeem wel en niet kan.
Hoog-risico AI zijn systemen die de gezondheid of veiligheid van mensen kunnen beïnvloeden; zorgtoepassingen vallen daar vaak onder volgens de Europese AI-verordening.
Aansluiting op Europese AI-regels
De publicatie sluit aan op de Europese AI-verordening (AI Act) en de AVG. De AI Act classificeert de meeste klinische AI-systemen als hoog-risico, met plichten rond risicobeheer, datagovernance, logging en menselijk toezicht. Voor zorginstellingen als “deployer” betekent dit onder meer: passende training, toezicht en incidentmelding. Leveranciers moeten documentatie en conformiteit kunnen aantonen.
Daarnaast kan een AI-systeem in de zorg ook onder de Europese regels voor medische hulpmiddelen (MDR) vallen. In dat geval is CE-markering vereist voor markttoelating. De handvatten benadrukken dat ziekenhuizen deze regimes naast elkaar moeten toepassen. Dat vraagt om afstemming tussen medische, juridische en IT-teams.
De AVG blijft leidend voor persoonsgegevens. Dataminimalisatie, grondslag en versleuteling zijn basisvereisten. Voor hoog-risico verwerkingen is een Data Protection Impact Assessment (DPIA) vaak verplicht. De set geeft richting aan het combineren van DPIA, AI-risicobeoordeling en klinische evaluatie.
Inkoop en governance scherp
De handvatten bieden houvast bij inkoop en contractering. Denk aan afspraken over prestaties, foutmarges en updates, maar ook over eigendom van data en modellen. Belangrijk is een exitregeling, zodat zorginstellingen kunnen stoppen zonder verlies van cruciale data of functionaliteit. Transparantie over trainingsdata en evaluatiemethoden hoort in de offerte.
Bestuurlijke borging krijgt een duidelijke plek. Een vast gremium of functionaris moet beslissen over toelating en uitfasering van AI-toepassingen. Daarbij horen een register van gebruikte systemen en een proces voor incidentafhandeling. Regelmatige herbeoordeling houdt rekening met veranderende data en context.
Voor medewerkers adviseert de set training en duidelijke werkinstructies. Gebruikers moeten weten wanneer ze een advies mogen negeren en hoe ze afwijkingen melden. Logbestanden en audittrails ondersteunen leren en verantwoording. Dat maakt de organisatie aantoonbaar in control.
Gevolgen voor zorginstellingen
Voor Nederlandse ziekenhuizen en klinieken betekent dit dat zij nu beleid, processen en tooling op orde moeten brengen. De meeste verplichtingen voor hoog-risico AI uit de AI Act gaan naar verwachting vanaf 2026 gelden. Door nu te starten met governance, registers en DPIA’s verkleinen instellingen latere implementatiedruk. Tegelijkertijd blijft ruimte om kleinschalig te experimenteren met duidelijke kaders.
De handvatten helpen om schaduw-IT te voorkomen en innovatie te kanaliseren. Een centraal loket en sjablonen voor risico- en impactbeoordeling versnellen besluitvorming. Zo ontstaat een herhaalbaar pad van proef naar praktijk. Dat ondersteunt ook regionale samenwerking en gezamenlijke inkoop.
Voor patiënten kan dit leiden tot transparantere en veiligere inzet van algoritmen. Heldere informatie over doel, werking en beperkingen vergroot vertrouwen. Meldpunten en monitoring zorgen dat fouten sneller boven water komen. Dat is belangrijk voor kwaliteit én voor het maatschappelijk draagvlak.
Vragen die nog openstaan
Niet alles is al uitgekristalliseerd. De scheidslijn tussen hulpmiddel onder de MDR en ondersteunende software kan in de praktijk onduidelijk zijn. Ook de verdeling van aansprakelijkheid tussen leverancier en zorginstelling vraagt inkoopjuridische aandacht. De handvatten bieden richting, maar instellingen moeten dit vertalen naar hun eigen context.
Verder is er behoefte aan uniforme meetmethoden en benchmarks. Zonder gestandaardiseerde uitkomstmaten blijft vergelijken lastig. Europese normen (zoals ISO/NEN) en nationale afspraken kunnen hier uitkomst bieden. Tot die tijd helpt het om evaluaties en datasets zo transparant mogelijk te documenteren.
Ook interoperabiliteit en aansluiting op bestaande zorg-IT blijven aandachtspunten. Koppelingen met EPD-systemen en beveiliging volgens NEN 7510 zijn randvoorwaardelijk. Goede integratie vermindert werkdruk en verkleint kans op fouten. Daarmee kan AI daadwerkelijk waarde toevoegen aan het zorgproces.