Het Centrum voor Ethiek en Gezondheid (CEG) presenteert een nieuwe verkenning over kunstmatige intelligentie in de zorg. De publicatie gaat in op kansen, risico’s en morele vragen in Nederlandse ziekenhuizen, huisartsenzorg en publieke gezondheid. Het stuk verschijnt in Den Haag en is gericht op bestuurders, professionals en beleidsmakers. Aanleiding is de snelle inzet van algoritmen en de komst van de Europese AI-verordening en de AVG-regels voor medische data.
CEG vraagt om publieke waarden
CEG, het samenwerkingsverband van de Gezondheidsraad en het RIVM, concludeert dat AI alleen verantwoord is als publieke waarden centraal staan. Het gaat om veiligheid, rechtvaardigheid, transparantie en menswaardige zorg. Deze waarden moeten vanaf ontwerp tot gebruik worden meegewogen, niet pas na invoering. Anders verschuift de zorg onbedoeld naar wat meetbaar is, in plaats van wat goed is voor de patiënt.
De verkenning ziet dat algoritmen vooral nuttig zijn bij beeldanalyse, triage en administratieve taken. Toch schieten huidige toepassingen vaak tekort in uitlegbaarheid en datakwaliteit. Daardoor kunnen fouten of vooroordelen onopgemerkt blijven. CEG vraagt om systematische toetsing voordat systemen in de praktijk komen.
De verantwoordelijkheid ligt niet alleen bij leveranciers van AI-software. Ook zorginstellingen moeten eisen stellen bij inkoop en implementatie. Bestuurders horen publieke waarden op te nemen in hun aanbestedingen en contracten. Zo blijft de regie bij de zorg, niet bij technologiebedrijven.
Menselijk toezicht blijft noodzakelijk
AI-systemen nemen beslissingen snel en consequent, maar missen context en moreel oordeel. In de zorg is dat risicovol, bijvoorbeeld bij spoedtriage of diagnostiek. CEG benadrukt dat een zorgprofessional eindverantwoordelijk blijft. Het systeem moet ondersteunen, niet zelfstandig bepalen.
Menselijk toezicht vraagt om bruikbare uitleg van het model. Uitlegbaarheid betekent hier: waarom het systeem tot een advies komt, in begrijpelijke taal. Zonder die uitleg kan een arts een fout niet tijdig herkennen of corrigeren. Dat vergroot juridische en ethische risico’s.
Organisaties hebben logging en terugkoppeling nodig om besluiten te controleren. Modeldrift — wanneer prestaties verslechteren door veranderde data — moet worden gemonitord. Training en duidelijke protocollen zijn nodig zodat teams weten wanneer zij het algoritme mogen negeren. Zo blijft de patiëntveiligheid leidend.
Data en privacy onder druk
AI vraagt veel data, maar medische gegevens zijn extra beschermd onder de AVG. Dataminimalisatie en doelbinding gelden ook bij modeltraining. Pseudonimisering is niet hetzelfde als anonimiseren en valt nog steeds onder de AVG. Instellingen moeten juridische grondslagen en verwerkersovereenkomsten op orde hebben.
Datakwaliteit is een tweede knelpunt. Onvolledige dossiers, selectiebias of historische ongelijkheid kunnen modellen vertekenen. Dat raakt vooral kwetsbare groepen zoals ouderen, vrouwen en mensen met een migratieachtergrond. Validatie moet daarom plaatsvinden op diverse Nederlandse en Europese populaties.
Technieken als federated learning en synthetische data kunnen privacyrisico’s verkleinen, maar lossen ze niet vanzelf op. De herleidbaarheid van “anonieme” data blijft een reëel risico. Zorginstellingen doen er goed aan om DPIA’s (data protection impact assessments) standaard te maken voor AI-projecten. Dat geeft zicht op risico’s en passende beveiliging, zoals versleuteling en toegangscontrole.
“Hoog risico” betekent: strenge eisen aan data, transparantie en menselijk toezicht.
Regels worden snel strenger
De Europese AI-verordening (AI Act) zet AI voor gezondheid en medische hulpmiddelen in de categorie hoog risico. Op het moment van schrijven treden de verplichtingen gefaseerd in werking tussen 2025 en 2027. Leveranciers moeten dan onder meer risicobeheer, datagovernance, technische documentatie en menselijke controle aantoonbaar regelen. Ook komt er markttoezicht en sancties bij overtredingen.
Deze eisen komen bovenop bestaande regels voor medische hulpmiddelen (MDR/IVDR) en de AVG. In Nederland kijken de Inspectie Gezondheidszorg en Jeugd (IGJ) en de Autoriteit Persoonsgegevens naar naleving. Instellingen moeten hun compliance dus breed organiseren. Dat raakt inkoop, ICT, juridische zaken en de kliniek.
Transparantie naar patiënten wordt explicieter verplicht. Gebruikers moeten weten dat zij met een AI-systeem te maken hebben en wat de beperkingen zijn. Dat vraagt om duidelijke informatie in patiëntportalen en bij het informed consent. Heldere communicatie verkleint ook de kans op misverstanden bij fouten.
Praktische stappen voor ziekenhuizen
CEG schetst praktische handvatten om veilig en eerlijk te werken met algoritmen. Begin met een ethische toets en een DPIA voordat een pilot start. Stel eisen aan leveranciers over uitlegbaarheid, bias-tests en onderhoud. Leg bovendien vast wie verantwoordelijk is bij incidenten en hoe gebruikers melden.
Voer klinische validatie uit in de eigen context, niet alleen met publicaties of demodata. Monitor prestaties continu en stop of hertrain als kwaliteit daalt. Betrek medezeggenschap en patiëntenraden zodat waarden en wensen worden meegenomen. Dat maakt de technologie beter en het draagvlak groter.
Documenteer beslissingen en maak een audittrail van AI-gebruik in het dossier. Dit helpt bij juridische vragen en kwaliteitsverbetering. Gebruik bestaande standaarden en richtlijnen waar mogelijk, zoals ISO 14971 voor risicobeheer. Zo sluit de praktijk aan op Europese eisen die eraan komen.
Transparantie naar patiënt ontbreekt vaak
Veel AI-toepassingen draaien op de achtergrond, bijvoorbeeld in radiologie en triage. Patiënten weten dan niet dat een algoritme meebeslist. CEG benadrukt het belang van openheid over inzet, prestaties en bekende beperkingen. Dat past bij het recht op informatie en versterkt vertrouwen.
Heldere uitleg vraagt eenvoudige taal en concrete voorbeelden. Noem wat het systeem wel en niet kan, en hoe de arts meekijkt. Bied een gemakkelijke weg om vragen te stellen of bezwaar te maken. Dit sluit aan bij de eisen van de AVG en de aankomende AI-verordening.
Transparantie is ook een kwaliteitsinstrument. Het dwingt leveranciers en instellingen om keuzes te onderbouwen en data schoon te houden. Open rapportages over validatie en incidenten kunnen de sector als geheel verbeteren. Zo wordt innovatie dienstbaar aan goede en rechtvaardige zorg.