Zorginstellingen in Nederland testen dit jaar op grote schaal kunstmatige intelligentie in de verpleging. Het gaat om systemen die administratieve taken verlichten, valrisico’s melden of medicatieveiligheid ondersteunen op afdelingen en in de wijkzorg. De druk op personeel en patiëntveiligheid zijn de drijvers, terwijl privacy en aansprakelijkheid zorgen oproepen. De Europese AI-verordening (AI Act) en de AVG bepalen daarbij nu al zichtbare grenzen voor de zorg.
Zorg zoekt AI tegen werkdruk
Door personeelstekorten en hoge administratieve last zoeken ziekenhuizen en verpleeghuizen naar digitale hulp. Algoritmen, rekenregels die patronen leren uit data, beloven tijdwinst en minder fouten. Bestuurders hopen daarmee meer tijd vrij te spelen voor directe zorg aan de patiënt. De vraag is of deze winst veilig en blijvend is.
Concrete voorbeelden staan klaar bij Nederlandse aanbieders. Luscii gebruikt datamodellen om thuismetingen te filteren en alleen relevante alerts naar het zorgteam te sturen. Momo Medical plaatst sensoren onder matrassen om nachtelijke onrust te herkennen en valincidenten te voorkomen. MedEye van Mint Solutions controleert met computer vision, beeldherkenning door software, of de juiste medicijnen aan het juiste bed worden gegeven.
Deze toepassingen leveren vaak snelle pilots op, maar vragen wel ‘human-in-the-loop’: de verpleegkundige houdt de regie. Zonder duidelijke werkafspraken kan het systeem extra meldingen geven en zo juist werkdruk toevoegen. Ook is goede scholing nodig om uitkomsten juist te duiden. Een hulpmiddel mag geen automatische besluitnemer worden.
Verpleegafdelingen testen concrete tools
Spraak-naar-tekst, software die gesproken woorden omzet in tekst, komt de rapportage in. Nuance Dragon Medical One en Microsoft DAX Copilot zetten mondelinge overdrachten om in dossiers. Dat kan meetbare minuten per dienst schelen. Tegelijk moet de zorgorganisatie bepalen wat wel en niet automatisch het dossier in mag.
Sommige instellingen verkennen virtuele assistenten op basis van grote taalmodellen, zoals GPT-4 of Llama 3. Die systemen kunnen protocollen samenvatten of conceptteksten maken. Een taalmodel is een AI die tekst begrijpt en genereert op basis van enorme voorbeeldcollecties. Zonder strakke dataveiligheid en bronvermelding dreigt echter foutieve of ongewenste output.
Ook beeldanalyse wordt getest op de kamer en in de gang. Slimme sensoren en camera’s tellen bewegingen en geven een signaal bij risico op weglopen of vallen. Privacy by design is hierbij cruciaal, bijvoorbeeld door lokale verwerking en het vermijden van herkenbare videobeelden. De technische winst staat of valt met heldere doelen en meetbare kwaliteitscriteria.
AVG en AI Act sturen inzet
De AVG vereist voor zorgdata een rechtsgrond, dataminimalisatie en vaak een DPIA, een risicoanalyse voor privacy. Beveiliging zoals end-to-end-versleuteling en strikte toegangsrechten is verplicht. De Autoriteit Persoonsgegevens houdt hier toezicht op. Zonder deze basis mag een pilot niet eens starten.
De Europese AI-verordening classificeert veel zorgtoepassingen als hoog risico. Dat geldt voor medische AI die invloed kan hebben op diagnose of behandeling en voor systemen voor personeelssturing en -beoordeling. Leveranciers moeten dan aantonen dat hun data, documentatie, risicobeheer en menselijk toezicht op orde zijn. Op het moment van schrijven lopen de verplichtingen gefaseerd in, met handhaving die naar 2025-2026 verschuift.
Voor AI die een medisch hulpmiddel is, blijft ook de MDR en daarmee CE-markering gelden. Inkoopteams moeten daarom dubbel checken: CE-status, AI Act-conformiteit en AVG-voorwaarden. Loggen van incidenten en het melden van ernstige voorvallen wordt onderdeel van het dagelijkse kwaliteitsproces. Zo verschuift AI van experiment naar gereguleerde zorgtechnologie.
De AI-verordening deelt systemen in: verboden gebruik, hoog risico, beperkt risico en minimaal risico. Zorgtoepassingen vallen vaak in de categorie hoog risico, met zwaardere eisen voor veiligheid en menselijk toezicht.
Kwaliteit en bias vragen toezicht
AI leert van data uit het elektronisch patiëntendossier, maar die data zijn vaak incompleet of scheef verdeeld. Een model dat vooral leert van jonge patiënten, kan slechter presteren bij ouderen of mensen met meervoudige problemen. Dat heet bias: systematische vertekening in de uitkomsten. Zonder controle vergroot AI zo bestaande ongelijkheid.
Externe validatie en continue monitoring zijn daarom nodig voordat een systeem breed wordt ingezet. Zorginstellingen kunnen hierbij aansluiten op normen zoals NEN 7510 voor informatiebeveiliging en interne validatieprotocollen. Ook helpt het om prestaties per subgroep te meten en periodiek te hertrainen. Transparante rapportages maken toetsing door cliëntenraden en toezichthouders mogelijk.
De vraag wie verantwoordelijk is bij een fout blijft gevoelig. Leveranciers leveren het model, maar het ziekenhuis bepaalt het gebruik in het werkproces. Heldere contracten over updates, datasets en fallback-procedures zijn essentieel. Zonder die afspraken lopen zorgverleners en patiënten onnodig risico.
Data-uitwisseling blijft de bottleneck
Veel winst gaat verloren door gebrekkige koppelingen tussen systemen. HL7 FHIR, een open standaard voor uitwisseling van zorgdata, moet die integratie verbeteren. Nictiz en MedMij stimuleren gebruik van FHIR-profielen in Nederland. Pas met betrouwbare koppelingen kan AI veilig en herhaalbaar meedraaien in het zorgpad.
De Europese ruimte voor gezondheidsdata (EHDS) moet secundair gebruik van zorgdata mogelijk maken met strenge waarborgen. Dat kan training en toetsing van modellen versnellen, bijvoorbeeld voor zeldzame aandoeningen. Op het moment van schrijven werkt de EU aan de uitvoering en nationale loketten voor datatoegang. Toestemming, pseudonimisering en doelenbinding blijven sleutelvoorwaarden onder de AVG.
Ook de keuze voor cloud speelt mee. Veel leveranciers draaien op Microsoft Azure, Google Cloud of Europese aanbieders. Zorginstellingen moeten technische en juridische controles uitvoeren, inclusief versleuteling en datalokalisatie. Dat beperkt risico’s bij gevoelige datasets van patiënten.
Verpleegkundige regie voorkomt misbruik
Invoering slaagt alleen als verpleegkundigen meebeslissen over doel en ontwerp. Scholing in data- en AI-vaardigheden helpt om uitkomsten te begrijpen en te betwisten. Werkprocessen moeten ruimte bieden voor menselijk oordeel. Dat vergroot het vertrouwen van zowel teams als patiënten.
Goede governance hoort daar bij. Betrek ondernemingsraad en cliëntenraad vroeg, en leg besluiten vast in een ethisch kompas. Voer naast de DPIA ook een algoritmische impactbeoordeling uit op veiligheid, gelijkheid en werkdruk. Zo worden risico’s zichtbaar voordat het systeem draait.
Begin klein met duidelijke succes- en stopcriteria. Zorg voor een fallback als het systeem uitvalt, en leg aan patiënten uit wat de AI wel en niet doet. Meet structureel tijdswinst én klinische uitkomsten, niet alleen enthousiaste ervaringen. Dan blijft AI een hulpmiddel, en geen risico voor de zorg.