Onderzoekers van Universiteit Leiden zetten de opmars van AI als luisterend oor op een rij. Ze benoemen kansen voor snelle steun bij mentale klachten, maar ook risico’s rond privacy en de kwaliteit van advies. In Nederland en Europa gebruiken steeds meer mensen chatbots zoals Wysa, Woebot en Replika voor gesprekken over welzijn. Dat roept nu vragen op voor zorginstellingen en overheid onder de Europese AI‑verordening en de AVG.
AI-luisterdiensten winnen terrein
Een AI-luisterdienst is een chatbot die met tekst of spraak een gesprek voert en steun probeert te bieden. Voorbeelden zijn Wysa van Touchkin, Woebot van Woebot Health en de meer algemene assistent ChatGPT van OpenAI. Zulke systemen zijn 24/7 bereikbaar en laagdrempelig, ook voor mensen die geen professionele hulp zoeken. Daardoor groeit het gebruik, van studentenwelzijn tot bedrijfszorg.
De inzet varieert van eenvoudige check-ins tot oefeningen uit de cognitieve gedragstherapie. Sommige chatbots werken met vaste vragenlijsten, andere gebruiken generatieve modellen die zelf zinnen vormen. Een generatief model, vaak een groot taalmodel, voorspelt het volgende woord op basis van enorme hoeveelheden tekst. Dat maakt gesprekken vloeiend, maar vergroot ook de kans op fout advies.
Organisaties in het onderwijs, gemeenten en de ggz verkennen deze tools als aanvulling op menselijk contact. Ze hopen wachttijden te verlichten en eerder te signaleren. Leiden-onderzoekers benadrukken dat AI een hulpmiddel is en geen therapeut. De keuze voor een tool vraagt daarom duidelijke doelen en grenzen.
Een AI‑chatbot is een geautomatiseerd gesprekssysteem dat met tekst of spraak reageert op vragen of signalen van een gebruiker.
Laagdrempelig, altijd beschikbaar
De grootste belofte is toegankelijkheid. Anonimiteit verlaagt drempels voor mensen die zich schamen of twijfelen. De systemen zijn altijd open, ook ’s nachts of in het weekend. Dat kan hulplijnen en huisartsen ontlasten met lichte vragen.
Onderzoek naar effect laat gemengde maar hoopgevende resultaten zien, vooral bij zelfhulp en psycho-educatie. Chatbots kunnen helpen bij stemmingstracking, dagboekjes en ademoefeningen. Tegelijk is het geen vervanging van therapie door een professional. Bij zwaardere klachten hoort menselijk contact centraal te staan.
Veilige vormgeving is cruciaal. Er moet altijd een duidelijke knop zijn voor noodhulp en directe doorverwijzing naar 112 of 113 Zelfmoordpreventie. Taal- en cultuurondersteuning voor Nederlands en Friestalig gebruik vergroot de bruikbaarheid. Ook helder taalniveau en toegankelijkheid (WCAG) zijn randvoorwaarden.
Privacy en kwaliteitsrisico’s
Gesprekken met een AI over gevoelens en gezondheid bevatten gevoelige data. De AVG ziet dit als bijzondere persoonsgegevens en vraagt expliciete, geïnformeerde toestemming. Dataminimalisatie en end-to-end versleuteling horen standaard te zijn. Opslag in de EU en zorgvuldige beoordeling van doorgifte naar derde landen blijven belangrijk.
Generatieve modellen kunnen hallucineren: ze geven zelfverzekerd onjuiste of onveilige antwoorden. Onbedoelde adviezen over medicatie of zelfbeschadiging brengen risico’s mee. Een algemene disclaimer is dan niet genoeg. Heldere grenzen, filters en menselijke escalatie moeten in het ontwerp zijn verankerd.
Er zijn ook sociale risico’s. Mensachtige taal en avatars kunnen schijnintimiteit en afhankelijkheid oproepen, zoals eerder rond Replika bleek. Kinderen en jongeren zijn extra kwetsbaar, dus leeftijdscontroles en oudercommunicatie zijn nodig. Transparantie over wie er “aan de andere kant” zit, mens of machine, hoort er altijd bij.
AVG en AI-verordening
De Europese AI‑verordening (AI Act) deelt toepassingen in risicoklassen in. Een chatbot die daadwerkelijk mentale gezondheidszorg biedt, kan als medisch hulpmiddel onder de MDR vallen en daarmee hoog risico zijn. Dan gelden strenge eisen: risicobeheer, data‑governance, loggen, menselijk toezicht en een conformiteitsbeoordeling met CE‑markering. Zonder die status blijven in elk geval transparantieplichten en basisveiligheid van kracht.
Leveranciers van generatieve modellen hebben onder de AI‑verordening extra plichten rond documentatie en testen. Aanbieders van chatbots richting burgers moeten duidelijk maken dat het om een AI‑systeem gaat. Manipulatieve ontwerpkeuzes zijn verboden. Voor overheden en zorgaanbieders gelden zorgvuldigheidsnormen bij inkoop en gebruik.
De AVG blijft leidend voor alle data. Organisaties moeten een DPIA uitvoeren, een functionaris voor gegevensbescherming betrekken en een verwerkersovereenkomst sluiten. Alleen noodzakelijke data mogen worden verwerkt en zo kort mogelijk bewaard. Gebruikers moeten hun rechten, zoals inzage en verwijdering, eenvoudig kunnen uitoefenen.
Toezicht en Nederlandse praktijk
In Nederland houdt de Inspectie Gezondheidszorg en Jeugd toezicht op medische software en claims. Een AI‑hulpmiddel met zorgclaims hoort een CE‑markering te hebben. De kwaliteitsnorm EN‑ISO 82304‑2 voor gezondheidsapps wordt steeds vaker gevraagd bij aanbestedingen. Dit helpt om veiligheid, bruikbaarheid en klinische onderbouwing te toetsen.
Gemeenten, hogescholen en universiteiten verkennen chatbots voor studenten- en inwonerssupport. Inkoopvoorwaarden vragen steeds vaker om datalokalisatie, auditlogs en toegankelijkheid. Nederlandse taal en heldere B1‑uitleg zijn belangrijk voor betrouwbare interacties. Ook training op Nederlandse data en accenten verhoogt de kwaliteit.
Samenwerking met 113 Zelfmoordpreventie, huisartsenposten en ggz‑instellingen is nodig voor goede doorverwijzing. Incidenten moeten snel worden gemeld en onderzocht. Onafhankelijke audits en gebruikersevaluaties horen in het ritme van verbeteringen. Nederlandse ELSA‑initiatieven voor verantwoorde AI kunnen hier methodes en kennis leveren.
Aanbevelingen voor gebruik
Voor aanbieders: publiceer een duidelijke veiligheidskaart met grenzen, do’s en don’ts. Zet menselijk toezicht in bij signalen van crisis, minderjarigen en complexe casuïstiek. Beperk dataverzameling, versleutel alles en test op Nederlandse scenario’s. Maak een plan voor incidentrespons en meldplicht.
Voor instellingen: start met een pilot en een DPIA. Laat juristen, clinici, ethici en ervaringsdeskundigen samen beoordelen. Vraag om CE‑markering bij zorgclaims en om ISO 82304‑2‑evidence. Leg afspraken vast over modelupdates, bias‑tests en log‑toegang.
Voor gebruikers: zie een chatbot als zelfhulpmiddel, niet als diagnose. Deel zo min mogelijk persoonlijke gegevens. Bij ernstige gedachten of acuut gevaar: bel 112 of 113. Controleer of de dienst aangeeft dat het een AI is en hoe je data wordt verwerkt.