Steeds meer jongeren in Nederland bespreken school, relaties en gevoelens met chatbots zoals OpenAI’s ChatGPT en Google Gemini. Leraren en onderzoekers vragen zich af wat dit betekent voor vertrouwen, welzijn en digitale geletterdheid. De gesprekken verschuiven van keukentafel en schoolplein naar apps op de telefoon. Dat maakt de Europese AI-verordening en privacyregels direct relevant, ook voor scholen en gemeenten.
Jongeren wijken uit naar chatbots
Jongeren kiezen vaak voor een chatbot omdat die altijd open staat en snel antwoord geeft. Het voelt anoniem en minder spannend dan iemand in het echt aanspreken. Dat verlaagt de drempel om vragen te stellen die je liever niet hardop zegt. Zo groeit het aandeel gesprekken dat online plaatsvindt.
Populaire diensten zijn ChatGPT (OpenAI, met het GPT-4o model), Gemini (Google), Copilot (Microsoft), My AI in Snapchat (Snap), Character.AI en Replika (Luka). Deze systemen zitten in chat-apps en browsers die jongeren al gebruiken. Ze lijken persoonlijk door hun toon en tempo. Dat wekt vertrouwen, ook als het niet altijd terecht is.
De onderwerpen lopen uiteen: huiswerk, planningen, vriendschap, liefdesverdriet en sociale onzekerheid. Voor school vragen jongeren om uitleg of voorbeelden. Voor emoties zoeken ze een luisterend oor en taal om hun gevoel te ordenen. Het gesprek met een algoritme kan zo veilig voelen als een kladblok.
Die verschuiving verandert de rol van ouders, docenten en mentoren. Jongeren komen soms later met hun vragen bij naasten. Het eerste advies komt nu uit een datamodel, niet uit de omgeving. Dat vraagt nieuwe afspraken over begeleiding en toezicht.
Wat werkt al goed
Chatbots helpen bij oefenen, plannen en reflectie. Met rollenspellen in Character.AI kun je een lastig gesprek voorbereiden. ChatGPT geeft voorbeeldzinnen voor een sollicitatie of presentatie. Zo oefenen jongeren sociale situaties in een lage-druk omgeving.
Generatieve AI maakt nieuwe tekst op basis van patronen in grote hoeveelheden data. Het systeem kan helpen, maar het voelt niets en kan fouten maken.
Voor schoolwerk maken Copilot en Gemini stappenplannen en samenvattingen. ChatGPT geeft uitleg op niveau, met voorbeelden en varianten. Dat versnelt de start en helpt bij structuur. Het werkt vooral goed bij feitelijke taken en korte tekst.
Bij gevoelens kan een chatbot rust geven door eenvoudige, gestructureerde vragen te stellen. Het model benoemt opties en laat je nadenken. Dat kan schaamte verlagen en uitstelgedrag doorbreken. Het is een extra hulpmiddel naast menselijk contact.
Belangrijk is de juiste verwachting. Deze systemen zijn geen vriend of therapeut. Ze kunnen steun bieden tussen gesprekken met ouders, docenten of hulpverleners. Ze vervangen die gesprekken niet.
Belangrijkste risico’s en fouten
Algoritmen hallucineren: ze verzinnen feiten en bronnen als die ontbreken. Dat is riskant bij medische, mentale of juridische vragen. Een overtuigende toon maskeert vaak de onzekerheid in het antwoord. Bronnencontrole en gezond wantrouwen blijven nodig.
Beschermingsfilters werken niet altijd gelijkmatig. Via zogeheten jailbreaks kan ongewenste of schadelijke inhoud toch verschijnen. Dit risico speelt vooral bij thema’s rond zelfbeschadiging, seksualiteit en middelengebruik. Platforms verbeteren hun veiligheidslagen, maar garanties zijn er niet.
Privacy is een tweede groot punt. Veel consumentendiensten bewaren chatinhoud om het product te verbeteren, tenzij je dit uitzet; API-gebruik is daarvan meestal uitgezonderd. Voor minderjarigen geldt in Nederland onder de AVG dat ouderlijke toestemming nodig is onder 16 jaar. Dataminimalisatie, versleuteling en duidelijke retentietermijnen zijn noodzakelijk.
Er is ook een sociaal risico: afhankelijkheid en minder echte gesprekken. Wie vooral met een model praat, oefent minder met nuance en tegenspraak van mensen. Dat kan empathie en weerbaarheid verzwakken. Bovendien kan een één-op-één feed eenzijdige adviezen versterken.
Scholen kiezen voor kaders
Veel Nederlandse scholen stellen op het moment van schrijven heldere AI-afspraken op. Kennisnet en SIVON adviseren over didactisch gebruik en privacy. Regels gaan over inzet per vak, bronvermelding en toetsing. Ook leeftijd en context spelen mee: wat thuis kan, is in de klas niet altijd passend.
Besturen en functionarissen gegevensbescherming voeren gegevensbeschermingseffectbeoordelingen (DPIA’s) uit. Zij letten op dataminimalisatie, opslaglocatie en leverancierskeuze. Edu-licenties zonder trainingsgebruik krijgen de voorkeur. Heldere privacyverklaringen richting ouders en leerlingen zijn verplicht.
Docenten bouwen controle in: laat leerlingen bronnen tonen, stappen uitleggen en eigen reflectie toevoegen. Geef expliciet aan wanneer AI wel of niet is toegestaan. Train mentoren om signalen van afhankelijkheid te herkennen. Zo blijft menselijk contact het startpunt.
Ouders vragen om een open gesprek en eenvoudige afspraken. Bespreek welke apps wel en niet mogen en waarom. Maak samen een plan voor gevoelige onderwerpen en noodsituaties. Leg vast hoe en wanneer je als ouder meekijkt.
AI-verordening zet grenzen
De Europese AI-verordening (AI Act) legt plichten op aan aanbieders en gebruikers van AI. Op het moment van schrijven gelden transparantie-eisen voor generieke modellen en AI die met mensen in gesprek gaat, zeker bij kinderen. Diensten moeten duidelijk maken dat je met een systeem praat en moeten passende bescherming bieden. Voor overheden en scholen heeft de Europese AI-verordening gevolgen voor inkoop, toezicht en verantwoord gebruik.
Algemene chatbots vallen meestal in de categorie met beperkt risico en informatieplichten. Worden ze ingezet als onderdeel van onderwijs- of zorgprocessen, dan gelden extra waarborgen, zoals risicobeheer, logging en menselijk toezicht. Grote generatieve modellen met systeemrisico krijgen aanvullende verplichtingen. Dat moet de veiligheid en traceerbaarheid verhogen.
Naast de AI Act blijft de AVG leidend voor persoonsgegevens, met strenge regels voor minderjarigen. In Nederland is ouderlijke toestemming nodig onder 16 jaar voor online diensten. De Digital Services Act verplicht grote platforms tot extra kinderbescherming en transparantie. Samen dwingen deze regels meer dataminimalisatie en duidelijke gebruikersinformatie af.
Voor aanbieders als OpenAI, Google, Microsoft, Snap en Character Technologies betekent dit heldere labels, betere inhoudsfilters en opties om trainingsgebruik te beperken. Scholen en gemeenten moeten toetsen of leveranciers hieraan voldoen. Contracten bevatten afspraken over bewaartermijnen en beveiliging. Dat verkleint risico’s voor jongeren en onderwijsinstellingen.
Veilig gebruik in praktijk
Spreek met jongeren af waarvoor AI wel en niet wordt gebruikt. Gebruik het voor ideeën, structuur en oefening, niet voor diagnoses of beslissingen met hoge impact. Laat altijd menselijke beoordeling volgen bij gevoelige vragen. Zet waar mogelijk trainingsgebruik uit in instellingen.
Vraag om bronvermelding en controleer beweringen met betrouwbare sites van overheid, EU of onderwijs. Wees alert op stellige antwoorden zonder bewijs. Leer jongeren om meerdere zoektermen te proberen en tegenvoorbeelden te vragen. Zo groeit kritisch denken mee met het gemak van AI.
Bescherm privacy door geen namen, adressen of medische details te delen. Gebruik tijdelijke of incognito-chats als die beschikbaar zijn. Let op inloggegevens en tweefactorauthenticatie. Verwijder oude chats die je niet meer nodig hebt.
Houd de drempel naar menselijk contact laag. Stimuleer gesprekken met mentoren, ouders en jeugdprofessionals. Maak in schoolgids en klassenbeleid duidelijk waar leerlingen terechtkunnen. Zo blijft AI een hulpmiddel, geen vervanging van nabijheid.