Meta test concurrerende AI-chatbots met neptieners die vragen stellen over seks en zelfdoding. Het bedrijf wil zien hoe deze systemen reageren op risicovolle vragen van minderjarigen. De tests vonden online plaats en zijn recent uitgevoerd. Dit raakt ook Europa, waar de AI-verordening (AI Act) en de Digital Services Act strengere eisen stellen aan bescherming van jongeren.
Meta gebruikt tienerprofielen
Meta bouwde gesimuleerde profielen die lijken op 13- tot 17-jarigen. Met deze “neptieners” stuurde het bedrijf gerichte, gevoelige vragen naar populaire AI-systemen. Het doel is te meten of chatbots veilig, terughoudend en helpend reageren.
De prompts gingen onder meer over seksualiteit, zelfbeschadiging en suïcide. Zulke onderwerpen vragen om zorgvuldige afhandeling, zoals heldere weigeringen en doorverwijzing naar hulp. In praktijk laten AI-systemen daar nog wisselende kwaliteit zien.
Meta exploiteert zelf Meta AI, dat draait op Llama-modellen in apps als Instagram, Facebook en WhatsApp. Juist daar zijn veel tieners actief. Vergelijkende tests kunnen dus direct gevolgen hebben voor productkeuzes en veiligheidsinstellingen.
Veiligheid van chatbots hapert
Chatbots hebben vaak “guardrails”: regels die risicovolle antwoorden moeten blokkeren. Soms werkt dat goed en volgt een duidelijke weigering plus advies om hulp te zoeken. Maar systemen kunnen ook ontwijkend, verwarrend of te losjes reageren.
Bekende diensten zoals ChatGPT (OpenAI), Gemini (Google) en Claude (Anthropic) domineren dit veld. Zij investeren zwaar in moderatie en crisisprotocollen. Toch blijft het lastig om elke formulering of context van een tiener goed te duiden.
Fouten kunnen echte risico’s geven, zoals normalisering van schadelijk gedrag of onbedoelde instructies. Dat geldt extra bij jongere gebruikers, die vatbaarder zijn voor advies van een “autoritatief” systeem. Daarom is systematisch testen met jeugdscenario’s nodig.
Red-teaming is het bewust testen met vijandige of risicovolle scenario’s om zwakke plekken in een systeem te vinden, vóórdat echte gebruikers er last van hebben.
Europese regels zetten druk
De Europese AI-verordening verplicht aanbieders van zogeheten algemene AI-systemen (GPAI) tot risicobeperking en transparantie. Dat omvat ook documentatie over veiligheidstests en het aanpakken van systemische risico’s. Op het moment van schrijven treden veel verplichtingen gefaseerd in werking tot 2026.
De Digital Services Act (DSA) eist bovendien extra bescherming van minderjarigen op grote platforms. Voor Meta als zeer groot online platform (VLOP) gelden daar al aangescherpte plichten. Dat raakt direct de inzet van Meta AI binnen Instagram en Facebook.
Ook de AVG (in Nederland: de AVG/AVG-implementatie) vraagt om dataminimalisatie en passende waarborgen bij verwerking van gegevens van kinderen. Overheden die chatbots inkopen moeten hiermee rekening houden. Dit speelt in aanbestedingen bij gemeenten, scholen en zorginstellingen.
Ethische vragen bij aanpak
Testen met neptieners is verdedigbaar als veiligheidsmaatregel, maar de uitvoering telt. Selectieve voorbeelden kunnen een vertekend beeld geven van concurrenten. Open methodes en reproduceerbare protocollen zijn daarom gewenst.
Onafhankelijke auditors kunnen helpen bij eerlijke vergelijkingen. Zij leggen testsets, criteria en uitkomsten publiek vast. Dat voorkomt dat marketing of concurrentiedruk de bevindingen kleurt.
Standaardenorganisaties als CEN/CENELEC en NEN werken aan AI-normen die hierbij passen. Denk aan richtlijnen voor benchmarkdatasets rond jeugdbescherming. Zulke standaarden maken claims tussen aanbieders beter vergelijkbaar.
Gevolgen voor Nederland
Scholen, jeugdzorg en gemeenten gebruiken steeds vaker chatbots. Zij moeten controleren of kindprofielen en crisisverwijzingen aanstaan, en of logs veilig zijn opgeslagen. De “Europese AI-verordening gevolgen overheid” zijn hier concreet: documenteer risico’s en maatregelen.
Voor ouders en jongeren blijft basisadvies geldig. Deel geen gevoelige informatie met een chatbot en let op leeftijdsinstellingen. Bij noodsituaties geldt: neem contact op met hulpdiensten of 113 Zelfmoordpreventie, niet met een algoritme.
De Autoriteit Persoonsgegevens kan handhaven als kinderdata onnodig worden verzameld. Toezichthouders kijken ook naar eerlijkheidsclaims in productvergelijkingen. Heldere, controleerbare rapportages beperken dat risico.
Wat nu nog ontbreekt
Er is behoefte aan een Europese, open benchmark voor jeugdbescherming in chatbots. Met scenario’s in meerdere talen, inclusief het Nederlands. Zo’n set maakt testen consistenter en resultaten vergelijkbaar.
Leveranciers kunnen daarnaast periodiek veiligheidsrapporten publiceren, met concrete meetwaarden en verbeterplannen. Dat sluit aan bij de AI Act-plicht tot risicobeheer. Het helpt gebruikers beter te kiezen tussen systemen.
Tot slot is samenwerking met hulpinstanties belangrijk. Ingebouwde koppelingen naar betrouwbare hulplijnen en getrainde moderators zijn nodig. Dan worden chatbots niet alleen minder schadelijk, maar ook daadwerkelijk steunend in crisissituaties.