• Home
  • /
  • Blog
  • /
  • Nieuws
  • /
  • Meta zet neptieners in om AI-chatbots te bestoken met seks- en suïcidevragen

Meta test concurrerende AI-chatbots met neptieners die vragen stellen over seks en zelfdoding. Het bedrijf wil zien hoe deze systemen reageren op risicovolle vragen van minderjarigen. De tests vonden online plaats en zijn recent uitgevoerd. Dit raakt ook Europa, waar de AI-verordening (AI Act) en de Digital Services Act strengere eisen stellen aan bescherming van jongeren.

Meta gebruikt tienerprofielen

Meta bouwde gesimuleerde profielen die lijken op 13- tot 17-jarigen. Met deze “neptieners” stuurde het bedrijf gerichte, gevoelige vragen naar populaire AI-systemen. Het doel is te meten of chatbots veilig, terughoudend en helpend reageren.

De prompts gingen onder meer over seksualiteit, zelfbeschadiging en suïcide. Zulke onderwerpen vragen om zorgvuldige afhandeling, zoals heldere weigeringen en doorverwijzing naar hulp. In praktijk laten AI-systemen daar nog wisselende kwaliteit zien.

Meta exploiteert zelf Meta AI, dat draait op Llama-modellen in apps als Instagram, Facebook en WhatsApp. Juist daar zijn veel tieners actief. Vergelijkende tests kunnen dus direct gevolgen hebben voor productkeuzes en veiligheidsinstellingen.

Veiligheid van chatbots hapert

Chatbots hebben vaak “guardrails”: regels die risicovolle antwoorden moeten blokkeren. Soms werkt dat goed en volgt een duidelijke weigering plus advies om hulp te zoeken. Maar systemen kunnen ook ontwijkend, verwarrend of te losjes reageren.

Bekende diensten zoals ChatGPT (OpenAI), Gemini (Google) en Claude (Anthropic) domineren dit veld. Zij investeren zwaar in moderatie en crisisprotocollen. Toch blijft het lastig om elke formulering of context van een tiener goed te duiden.

Fouten kunnen echte risico’s geven, zoals normalisering van schadelijk gedrag of onbedoelde instructies. Dat geldt extra bij jongere gebruikers, die vatbaarder zijn voor advies van een “autoritatief” systeem. Daarom is systematisch testen met jeugdscenario’s nodig.

Red-teaming is het bewust testen met vijandige of risicovolle scenario’s om zwakke plekken in een systeem te vinden, vóórdat echte gebruikers er last van hebben.

Europese regels zetten druk

De Europese AI-verordening verplicht aanbieders van zogeheten algemene AI-systemen (GPAI) tot risicobeperking en transparantie. Dat omvat ook documentatie over veiligheidstests en het aanpakken van systemische risico’s. Op het moment van schrijven treden veel verplichtingen gefaseerd in werking tot 2026.

De Digital Services Act (DSA) eist bovendien extra bescherming van minderjarigen op grote platforms. Voor Meta als zeer groot online platform (VLOP) gelden daar al aangescherpte plichten. Dat raakt direct de inzet van Meta AI binnen Instagram en Facebook.

Ook de AVG (in Nederland: de AVG/AVG-implementatie) vraagt om dataminimalisatie en passende waarborgen bij verwerking van gegevens van kinderen. Overheden die chatbots inkopen moeten hiermee rekening houden. Dit speelt in aanbestedingen bij gemeenten, scholen en zorginstellingen.

Ethische vragen bij aanpak

Testen met neptieners is verdedigbaar als veiligheidsmaatregel, maar de uitvoering telt. Selectieve voorbeelden kunnen een vertekend beeld geven van concurrenten. Open methodes en reproduceerbare protocollen zijn daarom gewenst.

Onafhankelijke auditors kunnen helpen bij eerlijke vergelijkingen. Zij leggen testsets, criteria en uitkomsten publiek vast. Dat voorkomt dat marketing of concurrentiedruk de bevindingen kleurt.

Standaardenorganisaties als CEN/CENELEC en NEN werken aan AI-normen die hierbij passen. Denk aan richtlijnen voor benchmarkdatasets rond jeugdbescherming. Zulke standaarden maken claims tussen aanbieders beter vergelijkbaar.

Gevolgen voor Nederland

Scholen, jeugdzorg en gemeenten gebruiken steeds vaker chatbots. Zij moeten controleren of kindprofielen en crisisverwijzingen aanstaan, en of logs veilig zijn opgeslagen. De “Europese AI-verordening gevolgen overheid” zijn hier concreet: documenteer risico’s en maatregelen.

Voor ouders en jongeren blijft basisadvies geldig. Deel geen gevoelige informatie met een chatbot en let op leeftijdsinstellingen. Bij noodsituaties geldt: neem contact op met hulpdiensten of 113 Zelfmoordpreventie, niet met een algoritme.

De Autoriteit Persoonsgegevens kan handhaven als kinderdata onnodig worden verzameld. Toezichthouders kijken ook naar eerlijkheidsclaims in productvergelijkingen. Heldere, controleerbare rapportages beperken dat risico.

Wat nu nog ontbreekt

Er is behoefte aan een Europese, open benchmark voor jeugdbescherming in chatbots. Met scenario’s in meerdere talen, inclusief het Nederlands. Zo’n set maakt testen consistenter en resultaten vergelijkbaar.

Leveranciers kunnen daarnaast periodiek veiligheidsrapporten publiceren, met concrete meetwaarden en verbeterplannen. Dat sluit aan bij de AI Act-plicht tot risicobeheer. Het helpt gebruikers beter te kiezen tussen systemen.

Tot slot is samenwerking met hulpinstanties belangrijk. Ingebouwde koppelingen naar betrouwbare hulplijnen en getrainde moderators zijn nodig. Dan worden chatbots niet alleen minder schadelijk, maar ook daadwerkelijk steunend in crisissituaties.

Mis geen AI-nieuws

Kies AIInsider.nl als voorkeursbron in Google. Dan zie je ons nieuws vaker terug in Google Zoeken en Discover.

Wat vind jij? Laat het ons weten!

{"email":"Email address invalid","url":"Website address invalid","required":"Required field missing"}

Over de schrijver 

Dave

Hoi, ik ben Dave – schrijver, onderzoeker en nieuwsgierige geest achter AIInsiders.nl. Ik hou me bezig met de manier waarop technologie ons leven verandert, en vooral: hoe we dat een beetje kunnen bijbenen. Van slimme tools tot digitale trends, ik duik graag in de wereld achter de schermen.

Mijn stijl? Lekker helder, soms kritisch, altijd eerlijk. Geen onnodig jargon of overdreven hype, maar praktische inzichten waar je echt iets aan hebt. AI is niet eng of magisch – het is interessant, en ik help je graag om dat te zien.


Meer AI-nieuws

30/10/2026 08:02

Foto: Firmbee.com via Unsplash Google breidt Gemini uit met een ingebouwde documenteditor. Je kunt er nu documenten, PDF's, presentaties, spreadsheets en code mee maken, bekijken lees verder

Google voegt documenteditor toe aan Gemini: PDF’s en presentaties direct bewerken in de chat

29/10/2026 10:12

Foto: ilgmyzin via Unsplash De ouders van de overleden Bowen Wan (31) klagen ChatGPT-maker OpenAI aan. Volgens de aanklacht hielp GPT-4o haar om in ongeveer lees verder

Ouders van overleden vrouw (31) klagen ChatGPT-maker OpenAI aan: chatbot hielp haar epilepsiemedicijn afbouwen

29/10/2026 07:39

Foto: Andrew Neel via Unsplash OpenAI laat gebruikers van de proactieve AI-agent Dot voortaan ook via iMessage of RCS berichten sturen. Je geeft je dot lees verder

OpenAI voegt texting toe aan ChatGPT Dot: je appt voortaan met je AI-agent
>