In China woedt dit jaar debat over AI-companions: chatbots die zich gedragen als partner of vriend. Platforms van bedrijven als Xiaoice Company en grote spelers als Baidu en Alibaba bieden zulke functies in populaire apps. Beleidsmakers en demografen vragen zich af of dit het toch al lage geboortecijfer verder drukt. Het onderwerp raakt ook Europa, waar de AI-verordening en de AVG grenzen stellen aan dit soort systemen.
AI-companions veroveren China
AI-companions zijn algoritmen die menselijk contact nadoen in tekst, spraak of beeld. Gebruikers kiezen vaak een avatar en persoonlijkheid, waarna het systeem gesprekken onthoudt en emoties spiegelt. Dat werkt met grote taalmodellen zoals Baiduās Ernie en visuele modules voor avatars en stemklonen.
De Chinese chatbot Xiaoice, ooit gestart door Microsoft en nu van Xiaoice Company, geldt als voorloper. Het systeem onderhoudt miljoenen korte gesprekken per dag en biedt betaalde extraās zoals exclusieve berichten of virtuele dates. Andere platforms voegen vergelijkbare āAI-vriendinā-functies toe in chat- en videodiensten.
Het verdienmodel draait om microtransacties en abonnementen. Hoe meer tijd een gebruiker doorbrengt, hoe meer inkomsten. Daarmee ontstaat druk om de interactie zo meeslepend mogelijk te maken, bijvoorbeeld met pushnotificaties en beloningen.
Vrees voor minder relaties
Critici maken zich zorgen dat digitale gezelschapssystemen het aangaan van echte relaties uitstellen. Een AI-partner is altijd beschikbaar, vraagt geen wederkerige zorg en vermijdt conflicten. Dat kan drempels om te daten verhogen, zeker bij jongeren die al stress en prestatiedruk ervaren.
China kampt op het moment van schrijven met krimpende bevolkingscijfers en een laag gemiddeld kindertal per vrouw. Beleidsmakers stimuleren trouwen en kinderen, maar bots kunnen die doelen ondermijnen als ze sociale isolatie versterken. Onderzoekers wijzen er wel op dat oorzaken van lage geboorten breder zijn, zoals woonkosten, werkdruk en zorglast.
Hard bewijs voor een direct causaal effect ontbreekt nog. Studies met controlegroepen en langere meetperioden zijn schaars. Zonder die data blijft het verband aannemelijk maar onbewezen, en bestaat het risico op morele paniek.
Een AI-companion is een chatbot die gezelschap nadoet via tekst, spraak of beeld, vaak met een gepersonaliseerde avatar en betaalde extraās.
Data en verslaving als risico
Companion-apps verzamelen intieme gegevens, zoals voorkeuren, stemming en soms seksuele fantasieƫn. Onder de Europese privacywet AVG gelden dit soort data als bijzonder gevoelig. Verwerking vraagt daarom dataminimalisatie, duidelijke doelen en expliciete toestemming.
Het ontwerp van deze systemen stuurt op maximale betrokkenheid. Dat vergroot het verslavingsrisico, vergelijkbaar met sociale media, maar met extra emotionele hechting. Voor minderjarigen is dat extra zorgelijk, zeker als leeftijdscontrole zwak is.
Transparantie is cruciaal: gebruikers moeten begrijpen dat ze met een algoritme praten en wat er met hun data gebeurt. Versleuteling, lokale opslag en optionele verwijdering van gesprekslogboeken zijn basismaatregelen. Zonder deze waarborgen lopen consumenten onnodige risicoās.
Chinese en Europese regels
China verplicht aanbieders van generatieve AI tot strikte moderatie en āgezonde waardenā. Seksueel expliciete of politiek gevoelige content wordt doorgaans geblokkeerd. Die regels sturen de markt, maar zeggen weinig over verslaving of langdurige eenzaamheid.
In de EU valt een AI-companion meestal onder beperkte risicoās in de AI-verordening (AI Act). Er gelden transparantieplichten: de dienst moet herkenbaar zijn als AI en risicoās moeten worden uitgelegd. Als een app therapeutische claims doet, kan zij onder strengere, hoogrisico-eisen of medische regels vallen.
De AVG blijft leidend voor gegevensverwerking. Profielen over seksualiteit, gezondheid of emotie vallen onder bijzondere categorieƫn en vragen expliciete toestemming en strikte beveiliging. Overtredingen kunnen leiden tot hoge boetes van toezichthouders zoals de Autoriteit Persoonsgegevens.
Wat dit betekent voor Nederland
Companion-apps als Replika, Nomi en Anima zijn in Nederlandse appwinkels beschikbaar. Nederlandse instellingen in zorg en onderwijs moeten terughoudend zijn met inzet van dit soort systemen, omdat emotion tracking en gedragssturing snel aan strengere regels raken. Voor jongeren zijn leeftijdsverificatie en duidelijke waarschuwingen wenselijk.
Voor consumenten is het verstandig om privacy-instellingen direct na installatie te controleren. Deel geen identificeerbare fotoās en minimale echte persoonsgegevens. Vraag om dataportabiliteit en verwijdering als u stopt, rechten die onder de AVG zijn gegarandeerd.
Beleidsmatig kan Nederland aansluiten bij Europese kaders met richtsnoeren voor verslavingsgevoelig ontwerp. Denk aan limieten op pushnotificaties, standaard dataminimalisatie en onafhankelijke audits. Gemeenten en GGDās kunnen in hun preventiebeleid aandacht geven aan digitale eenzaamheid.
Feiten, aannames en onderzoek
Het verband tussen AI-companions en dalende geboorten is plausibel maar niet bewezen. Goed onderzoek vraagt naar gebruiksduur, leeftijd, sociaal netwerk en bestaande eenzaamheid. Ook moet worden gekeken naar verschillen tussen steden en regioās met uiteenlopende kosten en normen.
Een nuttige volgende stap is transparantie van platforms over gebruiksdata, verslavingsindicatoren en moderatiebeslissingen. Geanonimiseerde datasets kunnen onafhankelijke analyse mogelijk maken zonder privacy te schaden. Universiteiten en toezichthouders kunnen hiervoor standaarden ontwikkelen.
Tot die tijd is beleid gericht op weerbaarheid en privacybescherming het meest proportioneel. Bescherm kwetsbare groepen, beperk dataverzameling en stuur op duidelijke informatie. Zo blijft ruimte voor innovatie zonder de maatschappelijke kosten te negeren.