Techbedrijven brengen chatbots op de markt die zich gedragen als partner of geliefde. Diensten als Replika, Character.AI en Pi van Inflection AI winnen gebruikers in Europa, ook in Nederland. Toch blijft echte verliefdheid op een algoritme onwaarschijnlijk, zo blijkt uit praktijkervaring en onderzoek. De Europese AI-verordening (AI Act) en de AVG sturen deze markt, met gevolgen voor bedrijven, overheid en samenleving.
AI-geliefden blijven niche
Bots die liefde en steun beloven trekken veel nieuwsgierige gebruikers. Veel mensen proberen de apps kort, maar haken later af. De stap van chat naar echte hechting blijkt groot. De relatie voelt vaak eenzijdig en breekbaar, zeker wanneer het systeem fouten maakt.
Platforms als Replika en Character.AI bieden maatwerkprofielen en rollenspel. Dat werkt vermakelijk en kan tijdelijk troost geven. Maar duurzame intimiteit vraagt wederkerigheid, grenzen en verantwoordelijkheid. Een datamodel kan die menselijke eigenschappen niet echt bieden.
Bedrijven positioneren deze diensten daarom steeds vaker als “gezelschaps-” of “welzijnsbot”. De marketing schuift weg van het woord “geliefde”. Dat verlaagt verwachtingen en beperkt risico’s op misleiding. Het past ook bij strengere Europese regels over transparantie.
Een AI-companion is een chatbot die gesprek, aandacht en bevestiging simuleert, zonder eigen gevoelens of bewustzijn.
Mens zoekt meer dan tekst
De huidige generatie grote taalmodellen, zoals GPT-4 (OpenAI), Claude 3 (Anthropic) en Gemini (Google), schrijft vloeiend en empathisch ogend. Een groot taalmodel is software die patronen in enorme hoeveelheden tekst leert en daarmee zinnen voorspelt. Dat levert vlotte gesprekken op, maar geen echte beleving. Het systeem begrijpt niet, het voorspelt.
Romantische relaties draaien om wederkerigheid, lichaamstaal en gedeelde ervaringen. Een app mist die fysieke en sociale lagen. Fouten, hallucinaties en herhalingen doorbreken bovendien snel de “magie”. Dat maakt het lastig om de illusie van een volwaardige partner vol te houden.
Ook commitment ontbreekt. Een algoritme kan geen belofte doen, spijt voelen of verantwoordelijkheid dragen. Wie steun zoekt bij rouw, intimiteit of conflicten, merkt daardoor de grens van de techniek. De kunstmatige nabijheid blijft uiteindelijk tekst op een scherm.
Europese regels zetten grenzen
De Europese AI-verordening verplicht bedrijven om duidelijk te maken dat gebruikers met een AI-systeem praten. Dat geldt ook voor chatbots met een romantisch of emotioneel doel. Verboden zijn systemen die kwetsbaarheden van mensen, zoals leeftijd of ziekte, uitbuiten en daardoor schade veroorzaken. In onderwijs en op het werk is emotieherkenning zelfs uitgesloten.
De AVG stelt daarnaast strenge eisen aan gevoelige gegevens, zoals informatie over seksualiteit of mentale gezondheid. Dataminimalisatie, versleuteling en een heldere grondslag zijn verplicht. Gebruikers moeten hun gegevens kunnen inzien, corrigeren of wissen. Bij overtreding kunnen toezichthouders boetes opleggen.
Voor publieke instellingen spelen extra plichten. Transparantie, toegankelijkheid en non-discriminatie gelden zwaarder bij overheidsdiensten. Wie bijvoorbeeld een gemeentelijke welzijnsbot inzet, moet rekening houden met de Europese AI-verordening en de “Europese AI-verordening gevolgen overheid” rond toezicht en documentatie. Dat voorkomt dat kwetsbare groepen onbedoeld worden gemanipuleerd.
Privacy en kwetsbare groepen
AI-companions verzamelen intieme chats, vaak over gevoelens, relaties en seksualiteit. Dit zijn privacygevoelige gegevens onder de AVG. Onnodige opslag en profilering zijn dan niet toegestaan. Delen met advertentienetwerken is extra risicovol en kan onrechtmatig zijn.
Bij jongeren is de drempel tot experimenteren laag, terwijl grenzen nog niet vastliggen. Europese regels verbieden daarom misleidende interfaces en donkere patronen die aanzetten tot risicogedrag bij minderjarigen. Ook komt er meer leeftijdsverificatie en ouderlijk toezicht bij gevoelige functies. Nederlandse toezichthouders zoals de Autoriteit Persoonsgegevens volgen deze markt op het moment van schrijven actief.
Ook voor volwassenen spelen machtsongelijkheid en afhankelijkheid. Wie zich eenzaam voelt, kan gevoelig zijn voor sturing door aanbevelingsalgoritmen. Dat vergroot de kans op betalingen, intensiever gebruik of problematische inhoud. Heldere waarschuwingen en eenvoudige opt-outs zijn daarom essentieel.
Bedrijven sturen verwachtingen bij
Replika paste in Europa functies aan na klachten en aandacht van toezichthouders in 2023. Seksueel expliciete rollenspellen werden beperkt en leeftijdsgrenzen aangescherpt. Character.AI hanteert eveneens strengere filters op erotiek. Dit laat zien dat handhaving en publieke druk werken.
Grote platforms voegen bovendien zichtbare labels toe. Snapchat’s My AI en Meta’s AI-persona’s tonen dat je met een bot praat. Ook logs en meldfuncties zijn makkelijker te vinden. Dat voldoet aan de transparantie-eisen uit de AI Act.
Bedrijven investeren intussen in veiligheidsteams en evaluaties. OpenAI, Google en Anthropic publiceren richtlijnen voor welzijn en misbruik. Toch blijven moderatie en training een kat-en-muisspel. De prikkel om engagement te vergroten botst soms met gebruikersveiligheid.
Nederland focust op zorg en jeugd
In Nederland lopen proeven met sociale robots in de zorg, zoals Tessa, voor structuur en gezelschap. Deze inzet is praktisch en doelgericht, niet romantisch. Het verschil is belangrijk: hulpmiddel in de zorg valt onder duidelijke normen en toezicht. Een “AI-geliefde” is vooral entertainment en draagt andere risico’s.
Onderwijsinstellingen en jongerenwerk zien kansen voor laagdrempelige gesprekssteun. Tegelijk waarschuwen experts voor vervanging van menselijk contact. Richtlijnen vragen daarom om menselijk toezicht, dataminimalisatie en doorverwijzing bij zware thema’s. Dat sluit aan op de AI Act en de AVG.
De maatschappelijke balans tekent zich af. AI kan eenzaamheid tijdelijk verlichten, maar vervangt geen echte relatie. Met strakke Europese kaders, nuchtere communicatie en menselijk vangnet blijft de belofte helder. Liefde laat zich niet automatiseren, en dat is waarschijnlijk maar goed ook.