Een 68-jarige man raakte in Thailand al zijn geld kwijt aan een virtuele geliefde die door kunstmatige intelligentie is gemaakt. Hij belandde daardoor op straat. Een Nederlander ter plekke schoot te hulp en zette ondersteuning in gang. De zaak laat zien hoe relatiebots en betaalde functies mensen kunnen meeslepen.
AI-geliefde leidt tot dakloosheid
De man betaalde herhaaldelijk voor contact met een virtuele partner in een chatapp. Het ging om extra functies die het gesprek persoonlijker en intiemer maken. De uitgaven liepen zo hoog op dat hij geen geld en geen onderdak meer had.
Een Nederlander in Thailand merkte de situatie op en greep in. Hij regelde eerste hulp en bracht anderen op de hoogte. Verdere opvang is lokaal opgepakt.
De gebruikte app is op het moment van schrijven niet bekendgemaakt. Wel staat vast dat het om een AI-gestuurde relatiebot ging. Zulke systemen wekken snel vertrouwen en kunnen aanzetten tot meer betalen.
Chatbots sturen emoties slim
Relatiebots zijn chatprogrammaās die met taalmodellen werken. Ze bootsen aandacht, humor en begrip na. Dat geeft gebruikers het gevoel van nabijheid en steun.
Bekende aanbieders zijn Replika van Luka, Character.AI van Character Technologies en Nomi AI. Hun apps zijn in Nederland te downloaden. Ze gebruiken algoritmen die gesprekken onthouden en zich aanpassen aan voorkeuren.
De techniek heet een groot taalmodel, of LLM: software die tekst voorspelt op basis van heel veel voorbeelden. De bot knoopt dat aan profielinformatie en eerdere chats. Zo voelt elk gesprek persoonlijk en belangrijk.
Betaalmodel verleidt tot uitgaven
Veel relatiebots werken met een freemiummodel. De basis is gratis, maar extraās kosten geld. Denk aan langere chats, spraak, beelden of āexclusieveā aandacht.
Apps sturen meldingen die aanzetten tot snel reageren en bijkopen. Tijdelijke kortingen of punten wekken druk op. Zo kunnen kleine bedragen snel optellen tot grote sommen.
Oudere gebruikers lopen extra risico door minder ervaring met in-app betalingen. Ook wisselkoersen en kosten in het buitenland spelen mee. Controle over uitgaven raakt dan makkelijk zoek.
āEen relatiebot is een chatrobot die een emotionele band nadoet en daar soms betaalde extraās aan koppelt.ā
Europese regels stellen grenzen
De Europese AI-verordening (AI Act) eist transparantie van chatbots. Gebruikers moeten weten dat zij met een systeem praten. Deepfakes en synthetische media moeten als zodanig herkenbaar zijn.
Ook de AVG geldt voor apps die gegevens van EU-burgers verwerken. Dat vraagt om dataminimalisatie, goede beveiliging en duidelijke toestemming. Gebruikers hebben recht op inzage en verwijdering van data.
Platforms die EU-consumenten misleiden, kunnen onder toezicht van ACM en Europese regels vallen. De AI Act treedt gefaseerd in werking; veel transparantieplichten gelden op het moment van schrijven al of komen snel. Aanbieders buiten de EU die EU-gebruikers bedienen, vallen dan alsnog onder deze eisen.
Hulp en preventie voor Nederlanders
Wie merkt dat een naaste te veel uitgeeft in chatapps, kan samen limieten instellen. Schakel in-app aankopen en biometrische bevestiging in op telefoon en tablet. Vraag de bank om extra drempels of blokkeer verdachte betalingen.
Bij problemen in het buitenland kunnen Nederlanders contact opnemen met 24/7 BZ. Ook lokale hulpdiensten en verzekeraars kunnen tijdelijk onderdak of advies regelen. Verzamel betaalbewijzen en app-namen voor eventuele stappen achteraf.
Voor klachten over misleiding is er ACM ConsuWijzer. Bij privacyzorgen kan een melding naar de Autoriteit Persoonsgegevens. De Fraudehelpdesk geeft laagdrempelig advies bij online verleiding en neprelaties.
Meer toezicht nodig op relatiebots
De casus in Thailand toont dat emotionele AI-systemen financiƫle schade kunnen veroorzaken. Kwetsbare groepen hebben extra bescherming nodig. Heldere waarschuwingen en betaalplafonds helpen.
Toezichthouders kunnen streng kijken naar druktechnieken in apps. Denk aan misleidende knoppen, nep-schaarste en onduidelijke prijzen. Zulke patronen zijn in de EU steeds minder toegestaan.
Onderzoek naar verslavingsgevoelig ontwerp is belangrijk voor beleid. Dat past binnen de AI Act en het consumentenrecht. Zo blijft innovatie mogelijk, zonder onnodige risicoās voor gebruikers.