AI-personages op sociale media blijken schadelijk voor het zelfbeeld, zelfs als ze duidelijk nep of gelabeld zijn. Gebruikers vergelijken zich toch met de perfecte lichamen en levens van deze avatars. Dat speelt nu in Nederland en de rest van Europa, waar zulke profielen snel groeien. De Europese AI-verordening (AI Act) stelt transparantie-eisen, maar die nemen dit psychologische effect niet weg.
Neppe beelden, echt effect
AI-personages zijn digitale profielen die met algoritmen gemaakt en aangestuurd worden. Ze lijken op echte influencers en reageren via chat, fotoās en videoās. Bekende diensten zijn Character.AI en Replika, en ook Meta biedt AI-personaās in zijn apps.
Mensen vergelijken zichzelf automatisch met beelden die ze zien, ook als ze weten dat die beelden kunstmatig zijn. Dat heet sociale vergelijking en is een reflex van het brein. Het gevolg kan onzekerheid zijn over uiterlijk, prestaties en relaties.
De schade raakt verschillende groepen. Jongeren zijn extra gevoelig, omdat hun zelfbeeld nog groeit. Ook volwassenen kunnen onder druk komen door constante, perfecte beelden in hun tijdlijn.
Vergelijken is een reflex van het brein, ook als we weten dat iets niet echt is.
Labels helpen beperkt
Platforms zetten steeds vaker labels als āAI-generatedā op synthetische fotoās en videoās. Bedrijven als Adobe (Firefly) en Google (SynthID) bouwen watermerken in, zodat content herkenbaar is. Ook TikTok en Instagram breiden detectie en waarschuwingen uit.
Zoān label verhoogt de transparantie, maar pakt het onderliggende probleem niet aan. Het beeld blijft aantrekkelijk en extreem gestileerd. De emotionele reactie en vergelijking verdwijnen daardoor niet.
De AI Act verplicht aanbieders om synthetische media herkenbaar te maken. Dat is belangrijk voor duidelijkheid en aansprakelijkheid. Het is echter geen remedie voor schoonheidsidealen en sociale druk.
Algoritmen versterken schoonheidsdruk
Sociale netwerken rangschikken berichten op aandacht en betrokkenheid. Strakke, foutloze gezichten en lichamen krijgen vaak meer likes en worden daardoor vaker getoond. AI-personages optimaliseren dat effect, omdat ze eindeloos bij te sturen zijn.
Met beeldgeneratoren als Midjourney en Stable Diffusion en modellen van OpenAI kunnen makers razendsnel fotoās maken die voldoen aan populaire trends. De productiekosten zijn laag en de frequentie hoog. Dat overspoelt tijdlijnen met āperfecteā lichamen en levens.
In de EU moeten grote platforms onder de Digital Services Act (DSA) systemische risicoās voor minderjarigen beperken. Denk aan de impact van algoritmen op mentaal welzijn. Bedrijven moeten daarvoor, op het moment van schrijven, risicobeoordelingen doen en maatregelen treffen.
Europese regels verscherpen toezicht
De AI Act legt transparantieplichten op voor generatieve systemen en voor aanbieders van synthetische media. Watermerken, logging en duidelijke labels worden de norm. Dat helpt gebruikers, toezichthouders en rechthebbenden om herkomst te controleren.
Bij gebruik van echte personen of hun gezicht gelden ook de AVG en het Nederlandse portretrecht. Het nabootsen van iemands uiterlijk of stem zonder toestemming kan onrechtmatig zijn. Dat geldt zeker voor reclame en betaalde samenwerkingen.
In Nederland houden de Autoriteit Persoonsgegevens en de Autoriteit Consument & Markt toezicht op privacy en misleidende reclame. De Reclame Code Commissie toetst aan de Nederlandse Reclame Code, waaronder influencerregels. Merken die AI-influencers inzetten, moeten dus transparantie en toestemming goed regelen.
Jongeren extra kwetsbaar online
AI-personages zijn altijd beschikbaar en reageren persoonlijk. Dat vergroot de band die gebruikers voelen, ook al is die eenzijdig. Zo ontstaat sociale druk om mee te doen en er ābij te horenā.
Scholen en ouders zien de effecten terug in onzekerheid en prestatiedruk. Media-educatie kan helpen om beelden te duiden en filters te herkennen. In Nederland bieden Netwerk Mediawijsheid en Kennisnet hiervoor lesmateriaal, op het moment van schrijven.
Platforms bieden instellingen om aanbevelingen te beperken en filters te tonen. Gebruikers kunnen accounts met extreem bewerkte beelden dempen of ontvolgen. Een diverser aanbod in de tijdlijn verlaagt de druk om te vergelijken.
Wat dit betekent voor platforms
Transparantie is noodzakelijk, maar niet voldoende. Platforms moeten ook aanpassingen doen in ontwerp en aanbevelingen. Denk aan minder nadruk op uiterlijk-scorende signalen en meer controle voor gebruikers.
De DSA en AI Act geven daar richting aan met plichten voor risico-analyse, transparantie en mitigatie. Europese toezichthouders kunnen sancties opleggen als deze plichten worden genegeerd. Voor Nederland biedt dit handvatten om jonge gebruikers beter te beschermen.
Techniek voor watermerken en detectie ontwikkelt snel, maar kent grenzen. Niet alles is te herkennen en labels missen soms. Daarom blijft het nodig om ontwerpkeuzes te toetsen op mentaal welzijn, niet alleen op herkomst van content.