In de nasleep van een recente ramp in Nepal circuleren deze week talloze AI-video’s met verzonnen of opgeblazen scènes. Makers zetten generatieve systemen als Runway Gen-3 en Pika in om spectaculair ogende beelden te maken en plaatsen die op YouTube, TikTok en Facebook. Het doel is zichtbaarheid en advertentie-inkomsten, aangewakkerd door algoritmen die emotie en snelheid belonen. De Europese AI-verordening en de Digital Services Act raken hier direct aan, met gevolgen voor platforms en overheidshandhaving in de EU.
AI verergert rampdesinformatie
De video’s vermengen echte fragmenten met door algoritmen gemaakte shots, zoals ingestorte bruggen of helikopterreddingen die nooit plaatsvonden. Dit maakt het voor kijkers lastig om feit en fictie te scheiden, zeker op mobiele schermen. Het resultaat is verwarring op een kwetsbaar moment, terwijl hulpdiensten juist betrouwbare informatie nodig hebben.
Platforms als TikTok en YouTube verspreiden korte clips razendsnel, waardoor onjuiste beelden breed bereik krijgen. De drempel om te publiceren is laag en de beloning in kijkcijfers hoog. Daardoor ontstaan hele kanalen die zich richten op rampnieuws, vaak met generatieve effecten voor extra drama.
Families en slachtoffers worden zo nogmaals geraakt als hun situatie wordt gebruikt voor sensatie. Ook hulpacties kunnen schade oplopen wanneer nepbeelden fondsenwerving of logistiek verstoren. Voor journalisten en factcheckers kost het extra tijd om het kaf van het koren te scheiden.
Platforms sturen op spektakel
Het aanbevelingssysteem van grote videoplatforms is geoptimaliseerd voor betrokkenheid, zoals kijktijd en reacties. Content die heftige emoties oproept, scoort hierdoor vaak beter. Rampbeelden met AI-effecten voldoen precies aan die prikkel en krijgen daardoor vaker een duw in het algoritme.
Merken en adverteerders kunnen onbedoeld naast misleidende rampvideo’s belanden. Dat levert reputatierisico’s op en zet druk op platforms om strengere moderatie en labeling in te voeren. Voor Europese gebruikers geldt bovendien dat de Digital Services Act extra plichten legt bij zeer grote platforms om dit soort systemische risico’s te beperken.
Transparantie over herkomst van beelden is cruciaal om vertrouwen te herstellen. Initiatieven als C2PA-contentcredentials, gesteund door onder meer Adobe en Microsoft, leggen een digitaal stempel op foto en video. Zonder brede toepassing en zichtbare labels voor gebruikers blijft de impact echter beperkt.
Een deepfake is media die met kunstmatige intelligentie is gemaakt of aangepast, zodat het echt lijkt maar niet klopt.
Zo worden nepvideo’s gemaakt
Makers gebruiken generatieve videomodellen zoals Runway Gen-3 of Pika om korte scènes te creëren op basis van tekststuring, ook wel prompts genoemd. Ze combineren dat met stilstaande AI-beelden uit tools als Midjourney, die vervolgens worden geanimeerd. Met montage-apps zoals CapCut voegen ze rampgeluid, trilmomenten en snelle cuts toe voor extra spanning.
Voor de voice-over zetten sommigen synthetische stemmen in via diensten als ElevenLabs. Een geautomatiseerde presentator kan in meerdere talen uitleg geven en urgentie simuleren. Zo ontstaat binnen uren een ogenschijnlijk professioneel nieuwsformat, zonder redactie of verificatie.
Een tweede truc is het recyclen van oud beeldmateriaal uit andere landen. Door uitsnedes, filters en nieuwe onderschriften lijkt het alsof de beelden uit Nepal komen. Deze mix van AI en archief maakt detectie moeilijker voor zowel mensen als automatische systemen.
AI-verordening eist duidelijke labels
De Europese AI-verordening verplicht aanbieders en gebruikers van generatieve systemen om duidelijk te maken dat inhoud door AI is gemaakt. Dit geldt specifiek voor deepfakes, zodat kijkers weten dat ze naar synthetische media kijken. De regels worden op het moment van schrijven stapsgewijs ingevoerd en raken zowel techbedrijven als mediapartijen.
Onder de Digital Services Act moeten zeer grote platforms risico’s van desinformatie beperken en toegang geven tot onderzoekers. Dat omvat maatregelen zoals betere detectie, gebruikerswaarschuwingen en snellere verwijdering bij misleiding. De Europese Commissie kan bij aanhoudende nalatigheid forse boetes opleggen.
Voor Nederlandse gebruikers is de Autoriteit Consument & Markt de coördinator voor DSA-toezicht. De Autoriteit Persoonsgegevens kan optreden als portretrechten en persoonsgegevens van slachtoffers worden misbruikt, wat onder de AVG valt. Samen dwingt dit een hogere lat af voor moderatie, labeling en veilige ontwerpkeuzes op platformen.
Nederland zet in op weerbaarheid
Publieke omroepen en redacties testen contentcredentials om de herkomst van beeld te tonen. Dat helpt kijkers om snel te zien of een video bewerkt is en van wie die afkomstig is. Nieuwsredacties bouwen daarnaast werkwijzen voor beeldverificatie in, met omgekeerd zoeken en bronanalyse.
Voor crisiscommunicatie is duidelijke lijncoördinatie belangrijk tussen overheid, hulpdiensten en media. Snelle publicatie van geverifieerde beelden kan het gat vullen waar misleidende clips anders terrein winnen. Ook verwijzingen naar betrouwbare hulpkanalen verminderen de impact van nepvideo’s.
Onderwijs in mediawijsheid krijgt een extra rol, van basisschool tot mbo en hbo. Eenvoudige checks leren helpt burgers om twijfelachtige beelden te herkennen. Zo wordt de vraagkant minder vatbaar voor misleiding, ook bij ingrijpende nieuwsgebeurtenissen.
Wat gebruikers nu kunnen doen
Let op labels of watermerken, zoals C2PA-contentcredentials of duidelijke AI-meldingen in de app. Controleer de kanaalgeschiedenis: is er bronvermelding, publiceert het account vaker rampvideo’s of ontbreekt context. Pauzeer bij extreem dramatische shots en vraag: wie filmde dit, wanneer en waarom hier.
Gebruik een omgekeerde zoekopdracht om te zien of beelden eerder in een andere context zijn gebruikt. Meld verdachte clips via de ingebouwde tools van YouTube, TikTok of Facebook. Deel pas na controle en verwijs bij twijfel naar betrouwbare nieuwsbronnen of officiële hulpdiensten.
Adverteerders kunnen uitsluitingslijsten en contextfilters aanscherpen om niet naast misleidende rampcontent te verschijnen. Platforms doen er goed aan AI-gegenereerde content standaard te labelen en zichtbare waarschuwingen te tonen. Dat vermindert schade voor slachtoffers en helpt het publiek om beter geïnformeerde keuzes te maken.