In Ieper onderzoekt de politie of een filmpje waarin een cafébaas een meisje een klap geeft echt is of met AI is gemaakt. De video circuleert op sociale media en zorgt voor onrust. Het onderzoek loopt op dit moment. De zaak raakt aan regels uit de Europese AI-verordening en de AVG.
Echtheid van video betwist
De beelden tonen een korte, schokkende scène in of bij een café. Online ontstaat discussie: is dit werkelijk gebeurd of is het een gemanipuleerd fragment? De vraag is cruciaal, want een echte klap is strafbaar, terwijl een nepvideo iemands reputatie kan schaden.
Deepfakes zijn realistische, door algoritmen gegenereerde of bewerkte video’s. Een generatief model kan gezichten, stemmen en gebaren overtuigend nabootsen. Daardoor is voor een kijker vaak niet direct te zien wat echt is.
Omdat het bronmateriaal en de herkomst onduidelijk zijn, is snelle verificatie lastig. Toch verspreiden zulke clips zich razendsnel via deelplatforms. Dat vergroot het risico op desinformatie en reputatieschade.
Een deepfake is een met kunstmatige intelligentie gemanipuleerde video of audio die echt lijkt, maar niet authentiek is.
Politie zet forensica in
De lokale politie bekijkt op het moment van schrijven de echtheid van de video. Bij dit soort zaken is het gebruikelijk om beeld- en audiopatronen te analyseren, zoals lichtval, schaduwen en lip-sync. Ook wordt vaak gekeken naar metadata en de uploadketen van een bestand.
Opsporingsdiensten maken daarbij geregeld gebruik van forensische hulpmiddelen. Denk aan frame-voor-frame-analyse en omgekeerd zoeken naar eerdere versies van het beeld. Zo kan worden vastgesteld of fragmenten elders zijn gebruikt of later zijn ingevoegd.
Daarnaast kunnen platforms worden benaderd voor informatie over de eerste upload. Dat helpt om de oorsprong te achterhalen en manipulatie uit te sluiten. Pas daarna volgt een oordeel over de authenticiteit en eventuele vervolgstappen.
Deepfakes vragen transparantie
De Europese AI-verordening (AI Act) verplicht makers en verspreiders van deepfakes tot duidelijke labeling. Dat betekent dat het voor kijkers zichtbaar moet zijn wanneer content met AI is gegenereerd of gemanipuleerd. De belangrijkste transparantie-eisen gaan naar verwachting gelden tussen 2025 en 2026, op het moment van schrijven nog in uitrol.
Voor nieuwsmedia, overheden en bedrijven betekent dit extra zorgplicht. Zij moeten processen inrichten om AI-gebruik te melden en gemanipuleerde beelden te herkennen. Dit raakt ook de “Europese AI-verordening gevolgen overheid”, zoals interne richtlijnen en training voor medewerkers.
Gebruikers houden eveneens verantwoordelijkheid. Wie zonder context AI-gegenereerde beelden deelt, kan misleiding versterken. Duidelijke labels en uitleg bij posts helpen om verwarring te voorkomen.
Platforms onder DSA-plicht
Grote platforms zoals TikTok, Instagram (Meta) en X vallen onder de Digital Services Act (DSA). Zij moeten risico’s rond desinformatie en gemanipuleerde media inperken. Dat omvat detectie, waarschuwingen en snelle interventie bij schadelijke verspreiding.
Daarnaast vraagt de DSA om transparante meldprocessen en toegang voor onderzoekers. Gebruikers moeten eenvoudig kunnen rapporteren dat content mogelijk nep is. Platforms moeten daarop snel en gemotiveerd reageren.
De combinatie van DSA en AI Act zet druk op technisch én organisatorisch beleid. Niet alleen de techniek telt; ook moderatie, uitleg en beroep voor gebruikers zijn nodig. Zo ontstaat een keten van verantwoordelijkheid van maker tot kijker.
Juridische risico’s voor makers
Als de video echt is, kan er sprake zijn van strafbaar geweld. Is de video nep, dan dreigen claims wegens smaad of eerroof en eventuele civiele schade. Beide scenario’s hebben zware gevolgen voor betrokkenen.
De AVG speelt mee zodra herkenbare personen in beeld zijn. Het delen van zulke beelden is verwerking van persoonsgegevens en vraagt een rechtsgrond. Betrokkenen mogen verwijdering of beperking van verspreiding vragen.
Ook voor bedrijven en websites geldt zorgplicht. Herpublicatie zonder check kan onrechtmatig zijn. Een zorgvuldig meld- en verwijderproces is daarom essentieel.
Wat kijkers nu kunnen doen
Deel schokkende video’s niet direct, maar wacht op verificatie. Controleer of meerdere, betrouwbare bronnen hetzelfde melden. Kijk of er context is: waar, wanneer, door wie gefilmd, en is het origineel te vinden?
Let op visuele signalen van manipulatie: onnatuurlijke huidtexturen, rare hand- of tanddetails, foute reflecties en haperende lip-sync. Zet het geluid uit en kijk alleen naar de mondbewegingen om afwijkingen te spotten. Gebruik, waar mogelijk, omgekeerd zoeken en frame-analyses met publieke tools.
Twijfel je, meld de video bij het platform met een korte toelichting. Bij dreigende schade of betrokken minderjarigen is snel handelen extra belangrijk. Zo help je te voorkomen dat nepcontent verder schade veroorzaakt.