Chinese sociale mediaplatforms zoals Douyin en Kuaishou laten op dit moment veel AI-video’s met racistische stereotypen over buitenlanders online. Moderatie pakt de stroom slechts beperkt aan. Dit speelt in China, maar de video’s vinden ook hun weg naar internationale apps. De aanpak stokt omdat toezicht en algoritmen vooral sturen op aandacht, niet op discriminatie. In Europa gelden de Digital Services Act en de AI-verordening, met gevolgen voor hoe overheden en platforms risico’s van AI-content aanpakken.
Platforms laten video’s staan
Op Douyin, Kuaishou en andere Chinese netwerken circuleren massaal met AI gemaakte clips over “buitenlanders”. De beelden gebruiken synthetische stemmen en avatars om negatieve frames te verspreiden. Een deel wordt zakelijk ingezet voor klikken en inkomsten.
Makers kunnen met standaardtools in korte tijd tientallen video’s produceren. Ze variëren tekst, stem en decor automatisch. Zo ontstaat een steeds groeiende stroom gelijkende fragmenten.
Platforms verwijderen soms politieke of binnenlandse overtredingen. Maar content met vijandige stereotypen over buitenlanders blijft vaak staan. Daardoor kunnen accounts doorgroeien en publiek opbouwen.
Regels bestaan, handhaving zwak
De Chinese toezichthouder CAC (Cyberspace Administration of China) heeft regels voor “deep synthesis” sinds januari 2023. Ook gelden sinds augustus 2023 tijdelijke maatregelen voor generatieve AI-diensten. Die vragen om duidelijke labeling en het voorkomen van schadelijke inhoud.
In de praktijk ontbreekt labeling vaak of is die onduidelijk. Watermerken zijn niet zichtbaar of gemakkelijk te verwijderen. Racistische framing wordt niet altijd als beleidsovertreding aangemerkt.
Toezicht richt zich vooral op staatsveiligheid en binnenlandse stabiliteit. Discriminatie van buitenlanders krijgt minder prioriteit. Daardoor blijft handhaving op het moment van schrijven beperkt.
Een deepfake is een met AI gemaakte of gemanipuleerde video of audio die echt lijkt, vaak zonder dat de kijker het direct merkt.
Algoritmen voeden stereotypering
Aanbevelingssystemen belonen prikkelende inhoud die lang bekeken en vaak gedeeld wordt. AI-clips met sterke emoties scoren hoog op die signalen. Zo krijgen ze extra bereik.
Makers gebruiken tekst-naar-spraak en beeldgeneratoren om vaste formats te maken. Scripts, beelden en ondertitels worden automatisch hergebruikt. Dat drukt de kosten en versnelt productie.
Zonder stevige kwaliteitscontrole versterken systemen negatieve denkbeelden. Misleidende claims reizen sneller dan correcties. Het gevolg is meer polarisatie, ook buiten China.
EU-wetgeving legt strengere plichten
In de EU vallen TikTok (ByteDance), YouTube en X onder de Digital Services Act. Zij moeten systeemrisico’s beperken, waaronder desinformatie en haat, en hun aanbevelingsalgoritmen toelichten. Onderzoek door onafhankelijke experts is verplicht voor zeer grote platforms.
De Europese AI-verordening (AI Act) verplicht duidelijke markering van deepfakes. Dat geldt voor aanbieders én gebruikers van synthetische media. Overtredingen kunnen leiden tot hoge boetes en toezicht door de Europese Commissie.
Voor ByteDance betekent dit dat TikTok in Europa strenger moet modereren dan Douyin in China. Transparantie en risicobeperking zijn afdwingbaar. Dit schept een duidelijker kader voor AI-inhoud.
Risico’s voor Nederlandse gebruikers
Racistische AI-video’s duiken op via reposts op TikTok of andere apps die in Nederland populair zijn. Automatische ondertitels maken ze begrijpelijk voor een breder publiek. De herkomst is daarbij vaak onduidelijk.
Dit vergroot de kans op discriminatie en haatzaaien online. In Nederland gelden strafrechtelijke verboden op haatzaaien en de AVG verbiedt onrechtmatige profilering. Meld- en verwijderroutes zijn daarom essentieel.
Onderwijs en overheid kunnen digitale weerbaarheid versterken. Uitleg over deepfakes helpt gebruikers signalen te herkennen. Duidelijke labels en context door platforms ondersteunen die aanpak.
Aanbevelingen voor techbedrijven
Verbeter detectie van synthetische media met zichtbare en onzichtbare watermerken. Geef moderators betere tools en trainingen om racistische patronen te herkennen. Zorg voor snelle, consistente handhaving.
Pas downranking toe op misleidende AI-content en sanctioneer herhaalovertreders. Publiceer transparante richtlijnen en kwartaalrapportages over verwijderingen. Werk samen met onafhankelijke onderzoekers voor effectmeting.
Europese diensten moeten DSA en AI Act tijdig naleven. Dat vraagt om audits, risicobeoordelingen en heldere labeling. Zo krijgen racistische AI-video’s minder kans op een groot bereik.