De Nederlandse kindershow Kids Top 20 ligt onder vuur na de introductie van een mogelijk door AI gemaakte presentatrice. In een recente online video lijkt een virtuele host het programma aan te kondigen. Dat leidde tot veel kritiek van ouders en kijkers in Nederland. De zorgen gaan vooral over transparantie en het effect op een jong publiek, op het moment van schrijven zonder heldere uitleg over de gebruikte software.
Kritiek op virtuele host
Op sociale media uiten ouders, leraren en makers hun zorgen over de virtuele presentatrice. Zij vinden dat niet duidelijk is gemaakt dat het om computergegenereerde beelden gaat. Veel reacties gaan over eerlijkheid richting kinderen. Ook wordt gevraagd of een AI-host wel past bij een programma dat rolmodellen voor jongeren laat zien.
Critici wijzen op het risico van verwarring bij een jong publiek. Een digitale presentator kan er echt uitzien, maar is door algoritmen gemaakt. Zonder duidelijk label kan een kind het verschil niet zien. Dat kan het vertrouwen in media schaden.
Verschillende commentaren benadrukken dat transparantie de spanning kan wegnemen. Als kijkers direct zien dat het om een avatar gaat, is er een keuze om door te kijken. Het gesprek gaat dus minder over het verbieden van AI, en meer over duidelijke regels. Daarbij speelt mee dat Kids Top 20 al jaren een vertrouwde naam is voor families.
Onzekerheid over gebruikte AI
Welke tool of welk model is ingezet voor de virtuele presentatrice is niet bekendgemaakt. Er bestaan meerdere systemen die realistische avatars genereren, zoals Synthesia, HeyGen en Soul Machines. Zulke tools zetten tekst om in video met een digitale presentator. Ze gebruiken spraaksynthese en gezichtsanimatie om woorden en mimiek te laten kloppen.
Transparantie over het gebruikte systeem is relevant voor de beoordeling van risico’s. Denk aan rechten op de gebruikte stemmen, gezichten en trainingsdata. Als een avatar is gebaseerd op een bestaand persoon, kunnen portret- en auteursrechten spelen. Zonder die informatie is het lastig voor kijkers en toezichthouders om de inzet te toetsen.
Ook de inzet van datasets speelt mee. Sommige aanbieders trainen op grote beeldcollecties met onbekende herkomst. Dat roept vragen op over toestemming en dataminimalisatie, eisen die onder de AVG gelden. Voor makers in Europa wordt documentatie daarom steeds belangrijker.
AI-verordening eist transparantie
De nieuwe Europese AI-verordening (AI Act) verplicht gebruikers van zogenoemde “deepfakes” tot duidelijke labeling. Een deepfake is media-inhoud die met AI is gemaakt of gemanipuleerd, en die realistische personen of stemmen toont. Voor media-organisaties betekent dit dat een zichtbaar en begrijpelijk label in beeld moet komen. Zeker als de doelgroep uit minderjarigen bestaat, weegt die plicht zwaar.
Een deepfake is audiovisuele inhoud die lijkt op echt beeld of echte audio, maar (gedeeltelijk) is gegenereerd met kunstmatige intelligentie.
Naast labeling verlangt de AI Act uitleg over doel en context van het gebruik. Organisaties moeten kunnen aantonen dat zij de risico’s hebben ingeschat en beperkt. Denk aan misleiding, reputatieschade of het versterken van stereotypering. Deze plichten gelden voor zowel grote omroepen als kleinere producenten die AI-content publiceren in de EU.
De regels sluiten aan bij de AVG, die al langer transparantie en dataminimalisatie voorschrijft. Als een AI-host een echte stem nadoet, kan dat tot verwerking van biometrische gegevens leiden. Dat vraagt om extra waarborgen, zoals duidelijke toestemming of een andere geldige grondslag. Voor kindercontent geldt dat toestemming en uitleg nog begrijpelijker moeten zijn.
Kinderpubliek vraagt extra zorg
Kinderen kunnen moeilijker inschatten of iets echt of nep is. Daarom horen waarschuwingen en uitleg bij digitale effecten en AI extra duidelijk te zijn. Een kort label of pictogram in beeld helpt. Ook een vermelding in de beschrijving of aftiteling is zinvol, maar niet genoeg.
Educatieve context kan misleiding beperken. Leg in eenvoudige woorden uit wat een avatar is en hoe zo’n systeem werkt. Bijvoorbeeld: een computer maakt het gezicht en de stem, en een mens schrijft de tekst. Zo leren kinderen mediawijsheid terwijl zij kijken.
Toezichthouders en belangenorganisaties in Europa benadrukken dit punt steeds vaker. Zij adviseren redacties om kinderprofielen en leeftijdsprofielen mee te nemen in hun risicoanalyse. Dat past bij de geest van de AI Act en bestaande codes voor kindermarketing. Het doel is niet minder innovatie, maar wel veilige en begrijpelijke inzet.
Wat redacties nu kunnen doen
Publiceer altijd een zichtbaar AI-label in beeld, met een korte uitleg in B1-taal. Vermeld waar mogelijk de gebruikte tool of het type model. Beschrijf het doel: test, kostenbesparing, of experiment met vorm. Dat vergroot vertrouwen en voorkomt onnodige ophef.
Voer een beknopte risico-analyse uit vóór publicatie. Check misleidingsrisico, portret- en auteursrechten en mogelijke vooroordelen in de output. Leg keuzes vast in een “methodekaart” die je bij de video linkt. Dat helpt ook bij vragen van het publiek en bij toezichtscontroles.
Hanteer AVG-principes zoals dataminimalisatie en bewaarbeperking. Gebruik geen datasets met onduidelijke herkomst. Als je likeness of stem van echte personen inzet, regel toestemming en vergoeding. Overweeg tenslotte een menselijke host naast een avatar, zodat kinderen altijd een echt aanspreekpunt houden.
Vervolg onduidelijk bij Kids Top 20
Het is op het moment van schrijven onduidelijk welke software of dataset is gebruikt voor de virtuele presentatrice. Ook is niet bekend of toekomstige video’s een duidelijk AI-label krijgen. De producent heeft publiek nog geen technische details gedeeld. Daardoor blijven vragen over transparantie en naleving van de Europese AI-verordening openstaan.
De discussie rond de video laat zien dat de lat voor kindercontent hoog ligt. Kleine keuzes in labeling en uitleg kunnen veel kritiek voorkomen. Voor makers is dit een signaal om AI-gebruik meteen helder te markeren. Zo blijft er ruimte om te experimenteren, zonder het publiek te verliezen.
Voor Nederlandse omroepen, streamers en makers is de boodschap duidelijk. Houd rekening met de AI Act en de AVG, en pas die concreet toe. Zeker bij programma’s voor kinderen is die zorgplicht geen detail. Het bepaalt of innovatie wordt geaccepteerd of afgewezen.