Een middelbare school in Noord-Brabant belooft volledige inzet voor een leerling na de verspreiding van AI-gegenereerde filmpjes over een docent. De video’s circuleerden deze week op sociale media. De school onderzoekt wie de beelden heeft gemaakt en gedeeld. Het doel is de veiligheid te herstellen en verdere schade te voorkomen.
School belooft steun en onderzoek
De school zegt de betrokken leerling intensief te begeleiden en het contact met ouders te houden. Ook is er aandacht voor de docent die in de beelden voorkomt. Het zorgteam en een vertrouwenspersoon zijn ingeschakeld om de klassen te ondersteunen. Het bestuur coördineert de vervolgstappen en communicatie.
De directie heeft procedures geactiveerd voor online misbruik en beeldmateriaal. Er wordt bekeken welke schoolmaatregelen passen, variërend van gesprekken tot disciplinaire stappen. Ook bekijkt men of melding bij instanties nodig is. Het doel is snel rust en duidelijkheid in de school te brengen.
De filmpjes lijken met generatieve kunstmatige intelligentie te zijn gemaakt, zogeheten deepfakes. Dat zijn door algoritmen gemanipuleerde beelden die echt lijken. Op het moment van schrijven is niet bekend welke app of welk model is gebruikt. De herkomst wordt door de school en betrokkenen nagegaan.
De school wil verdere verspreiding stoppen en vraagt platforms om verwijdering. Hierbij wordt bewijs veiliggesteld voor mogelijk vervolgonderzoek. Leerlingen en ouders krijgen uitleg hoe zij schadelijke content kunnen melden. Vertrouwelijke gegevens worden beschermd, zoals vereist onder de AVG.
Deepfakes verstoren schoolvertrouwen
Deepfakes zijn nagemaakte of gemanipuleerde video’s die iemand iets laten doen of zeggen wat niet is gebeurd. Door laagdrempelige apps en modellen kan vrijwel iedereen dit maken. Het resultaat lijkt vaak overtuigend. Dat maakt controle en weerwoord lastig.
Een deepfake is een door algoritmen gemanipuleerde video die een echt persoon laat doen of zeggen wat niet is gebeurd.
In een schoolomgeving kan zo’n video het vertrouwen tussen leerlingen, ouders en docenten onder druk zetten. Reputatieschade ontstaat snel, zelfs als beelden later worden ontkracht. Voor minderjarigen kan de impact extra groot zijn. Het kost tijd om feiten te checken en geruchten te stoppen.
De snelheid van delen via WhatsApp, Instagram en TikTok vergroot het risico. Beelden verspreiden zich vaak sneller dan correcties. Daardoor blijft twijfel hangen. Dat vraagt om duidelijke protocollen en mediawijsheid in de klas.
Scholen ervaren dat ontkrachten alleen niet genoeg is. Klassen moeten ook leren hoe je beelden kritisch beoordeelt. Simpele checks, zoals herkomst en context, helpen al. Een helder schoolreglement over online gedrag geeft houvast.
Europese regels voor AI-deepfakes
De Europese AI-verordening (AI Act) stelt transparantie-eisen aan synthetische media. Aanbieders en gebruikers van AI-systemen moeten duidelijk maken wanneer content door AI is gemaakt, als dat niet vanzelf zichtbaar is. Ook moeten er technische maatregelen zijn om herkomst te achterhalen, zoals watermerken. Deze plichten zijn op het moment van schrijven van kracht voor deepfakes.
Daarnaast geldt de AVG voor persoonsgegevens in beeld en geluid. Het zonder grondslag gebruiken van iemands gezicht of stem kan onrechtmatig zijn. Bij minderjarigen is de bescherming extra streng. In Nederland spelen ook portretrecht en de strafbaarstellingen van smaad en laster een rol.
Voor scholen betekent dit dat verwerking van incidentdata sober en doelgericht moet zijn. Denk aan dataminimalisatie, versleutelde opslag en beperkte toegang. Het kan nodig zijn een functionaris gegevensbescherming te betrekken. Bij structurele risico’s is een DPIA (risicoanalyse) verstandig.
Als deepfakes werknemers raken, kan ook arbeidsrecht meespelen. Werkgevers hebben een zorgplicht voor een veilige werkplek, ook online. Duidelijke interne meldkanalen helpen daarbij. Documentatie van acties is belangrijk voor eventuele aangifte.
Platforms en meldplicht onder DSA
Onder de Europese Digital Services Act (DSA) moeten platforms een laagdrempelig meldpunt hebben. Na een valide melding moeten zij onrechtmatige content snel beoordelen. Grote platforms zoals TikTok en Instagram (Meta) hebben extra plichten. Zij moeten systemische risico’s, zoals deepfakes, actief beperken.
Scholen en slachtoffers kunnen gebruikmaken van notice-and-action en van escalatie bij gebrek aan reactie. In Nederland ondersteunt het EOKM (Expertisecentrum Online Kindermisbruik) bij ernstig beeldmisbruik. Ook bestaan er trusted flaggers die meldingen versneld doorzetten. Screenshots en links zijn nuttig als bewijs.
Techbedrijven bouwen aan herkomstlabels via de C2PA-standaard. Daarmee kan bij aanmaak informatie over de oorsprong in een bestand worden opgeslagen. Ook zetten sommige platforms AI-detectie in om synthetische media te markeren. Dit helpt bij moderatie en duiding.
Toch zijn er grenzen aan detectie en labels. Bewerking kan watermerken verwijderen of beschadigen. False positives en false negatives blijven voorkomen. Handmatige beoordeling en goed proces blijven dus nodig.
Praktische stappen voor scholen
Maak een duidelijk incidentprotocol voor synthetische media. Leg vast wie beslist, wie communiceert en hoe bewijs wordt veiliggesteld. Zorg voor één aanspreekpunt voor ouders en leerlingen. Houd het tijdpad kort en transparant.
Investeer in mediawijsheid in het curriculum. Laat leerlingen oefenen met het herkennen van AI-beelden en met broncontrole. Bespreek gevolgen van online gedrag en portretrecht. Neem afspraken op in het schoolreglement en in het ICT-beleid.
Gebruik technische hulpmiddelen waar passend, maar wees realistisch over grenzen. Detectietools kunnen signaleren, maar niet alles onthullen. Werk met whitelists voor schoolkanalen en beperk herpublicatie van beeldmateriaal. Versleutel gevoelige data en log toegang.
Zoek samenwerking met gemeente, politie en de Autoriteit Persoonsgegevens bij ernstige zaken. Stem af met de medezeggenschapsraad en het team. Evalueer na elk incident wat beter kan. Zo wordt beleid sterker bij elke stap.
Gevolgen voor onderwijspraktijk
De casus laat zien dat deepfakes geen ver-van-mijn-bedshow meer zijn in het onderwijs. De Europese AI-verordening en de AVG bieden kaders, maar vragen om praktische vertaling in scholen. Heldere afspraken, snelle verwijdering en goede begeleiding maken het verschil. Structurele aandacht voorkomt herhaling en verkleint de schade.
Voor leraren is vertrouwen essentieel om les te geven. Bescherming tegen synthetische manipulatie hoort daar nu bij. Besturen moeten daarom beleid, training en techniek combineren. Zo blijft het klaslokaal veilig, ook online.
Ook leveranciers van AI en sociale platforms dragen verantwoordelijkheid. Transparantie en betere moderatie zijn nodig om misbruik te beperken. Handhaving onder de DSA kan daarbij druk zetten. Samenwerking versnelt oplossingen.
De zaak in Brabant benadrukt tenslotte het belang van snelle, zorgvuldige actie. Slachtoffers hebben recht op steun en privacy. Daders moeten weten dat er grenzen zijn. En iedereen heeft baat bij duidelijke regels die worden nageleefd.