Een 13-jarige leerling is van een middelbare school in Noord-Brabant weggestuurd na het maken van racistische AI-filmpjes over een lerares. De docente voelt zich diep geraakt door de beelden. De ouders van de jongen stapten deze week naar de rechter om een verplicht gesprek met de school af te dwingen. De zaak raakt direct aan misbruik van generatieve AI in het onderwijs en aan de gevolgen van de Europese AI-verordening voor scholen.
School koos voor verwijdering
De school greep in nadat AI-gegenereerde video’s met racistische inhoud werden gedeeld over een lerares. Het ging om bewerkte beelden waarin de docente werd weggezet met discriminerende stereotypes. De directie stuurde de leerling weg om de rust te herstellen en de veiligheid van personeel te waarborgen. De lerares geeft aan dat haar vertrouwen ernstig is geschaad.
De maatregel draait om sociale veiligheid en pesten, niet alleen om techniek. Scholen hebben de plicht een veilige leer- en werkomgeving te bieden. Als die onder druk staat, kunnen ze leerlingen tijdelijk of blijvend verwijderen. Dat gebeurt meestal na een onderzoek en hoor- en wederhoor met ouders en leerling.
Welke AI-app of dienst voor de video’s is gebruikt, is op het moment van schrijven niet bekendgemaakt. Dergelijke filmpjes worden vaak gemaakt met generatieve video-software, die beelden en stemmen kan nabootsen. Dat vergroot de impact op slachtoffers, omdat de video’s echt lijken. Het delen via sociale media maakt de schade groter en moeilijk terug te draaien.
Ouders eisen gesprek rechterlijk
De ouders willen dat de school met hen en hun zoon aan tafel gaat. Zij vinden de reactie van de school te zwaar en onvoldoende gemotiveerd. Daarom vroegen ze de rechter om het gesprek af te dwingen en de proportionaliteit van de maatregel te toetsen. Zij benadrukken het belang van herstel en begeleiding voor hun minderjarige kind.
Een rechter weegt in dit soort zaken de schoolveiligheid af tegen het belang van onderwijs voor de leerling. Ook kijkt de rechter of het interne protocol is gevolgd en of alternatieven zijn onderzocht. Denk aan schorsing, een gedragscontract of overplaatsing met begeleiding. Procedures verschillen per bestuur, maar zorgvuldige dossiervorming is steeds nodig.
Bemiddeling kan helpen om afspraken te maken over herstel, digitale hygiëne en grensoverschrijdend gedrag. Daarbij horen heldere consequenties bij herhaling en afspraken over online delen. Ook kan de school extra steun bieden aan de getroffen docente. Herstelrecht en educatie over online gedrag gaan dan hand in hand.
Misbruik generatieve video
Generatieve AI is software die zelf nieuwe tekst, beeld of video maakt op basis van een grote hoeveelheid voorbeelden. Daarmee kun je in minuten geloofwaardige deepfake-achtige filmpjes samenstellen. Het risico is dat mensen vals worden neergezet en dat discriminatie wordt versterkt. Voor docenten en leerlingen kan dat onveilig en schadelijk zijn.
Generatieve AI is software die op basis van voorbeelden automatisch nieuwe tekst, beeld of video maakt, zonder dat een mens elk detail aanstuurt.
Er zijn verschillende diensten die dit mogelijk maken, zoals Runway (video), Synthesia (avatarvideo’s) en CapCut met AI-functies (bewerking), of stemkloners zoals ElevenLabs. Deze namen zijn voorbeeldig; het is niet bekend welke tool in deze zaak is gebruikt. Zulke systemen verlagen de drempel om beledigende of racistische content te maken. De techniek is toegankelijk, goedkoop en lastig te detecteren.
Detectietools voor deepfakes werken wisselend en geven vaak vals-positieve of vals-negatieve uitkomsten. Dat maakt handhaving complex en benadrukt het belang van preventie en helder beleid. Ook platformen als TikTok, Instagram en Snapchat hebben meldknoppen, maar verwijdering is niet altijd snel. Verspreiding kan dus doorgaan, zelfs na een schoolmaatregel.
AI-verordening raakt ook scholen
De Europese AI-verordening (AI Act) introduceert regels voor aanbieders en ontwikkelaars van AI, met extra plichten voor zogeheten algemene-doeleinden AI. Scholen zijn meestal gebruikers, geen aanbieders, maar krijgen wel te maken met transparantie-eisen en documentatie van risico’s in het gebruik. Zeker bij gevoelige groepen, zoals minderjarigen, adviseert de wetgeving tot zorgvuldige toepassing en toezicht. Dat vraagt om beleid, scholing en duidelijke rollen.
Naast de AI Act geldt de AVG (privacywet) onverminderd. Als de video’s herkenbare beelden of de stem van de docente bevatten, gaat het om persoonsgegevens. Zonder grondslag is het verwerken en verspreiden daarvan onrechtmatig, zeker bij kwetsende of discriminerende inhoud. De Autoriteit Persoonsgegevens kan handhaven, en slachtoffers kunnen civiel verhaal halen voor schade.
Discriminatie is bovendien verboden onder het Nederlandse strafrecht en de Algemene wet gelijke behandeling. Scholen hebben een wettelijke zorgplicht voor sociale veiligheid. Besturen moeten dus beleid hebben voor online gedrag, meldprocedures en sancties. Dat beleid hoort ook generatieve AI en deepfakes expliciet te dekken.
Beleid en praktijk lopen achter
Veel scholen werken al met sociale-mediaprotocollen, maar AI-specifieke regels ontbreken vaak nog. Handreikingen van Kennisnet, SIVON en SURF adviseren om AI-gebruik in het leerlingenstatuut op te nemen. Denk aan definities, verboden gebruik, sancties en begeleiding bij herstel. Ook training voor personeel hoort daarbij, inclusief herkenning van deepfakes.
Technische blokkades alleen zijn niet genoeg, omdat apps en modellen via privételefoons en nieuwe sites beschikbaar blijven. Bewustwording en mediawijsheid zijn daarom cruciaal. Heldere afspraken over filmen, delen en bewerken van beelden op school helpen misbruik te voorkomen. Snelle meldroutes beperken schade als het misgaat.
Ook is samenwerking met ouders en jeugdhulp belangrijk, zeker bij minderjarigen. Herstelgesprekken en duidelijke grenzen bieden perspectief. Tegelijk moet er zorg zijn voor het slachtoffer, in dit geval de docente. Toezicht en nazorg voorkomen verdere schade en herhaling.
Stappen voor scholen nu
Werk het sociale-mediaprotocol bij met een AI-paragraaf en leg dit vast in het leerlingenstatuut. Benoem generatieve AI, deepfakes, verboden gedragingen en sancties. Koppel dit aan lessen digitale geletterdheid en burgerschap. Zorg dat iedere docent weet hoe te handelen bij incidenten.
Check de AVG-basis: verwerkingsregister op orde, Functionaris Gegevensbescherming (FG) betrokken en heldere meldprocedures. Instrueer personeel om snel bewijs veilig te stellen en geen onnodige kopieën te maken (dataminimalisatie). Leg afspraken vast over verwijderen op platformen en het informeren van betrokkenen. Monitor en evalueer elk incident.
Maak tot slot afspraken met ouders en leerlingen over het gebruik van apparaten en apps op school. Overweeg gedragscontracten bij terugkeer na incidenten. Gebruik beschikbare handreikingen van Kennisnet en SURF voor AI in het onderwijs. Zo groeit verantwoord gebruik van algoritmen mee met de klaspraktijk, binnen de kaders van de AI Act en AVG.