Een middelbare scholier uit Noord-Brabant werd deze week van school gestuurd nadat hij AI-filmpjes had gemaakt. Een voorzieningenrechter greep in en zette de verwijderingsbeslissing voorlopig stop. De zaak raakt het debat over deepfakes, privacy en de Europese AI-verordening (AI Act) en de gevolgen voor het onderwijs. De gebruikte app of software is niet bekendgemaakt.
Rechter tempert schoolmaatregel
De rechter oordeelde dat de school te snel naar de zwaarste maatregel greep. Verwijdering uit de school is ingrijpend en moet goed onderbouwd en proportioneel zijn. Daarom is het besluit voorlopig geschorst, in afwachting van een zorgvuldige afweging. De leerling behoudt zo voorlopig recht op onderwijs.
In het oordeel weegt de rechter het belang van orde en veiligheid af tegen het recht op scholing. Ook telt mee of er lichtere maatregelen mogelijk zijn, zoals een schorsing of begeleiding. De school moet onderbouwen waarom minder ver gaat niet volstaat. Dat hoort bij behoorlijk bestuur in het onderwijs.
De uitspraak laat zien dat discipline rond digitale incidenten maatwerk blijft. Nieuwe technologie vraagt om duidelijke regels, maar ook om redelijke stappen. Escalatie zonder stappenplan werkt juridisch en praktisch tegen. Scholen doen er goed aan dit vooraf te regelen.
Wat bekend is over video’s
De inhoud van de AI-filmpjes is niet openbaar gemaakt. De school stelde wel dat de video’s schadelijk waren voor het schoolklimaat. Het zou gaan om gemanipuleerde beelden die verwarring of reputatieschade kunnen geven. Of er sprake is van strafbare feiten, is niet duidelijk.
Deepfakes zijn door kunstmatige intelligentie gemaakte of bewerkte beelden of video’s. Zo’n systeem kan iemand iets laten zeggen of doen dat nooit is gebeurd. De techniek is laagdrempelig en vaak gratis beschikbaar. Dat maakt verspreiding onder jongeren extra snel.
Zonder context of label kunnen deze video’s misleidend zijn. Dat kan leiden tot pesten of onveiligheid op school. Ook kunnen portretrechten en privacy worden geschonden. De juridische beoordeling hangt af van inhoud, bedoeling en verspreiding.
Een deepfake is een door AI gemaakt of bewerkt beeld of video die een echt persoon toont in een situatie die niet heeft plaatsgevonden.
AVG vraagt om zorgvuldigheid
Scholen verwerken persoonsgegevens van leerlingen en medewerkers onder de AVG. Beelden en stemmen zijn persoonsgegevens, soms zelfs biometrisch. Dat vraagt om duidelijke doelen, minimale opslag en goede beveiliging. De functionaris gegevensbescherming hoort hierbij betrokken te zijn.
Als een leerling zelf AI-inhoud maakt en verspreidt, valt dat juridisch niet zomaar onder de school als verwerkingsverantwoordelijke. Maar gebeurt dit met schoolmiddelen of op schoolplatforms, dan heeft het bestuur wel een zorgplicht. Denk aan moderatie, melding en herstel. Ook kan de school aangifte overwegen bij ernstige schade.
Heldere huisregels helpen om grenzen vooraf te markeren. Leg vast wat wel en niet mag met foto’s, video en AI. Benoem sancties stapsgewijs en zorg voor hoor en wederhoor. Dat maakt maatregelen beter verdedigbaar bij een rechter.
AI Act legt transparantie op
De Europese AI-verordening (AI Act) verplicht tot transparantie bij synthetische media, zoals deepfakes. Wie zulke inhoud publiceert, moet duidelijk maken dat die door AI is gemaakt. Deze plicht geldt op het moment van schrijven al in de EU. Doel is misleiding te voorkomen en gebruikers te waarschuwen.
Voor scholen betekent dit dat beleid over AI en mediagebruik ook labeling moet dekken. Denk aan verplichte aanduidingen in schoolopdrachten of projecten. Zonder label kunnen leerlingen en docenten verkeerd worden geïnformeerd. Dat vergroot de kans op schade en klachten.
Nationale toezichthouders gaan hierop letten in samenhang met bestaande privacyregels. In Nederland speelt de Autoriteit Persoonsgegevens een rol bij handhaving van de AVG. Samenwerking met onderwijsorganisaties ligt voor de hand. Zo kan naleving praktisch en uitvoerbaar blijven.
Onderwijs vraagt heldere regels
De zaak onderstreept dat scholen AI-gebruik niet kunnen negeren. Stel een actuele AI-richtlijn op, met voorbeelden, do’s en don’ts en sancties. Neem aandacht op voor deepfakes, auteursrecht en portretrecht. En leg vast hoe meldingen snel en veilig worden afgehandeld.
Mediawijsheid hoort standaard in het lesprogramma. Leg uit hoe AI werkt, wanneer iets synthetisch kan zijn en hoe je bronnen checkt. Zet detectietools alleen in als ondersteuning, met menselijk oordeel. Detectie is niet foutloos en kan tot valse beschuldigingen leiden.
Bij incidenten is proportionaliteit belangrijk. Begin met gesprek en herstel waar mogelijk. Schors pas als dat nodig is, en verwijder alleen als laatste redmiddel. Dat sluit aan bij onderwijsrecht en voorkomt juridische tegenslag.
Signaal aan scholen en ouders
De uitspraak is een waarschuwing om zorgvuldig te handelen bij digitale misstanden. Hard optreden kan nodig zijn, maar moet goed worden uitgelegd en gedocumenteerd. Anders grijpt de rechter in, zoals hier is gebeurd. Dat kost tijd, vertrouwen en geld.
Ouders en leerlingen hebben baat bij duidelijke verwachtingen. Weet wat wel en niet mag met AI en beeldmateriaal. Geef aan waar je terecht kunt met vragen of klachten. Zo blijft de drempel laag en escaleren zaken minder snel.
Technologie verandert sneller dan regels. Daarom is periodieke update van schoolbeleid nodig. Houd Europese en nationale richtlijnen bij en test procedures in de praktijk. Dat maakt het onderwijs veiliger en juridisch steviger.