Bij diploma-uitreikingen in de Verenigde Staten mondde deze lente het feest uit in protest tegen kunstmatige intelligentie. Studenten voerden actie tegen het gebruik van generatieve AI door bedrijven als OpenAI, Google en Microsoft. Zij vrezen oneerlijke beoordeling, banenverlies en dataverzameling zonder zeggenschap. De discussie raakt ook Europa, waar de AVG en de nieuwe AI-verordening gevolgen hebben voor onderwijs en overheid.
Studenten protesteren bij uitreikingen
Op meerdere campussen kozen afgestudeerden het podium om hun zorgen te uiten. Zij keerden zich tegen het snelle gebruik van systemen als ChatGPT (OpenAI), Gemini (Google) en Copilot (Microsoft) in lessen en beleid. De kern van de kritiek: te weinig transparantie en te veel druk om mee te gaan.
Studenten noemen vooral twee risico’s. Ten eerste de kwaliteit en eerlijkheid van beoordeling wanneer AI helpt bij nakijken of surveilleren. Ten tweede de verwerking van scripties, essays en video’s als trainingsdata, zonder duidelijke toestemming of opt-out.
De acties richten zich niet alleen tegen technologie, maar tegen de manier waarop universiteiten met Big Tech samenwerken. Contracten blijven vaak vertrouwelijk, en inspraak van studenten en docenten is beperkt. Dat voedt het wantrouwen in het hoger onderwijs.
Jongeren vrezen verlies van grip
Jonge afgestudeerden stappen een arbeidsmarkt op waar AI taken van starters kan overnemen. Denk aan eerste versies van teksten, code of beeldbewerking met modellen als Claude (Anthropic) of Gemini. Die verschuiving drukt op inkomens en doorgroeikansen aan het begin van een carrière.
Daarnaast ervaren studenten de gebreken van huidige datamodellen van dichtbij. Hallucinaties, vooroordelen en onduidelijke bronnen zijn nog steeds een probleem. Dat maakt het extra scherp als dezelfde systemen meewegen in opleiding en selectie.
De boodschap van de protesten is daarom tweedelig. Behoud de menselijke maat in toetsing en begeleiding. En zorg dat jongeren zeggenschap hebben over hun data en over wanneer algoritmen worden ingezet.
Universiteiten laveren tussen Big Tech
Universiteiten profiteren van kortingen en integraties van grote platformen. Microsoft biedt bijvoorbeeld toegang tot Azure OpenAI, Google tot Vertex AI en Workspace-functies, en OpenAI tot onderwijslicenties. Die pakketten beloven productiviteit, maar brengen ook extra verantwoordelijkheid mee.
Bestuurders starten commissies en handreikingen, maar beleid is vaak versnipperd. Docenten verschillen in regels voor het gebruik van ChatGPT of Copilot in opdrachten. Handhaving is lastig, want detectietools zijn onbetrouwbaar en botsen met privacy.
Transparantie over inkoop is intussen cruciaal. Instellingen hebben een verwerkersovereenkomst en een data protection impact assessment (DPIA) nodig onder de AVG. Zonder harde waarborgen over dataminimalisatie, versleuteling en EU‑dataopslag blijft het risico voor studenten hoog.
Europese regels sturen het onderwijs
De Europese AI-verordening (AI Act) legt, op het moment van schrijven, plichten op aan algemene AI-systemen zoals GPT‑4, Gemini 1.5 en Claude 3. Leveranciers moeten samenvattingen van trainingsdata, veiligheidsmaatregelen en herleidbaarheid bieden. Dat helpt inkopers in onderwijs en overheid om eisen te stellen.
AI voor selectie en beoordeling in het onderwijs valt in de AI Act onder hoog risico. Dan zijn risicobeheer, menselijke controle, kwaliteitsdata en documentatie verplicht. Voor surveillancesoftware en geautomatiseerde proctoring gelden daarom zwaardere waarborgen.
Hoog risico in de AI-verordening: systemen die toegang tot onderwijs bepalen of prestaties van studenten beoordelen moeten streng worden getoetst en zijn altijd onder menselijke verantwoordelijkheid.
De AVG blijft daarnaast leidend voor alle persoonsgegevens. Instellingen moeten dataminimalisatie toepassen, bewaartermijnen beperken en helder informeren. Ook het gebruik van het EU‑VS Data Privacy Framework vraagt zorg: publieke instellingen beoordelen vaak extra of doorgifte echt noodzakelijk is.
Wat dit betekent voor Nederland
Nederlandse universiteiten en hogescholen werken al aan kaders voor generatieve AI in de klas. Richtlijnen van bijvoorbeeld SURF en Universiteiten van Nederland benadrukken transparantie en didactische onderbouwing. Toch blijft de praktijk weerbarstig bij toetsing en plagiaat.
De Amerikaanse protesten leggen een thema bloot dat hier ook speelt: zeggenschap. Studentenraden zullen vaker vragen om inspraak bij AI-inkoop, opt-outs voor training op studentwerk en duidelijke modelkaarten met risico’s. Dat sluit aan bij de plicht tot betrokkenheid van belanghebbenden in de AI Act.
Openbare instellingen kunnen bovendien een algoritmeregister bijhouden, zoals enkele gemeenten doen. Een universiteitsbreed overzicht van gebruikte systemen, doelen en risico’s verhoogt vertrouwen. Het biedt ook docenten en studenten een startpunt voor feedback en verbetering.
Leveranciers moeten meer waarborgen
Techbedrijven kunnen spanning wegnemen met harde garanties. Denk aan: geen training op klantdata, EU‑dataopslag, korte logbewaring en heldere off‑switches per cursus of tool. Zonder die voorwaarden lukt AVG‑conform werken nauwelijks.
Ook technische ondersteuning is nodig voor veilig gebruik. Watermerken en herkomstlabels voor beeld en audio helpen misbruik beperken, al zijn ze niet waterdicht voor tekst. Gebruikerswaarschuwingen over hallucinaties en broncontrole horen standaard te zijn.
Tot slot is onafhankelijke toetsing belangrijk. Externe audits, red-teaming en openbaar gemaakte risicorapporten maken claims controleerbaar. Dat past bij de transparantie-eisen voor algemene AI in de AI-verordening en bij publieke verwachtingen in het onderwijs.