Een satirische publicatie over ‘Van der Graaf et al.’ zet deze week de discussie over openheid rond ChatGPT en andere AI in de wetenschap op scherp in Nederland en Europa. Universiteiten en uitgevers vragen om duidelijke vermelding van algoritmen als OpenAI ChatGPT, Google Gemini en Microsoft Copilot. De Europese AI-verordening gevolgen overheid en onderwijs komen dichterbij, wat extra druk geeft op transparantie. Het doel is om misleiding te voorkomen en het vertrouwen in onderzoek te beschermen.
Satire legt pijnpunt bloot
De parodie maakt duidelijk waar het wringt: veel onderzoekers gebruiken taalmodellen, maar vermelden dat niet altijd. Het gaat om hulpmiddelen die teksten samenvatten, vertalen of herschrijven. Denk aan ChatGPT van OpenAI, Gemini van Google en Copilot van Microsoft. Door het te verpakken als humor wordt het probleem zichtbaar zonder namen te noemen.
Transparantie is nodig omdat deze systemen fouten kunnen maken. Een taalmodel is software die met grote hoeveelheden tekst is getraind en daarna nieuwe zinnen voorspelt. Dat levert soms verzinsels of verkeerde bronnen op. Zonder toelichting is onduidelijk welke stukken door een mens of een model zijn geschreven.
Definitie: Generatieve AI is software die op basis van trainingsdata nieuwe tekst, beeld of audio maakt, en dus niet alleen bestaande stukken kopieert.
De kernvraag is niet of gebruik mag, maar hoe je het verantwoord doet. Veel instellingen staan hulp bij redactie of vertaling toe als je dat eerlijk meldt. Analyses en conclusies moeten van de onderzoeker blijven. Zo blijft de lezer het werk controleren en vertrouwen.
Uitgevers eisen openheid
Grote uitgevers als Springer Nature en Elsevier vragen auteurs om AI-gebruik te beschrijven. Ook vakverenigingen zoals IEEE en ACM hebben richtlijnen. Op het moment van schrijven geldt vaak: AI-systemen zijn geen auteur en het gebruik moet in het artikel worden uitgelegd. Dat past bij adviezen van het internationale Comité voor Publicatie-ethiek (COPE).
Die uitleg bevat bij voorkeur het model, de aanbieder en de versie. Voorbeeld: “Tekstredactie met OpenAI ChatGPT, model GPT-4o, promptgeschiedenis beschikbaar op verzoek.” Ook is nuttig te melden welke onderdelen ermee zijn gedaan, zoals taalcorrectie of samenvattingen. Zo kan een redacteur of recensent de reikwijdte beoordelen.
Uitgevers wijzen op risico’s als hallucinaties en vertekening. Een model kan niet zelf bronnen checken of verantwoordelijkheid dragen. Wie AI gebruikt, moet alle inhoud nalopen en bronnen verifiëren. Dat vergroot de kwaliteit en beperkt claims van misleiding.
Universiteiten scherpen regels aan
Meerdere Nederlandse universiteiten vragen studenten en medewerkers om AI-gebruik te documenteren. Universities of the Netherlands (UNL) en SURF publiceren handreikingen voor onderwijs en onderzoek. Vaak mag je systemen zoals Copilot of Gemini gebruiken voor taalhulp, mits je vermeldt hoe. Voor toetsing gelden strengere grenzen om fraude te voorkomen.
Privacy speelt een grote rol onder de AVG. Instellingen moeten dataminimalisatie toepassen en gevoelige data niet onnodig uploaden naar externe modellen. Encryptie en afspraken over bewaartermijnen zijn belangrijk, zeker bij persoonsgegevens en patiëntdata. Interne alternatieven of lokaal gehoste modellen kunnen risico’s verkleinen.
Detectietools, zoals Turnitin met AI-herkenning, blijven omstreden. Ze geven vals positieve uitslagen en zijn niet sluitend. Universiteiten combineren daarom procesbewijs, zoals werklogboeken en versiegeschiedenis, met gesprekken. Dat is eerlijker voor studenten en onderzoekers en past beter bij de AVG.
Europese AI-verordening gevolgen overheid
De AI Act zet een risicokader neer dat in fases ingaat. Generatieve systemen, ook wel GPAI genoemd, krijgen transparantieplichten, zoals samenvattingen van trainingsdata en labeling van synthetische media. Overheden die hoog-risico-toepassingen inkopen, moeten extra testen en documenteren. Universiteiten en hogescholen als publieke instellingen krijgen hier in de praktijk ook mee te maken bij inkoop en gebruik.
Voor wetenschappelijk onderzoek biedt de AI Act ruimte, maar ze raakt wel de praktijk. Publicaties met synthetische afbeeldingen of audio moeten duidelijk gemarkeerd zijn. En als AI-modellen worden ingezet in publieke diensten, zoals selectie of toekenning van voorzieningen, gelden strengere eisen. Denk aan risicobeoordeling, menselijke toezicht en duidelijke uitleg aan burgers.
De AVG blijft daarnaast leidend voor data. Onderzoekers moeten een grondslag hebben, doelbinding respecteren en alleen noodzakelijke gegevens verwerken. Het delen van data met tools als ChatGPT of Gemini kan een doorgifte naar derde landen zijn. Instellingen moeten dit vooraf beoordelen en passende waarborgen regelen.
Zo meld je AI-gebruik
Begin met een korte paragraaf “Gebruik van AI” in je methodes of dankwoord. Noem het systeem, de aanbieder en de versie, bijvoorbeeld “Anthropic Claude 3.5 Sonnet via API”. Beschrijf waarvoor je het inzette, zoals grammaticale correcties of het opzetten van een literatuurlijst. Voeg toe hoe je de uitkomsten hebt gecontroleerd.
Documenteer je stappen in een beknopt logboek. Leg prompts vast, zonder privacygevoelige gegevens of bedrijfsgeheimen te delen. Schrijf op welke stukken je hebt aangepast na menselijke controle. Dit helpt redacties en reviewers en beschermt jezelf bij vragen achteraf.
Controleer ten slotte de voorwaarden en licenties van het platform. Sommige diensten bewaren invoer of gebruiken die voor training. Kies indien mogelijk voor instellingen die geen gegevens bewaren of voor een zakelijk account met verwerkersovereenkomst. Zo voldoe je beter aan de AVG en aan de verwachtingen van uitgevers.