Het Rathenau Instituut waarschuwt dat kunstmatige intelligentie onzorgvuldig wordt ingezet in de Nederlandse wetenschap. De denktank ziet risico’s voor onderzoeksintegriteit, privacy en auteursrecht. De snelle opkomst van tools als ChatGPT (OpenAI), Gemini (Google) en Copilot (Microsoft) verandert het werk van onderzoekers en studenten. Instellingen moeten daarom helder beleid maken dat past bij de AVG en de Europese AI‑verordening (AI Act).
Rathenau vraagt om regels
Het instituut roept universiteiten, hogescholen en umc’s op om duidelijke kaders te zetten voor het gebruik van AI in onderzoek en onderwijs. Die kaders gaan over wat wel en niet mag, hoe je AI‑gebruik meldt en hoe je data beschermt. Beleidsorganen als NWO en KNAW kunnen dit versterken door eisen te stellen in beurzen en beoordelingsprocessen. Zo ontstaat één lijn in Nederland en minder onzekerheid bij onderzoekers.
Rathenau vraagt ook om trainingen voor onderzoekers, promovendi en studenten. Veel gebruikers kennen de grenzen van deze systemen niet, zoals het risico op foutieve uitkomsten of verzonnen bronnen. Praktische scholing helpt om AI bewust en gecontroleerd toe te passen. Dat vermindert fouten en vergroot de kwaliteit van het werk.
Verder adviseert het instituut om veilige alternatieven beschikbaar te maken. Denk aan door de instelling beheerde chatbots of vertaaltools met Europese datalocatie en heldere contracten. Inkoop via gezamenlijke voorzieningen, zoals bij SURF, kan eisen borgen over versleuteling en hergebruik van data.
Risico’s voor onderzoeksintegriteit
Generatieve systemen kunnen hallucineren: ze geven ogenschijnlijk juiste antwoorden die feitelijk niet kloppen. In literatuurstudies leidt dit tot verzonnen citaties of verkeerde samenvattingen. Bij data-analyse kan een model patronen suggereren die niet bestaan. Zonder menselijke controle ondermijnt dit de betrouwbaarheid van publicaties.
Er is ook het gevaar van onbedoeld plagiaat en ghostwriting. Wanneer een algoritme paragrafen schrijft, is vaak onduidelijk waar de tekst vandaan komt. Dat kan strijdig zijn met integriteitsregels van universiteiten en tijdschriften. Transparantie over de bijdrage van AI is daarom essentieel.
Tot slot speelt vertrouwelijkheid. Onderzoekers delen soms ruwe data of conceptartikelen met online tools. Die gegevens kunnen buiten de EU worden verwerkt of als trainingsdata eindigen. Dat botst met geheimhouding bij peer review en met afspraken met deelnemers of partners.
Generatieve AI is software die op basis van voorbeelden nieuwe tekst, beeld, audio of code maakt. De uitkomst oogt vaak overtuigend, maar kan fouten bevatten die lastig te zien zijn.
Transparantie en bronvermelding nodig
Rathenau wil dat gebruikers altijd melden hoe zij AI hebben ingezet. Dat kan met een “AI‑verklaring” in een artikel, scriptie of beoordelingsrapport. Hierin staat welke tool is gebruikt, met welk doel en hoe de uitkomst is gecontroleerd. Zo blijft het werk reproduceerbaar en toetsbaar.
Steeds meer wetenschappelijke tijdschriften vragen om zo’n verklaring, al verschillen de regels op het moment van schrijven. Sommige uitgevers verbieden het genereren van originele passages; anderen staan het toe met duidelijke bronvermelding. Nederlandse instellingen kunnen dit harmoniseren door eigen richtlijnen te geven die aansluiten op open‑science‑principes.
Ook voor peer review is heldere rapportage nodig. Wie een review deels met een algoritme maakt, moet dat aangeven en vertrouwelijke tekst niet in externe systemen plakken. Inzet van interne, afgeschermde hulpmiddelen heeft hier de voorkeur.
AVG en AI‑verordening toepassen
De AVG verplicht tot dataminimalisatie, doelbinding en passende beveiliging. Onderzoekers mogen geen persoonsgegevens uploaden naar een AI‑dienst zonder rechtsgrond en verwerkersovereenkomst. Dat geldt ook voor schijnbaar anonieme data, die soms herleidbaar blijken. Versleuteling en opslag binnen de EU beperken risico’s.
De Europese AI‑verordening plaatst algemene AI‑modellen (GPAI) onder extra regels. Leveranciers moeten onder meer documentatie, veiligheidsmaatregelen en transparantie bieden. Instellingen die zulke systemen inzetten, moeten risico’s beoordelen en menselijk toezicht borgen. Bij toepassingen in hoogrisico‑domeinen, zoals medische besluitvorming, gelden zwaardere eisen.
Voor de wetenschap betekent dit: kies diensten met duidelijke herkomst, documentatie en support. Vraag bij inkoop om auditrapporten, EU‑dataverwerking en uitsluiting van hergebruik van onderzoeksdata voor training. Leg keuzes en risico’s vast in het datamanagementplan.
Wat werkt wel in de praktijk
Instellingen kunnen veilige “AI‑werkplekken” aanbieden met goedgekeurde tools en datasets. Denk aan een interne chatbot op basis van open‑modellen zoals Llama (Meta) of Mistral, draaiend in een afgeschermde omgeving. Zo blijft onderzoeksmateriaal binnen de organisatie en is logging mogelijk. Gebruikers krijgen één plek met heldere afspraken.
Maak daarnaast rode lijnen expliciet. Geen AI voor het genereren van data, beelden of grafieken die als echt worden gepresenteerd. Geen invoer van vertrouwelijke of nog niet gepubliceerde informatie in publieke tools. En altijd menselijke eindcontrole voor analyses, code en tekst.
Tot slot helpt structurele scholing. Korte modules over prompt‑ontwerp, foutdetectie en ethiek geven onderzoekers houvast. Combineer dit met voorbeelden uit Nederlandse vakgebieden, zoals klinisch onderzoek, recht en taalwetenschap. Zo wordt AI een hulpmiddel, geen risico.
Gevolgen voor Nederland en Europa
Heldere regels voorkomen dat Europese wetenschap afhankelijk wordt van een paar grote Amerikaanse platforms. Met publieke inkoop en open‑source‑opties kan Nederland eigen waarborgen inbouwen. Dat past bij de AI‑verordening en bij digitale soevereiniteit. Het creëert ook ruimte voor Europese aanbieders.
Financiers als NWO kunnen verantwoord gebruik stimuleren via beoordelingscriteria en projectvereisten. Denk aan verplichte AI‑verklaringen, dataveiligheidstoetsen en budget voor veilige infrastructuur. Universiteiten van Nederland (UNL) kan dit vertalen naar sectorbrede richtlijnen. Zo ontstaat een gelijk speelveld voor onderzoekers en studenten.
Rathenau’s boodschap is praktisch: benut de kansen, maar zet eerst de basis op orde. Werk aan beleid, veilige technologie en transparantie. Sluit aan op de AVG en de AI‑verordening, en test wat werkt in de praktijk. Dan blijft kwaliteit en vertrouwen in de wetenschap behouden.