Wetenschappelijke redacties en universiteiten in Nederland en Europa zien een groei van spookbronnen in artikelen. Het gaat om verzonnen citaties die ontstaan door het gebruik van AI-schrijfhulpen zoals ChatGPT (OpenAI), Gemini (Google) en Copilot (Microsoft). De meldingen nemen in 2024 toe, vooral bij literatuurreviews, scripties en subsidieaanvragen. Uitgevers scherpen hun controles aan omdat betrouwbaarheid en integriteit onder druk staan.
AI-modellen verzinnen bronnen
Generatieve AI, zoals grote taalmodellen die tekst voorspellen op basis van patronen, kan overtuigende maar niet-bestaande referenties maken. Systemen als GPT-4 en Gemini 1.5 formuleren keurige titels, tijdschriftnamen en zelfs schijnbaar geldige DOI’s. Voor een lezer lijken die echt, tot bij controle blijkt dat het artikel of nummer ontbreekt. Dat levert tijdverlies op en kan verkeerde conclusies voeden.
De oorzaak is technisch en simpel: het model voorspelt het volgende woord, geen feitencontrole. Omdat veel trainingsdata wetenschappelijke stijl bevat, rolt er een plausibele bronvermelding uit. Maar plausibel is niet hetzelfde als waar. Zonder extra controle gaat het mis.
Onderzoekers gebruiken AI vaak om Engels te polijsten of een eerste opzet te maken. Die druk is groot bij strakke deadlines en hoge publicatiedruk. Ook studenten grijpen naar algoritmen voor samenvattingen of bronnenlijstjes. Daar ontstaan de meeste spookbronnen: in de voetnoten, niet in de kerntekst.
Een spookbron is een bronvermelding die er echt uitziet, maar in werkelijkheid niet bestaat of niet klopt.
Redacties voeren checks op
Uitgevers en tijdschriften voegen extra referentiechecks toe in hun workflow. Redacties laten DOI’s, PMID’s en tijdschriftnummers automatisch valideren via Crossref en PubMed. Bij twijfel vragen ze om de pdf of het preprint. Kleine tijdschriften leunen meer op peer reviewers en bibliotheken, en dat kost tijd.
Grote uitgevers zoals Elsevier en Springer Nature vragen auteurs om AI-gebruik te melden, op het moment van schrijven in lijn met richtlijnen van de Committee on Publication Ethics (COPE). Die melding vervangt geen broncontrole. Steeds vaker vragen redacties ook een dataverantwoording en een materials- en methods-checklist. Zo moet duidelijk zijn welke tools zijn gebruikt en waar bronnen te vinden zijn.
Voor subsidieaanvragen gebeurt iets soortgelijks. Financiers vragen naar de herkomst van literatuur en naar persistente identifiers zoals DOI en ORCID. Sommige systemen blokkeren inzendingen met ongeldige verwijzingen. Dat is nodig, want fouten glippen anders door naar beleid en praktijk.
Risico’s voor wetenschap en beleid
Spookbronnen tasten de controleerbaarheid van onderzoek aan. Ze kunnen meta-analyses vertekenen wanneer een niet-bestaande studie wordt meegewogen. Reputatieschade volgt snel, ook voor co-auteurs die niets verkeerd deden. Herstel kost tijd en wekt wantrouwen bij het publiek.
In domeinen zoals zorg, klimaat en onderwijs is de schade groter. Beleidsmakers baseren keuzes op systematische reviews en literatuurstudies. Als daarin verzonnen bronnen staan, kan dat leiden tot verkeerde beslissingen of verspilling van publiek geld. Voor EU-instellingen en Nederlandse ministeries is dat een reëel risico.
Ook in het hoger onderwijs speelt dit. Scripties met foutieve citaties halen de kwaliteit omlaag en belasten examencommissies. Opleidingen moeten studenten dus expliciet trainen in betrouwbare zoekstrategieën en bronverificatie.
Nederland scherpt regels aan
Nederlandse universiteiten werken aan duidelijke kaders voor generatieve AI in onderwijs en onderzoek. Universiteiten van Nederland (UNL) en SURF hebben handreikingen gepubliceerd voor verantwoord gebruik. Ze adviseren om AI-gebruik te declareren en alle referenties handmatig te controleren. De KNAW en NWO geven vergelijkbare signalen over wetenschappelijke integriteit.
Veel instellingen passen examenreglementen aan, op het moment van schrijven met nadruk op transparantie en bronvermelding. Detectietools zoals Turnitin of Ouriginal kunnen AI-teksten soms herkennen, maar zijn onbetrouwbaar voor individuele zinnen. Voor referenties helpen ze nauwelijks. Bibliotheken bieden daarom training in referentiebeheer met software als Zotero of EndNote.
Ook onderzoeksdatamanagers en integriteitscommissies krijgen een rol. Zij leggen vast welke tools zijn gebruikt, en hoe bronnen zijn geverifieerd. Het doel is niet verbieden, maar documenteren en controleren. Zo blijft gebruik van AI traceerbaar.
Praktische stappen voor auteurs
Gebruik AI niet om bronnen te laten verzinnen. Laat het model hooguit zoektermen, conceptschema’s of taalsuggesties geven. Zoek en verifieer bronnen daarna zelf in databases zoals Crossref, PubMed, Scopus of DOAJ. Voeg bij elke referentie een DOI toe en bewaar de pdf.
Controleer elk element van een citatie: auteur, titel, jaargang, nummer, pagina’s, uitgever. Test DOI’s via doi.org en bekijk of de landingspagina klopt. Gebruik scite of vergelijkbare diensten om te zien hoe vaak en in welke context een studie is geciteerd. Vraag collega’s of een bibliothecaris om een second opinion bij twijfel.
Werk met referentiebeheerders zoals Zotero, EndNote of Mendeley om fouten te beperken. Importeer bij voorkeur vanuit de bron via DOI of PubMed-ID, niet via vrije tekst. Noteer in de methodesectie hoe je literatuur hebt gezocht, inclusief databanken en zoekstrings. Vermeld altijd als een AI-systeem is ingezet en waarvoor.
AI-verordening vraagt transparantie
De Europese AI-verordening (AI Act) is aangenomen en treedt gefaseerd in werking tussen 2025 en 2027, op het moment van schrijven. Generatieve systemen vallen onder regels voor general-purpose AI. Ontwikkelaars moeten technische documentatie, risicobeperking en transparantie waarborgen. Watermerken of andere herkomstsignalen worden aangemoedigd om misleiding te beperken.
Voor onderzoek en onderwijs betekent dit: duidelijke informatie over inzet van AI en goede documentatie van hulpmiddelen. Tijdschriften kunnen disclosure-verklaringen en broncontroles verplicht stellen. Universiteiten moeten processen inrichten die aansluiten bij de AI Act en bij bestaande integriteitscodes. Dat maakt audits en verantwoording makkelijker.
De AI Act lost spookbronnen niet direct op, maar zet wel een norm. Transparantie wordt standaard, en dat dwingt tot betere werkafspraken. In combinatie met redactionele checks en scholing kan het aantal spookbronnen omlaag. Daarmee blijft de wetenschappelijke keten betrouwbaar, van manuscript tot beleid.