AI-tools als ChatGPT, Gemini en Copilot geven vaak precies antwoord op de vraag die je stelt. Dat lijkt handig, maar het kan snel misgaan als de vraag scheef of onvolledig is. In Nederland en elders in Europa groeit de zorg daarover nu deze systemen het onderwijs, de overheid en de media binnenkomen. Dit speelt deze maand extra, omdat de Europese AI-verordening ook gevolgen heeft voor hoe organisaties zulke systemen gebruiken.
ChatGPT volgt je vraag letterlijk
Taalmodellen zoals OpenAIās ChatGPT (GPT-4o), Google Gemini en Microsoft Copilot zijn getraind om de āvolgende woordenā te voorspellen. Ze controleren niet automatisch of uw vraag klopt of volledig is. Een vraag met een fout uitgangspunt levert dus vaak een fout, maar zelfverzekerd antwoord op. Daardoor lijken systemen slim, terwijl ze in feite vooral uw opdracht volgen.
Dit werkt prima bij eenvoudige taken, zoals samenvatten of herschrijven. Het wordt riskant bij feitelijke claims, onderzoeksvragen of beleidsteksten. Het model bouwt dan door op uw aannames, ook als die niet kloppen. Zo versterkt het systeem onbedoeld uw bias, de neiging om vooral te zoeken naar bevestiging.
Voor lezers en studenten voelt dat soms als āautoriteitā. De stijl is vloeiend, de toon is zeker. Maar vorm is geen bewijs. Zonder duidelijke vraag, bronvermelding en controle blijft het antwoord een inschatting van een algoritme.
Foute vraag, fout antwoord
De kwaliteit van de prompt, de opdrachtregel die u schrijft, bepaalt de uitkomst. Een goede prompt maakt de taak scherp, stelt eisen aan bronnen en vraagt om onzekerheden of tegenvoorbeelden. Een slechte prompt dwingt het systeem een richting in en vergroot de kans op fouten. Dit heet in de praktijk vaak āgarbage in, garbage outā.
Zelfs met een nette prompt kunnen modellen hallucineren: overtuigend klinkende onjuistheden verzinnen. Dat gebeurt vooral buiten hun trainingskennis of bij specifieke feitelijke details. Vraag daarom altijd om citaten met links, of laat het systeem uitleggen hoe het tot een stap kwam. Controleer daarna zelf steekproefsgewijs de kernpunten.
āStel betere vragen, krijg betere antwoorden.ā Het klinkt simpel, maar bij AI is dit het verschil tussen bruikbaar en misleidend.
Slimme formats helpen. Denk aan: āControleer eerst of mijn vraag logisch is. Benoem aannames. Stel drie verduidelijkende vragen. Geef daarna pas het antwoord, met twee bronnen.ā Zo dwingt u het model een pas op de plaats te maken. Het vermindert fouten, al lost het ze niet volledig op.
Europese AI-verordening stuurt gebruik
De Europese AI-verordening (AI Act) legt nieuwe plichten op aan aanbieders en gebruikers van AI in de EU. Chatbots vallen meestal in de categorie ābeperkt risicoā, met transparantie-eisen voor gebruikers. Generieke modellen (GPAI), zoals GPT-4o en Gemini, krijgen extra verplichtingen rond documentatie en risicobeperking. Dit gaat gefaseerd gelden, op het moment van schrijven nog in uitrol.
In het onderwijs of bij de overheid kunnen sommige toepassingen als āhoog risicoā tellen, bijvoorbeeld bij automatische beoordeling of selectie. Dan zijn er strengere eisen, zoals risicobeheer, kwaliteitsdata, logging en menselijk toezicht. Organisaties moeten bovendien de AVG naleven, inclusief dataminimalisatie en beveiliging van persoonsgegevens. Een Data Protection Impact Assessment (DPIA) kan verplicht zijn.
Voor Nederlandse overheden en instellingen betekent dit praktische stappen. Informeer burgers, studenten en medewerkers dat ze met een AI-systeem praten. Beperk de invoer van persoonsgegevens of gevoelige informatie. Leg beslissingen vast en houd zicht op fouten en verbeteringen. Zo worden āEuropese AI-verordening gevolgen overheidā concreet in de dagelijkse praktijk.
Onderwijs vraagt om richtlijnen
Nederlandse scholen, hogescholen en universiteiten scherpen hun AI-richtlijnen aan. Docenten willen duidelijkheid: wanneer mag een student een model gebruiken, en hoe rapporteer je dat? Steeds vaker moeten studenten prompts en tussenstappen inleveren. Zo is zichtbaar wat het systeem deed en wat de student zelf bijdroeg.
Detectie van AI-teksten blijft onbetrouwbaar. Tools slaan soms ten onrechte aan en geven geen toetsbare onderbouwing. Daarom verschuift de nadruk naar proces en transparantie. Laat zien hoe je hebt gewerkt, welke bronnen je hebt gebruikt en waar je zelf controle deed.
Voor toetsen zoeken opleidingen naar heldere scheidslijnen. AI kan helpen bij brainstormen of structureren, maar niet bij het produceren van eindproducten zonder vermelding. Bij beoordelingssystemen die modellen gebruiken, is menselijk toezicht verplicht en moet de onderbouwing controleerbaar zijn.
Praktische stappen voor organisaties
Begin met een duidelijk AI-beleid. Baken taken af waarvoor AI wel en niet is toegestaan. Verbied het plakken van persoonsgegevens in publieke chatbots. Kies waar nodig zakelijke versies, zoals ChatGPT Enterprise, Copilot voor Microsoft 365 of Gemini voor Workspace, met een verwerkersovereenkomst en EU-dataverwerking.
Ontwerp veilige werkstromen. Gebruik retrieval-augmented generation (RAG): laat het model antwoorden op basis van uw eigen, gecontroleerde documenten. Vraag altijd om bronverwijzingen en onzekerheden. Log prompts en reacties voor kwaliteitscontrole en training.
Leer medewerkers betere prompts schrijven. Vraag eerst om kritische vragen, daarna om het antwoord. Laat het model verschillende scenarioās, tegenargumenten en risicoās schetsen. En plan altijd een menselijke check, zeker bij beleid, juridische teksten of communicatie met burgers.
Nog veel beperkingen zichtbaar
Modellen blijven gevoelig voor framing: hoe u de vraag stelt, zo rolt het antwoord. Ze missen echte wereldkennis en redeneren niet zoals mensen. Daardoor kunnen foutjes in logica of cijfers onopgemerkt blijven. Dit maakt de systemen minder geschikt voor beslissingen met hoge inzet.
Ook brongebruik is een zwak punt. Zonder koppeling aan betrouwbare documenten of databronnen verzint een model soms auteurs, titels of cijfers. Bedrijfs- en overheidsomgevingen hebben daarom baat bij gecontroleerde kennisbanken. Combineer dat met duidelijke disclaimers naar eindgebruikers.
De les is nuchter: AI is nuttig als assistent, niet als autoriteit. Zet het in voor concepten, samenvattingen en controles, maar borg bronnen en eindverantwoordelijkheid bij mensen. Zo worden de belofte en de grenzen van algoritmen helder voor iedereen.