De Australische overheid heeft geld teruggekregen voor een duur adviesrapport dat vol fouten zat. Het rapport was door een consultancy gemaakt met hulp van kunstmatige intelligentie. Bij controle bleken delen onnauwkeurig of zelfs verzonnen. De zaak zet druk op grote adviesbureaus die AI inzetten zonder duidelijke kwaliteitsbewaking.
Overheid krijgt geld terug
Na klachten over de kwaliteit vroeg de opdrachtgever om compensatie. De leverancier ging akkoord en betaalde geld terug. Dat is opvallend, omdat consultancy meestal werkt met vaste tarieven en ruime disclaimers. Hier telde de inhoud, niet de merknaam.
De kern: een duur rapport moet kloppen. Overheden gebruiken zulke stukken voor beleid en aanbestedingen. Een fout kan miljoenen kosten of beleid vertragen. Terugbetaling is dan niet alleen symbolisch, maar ook een signaal naar de markt.
Voor Europese ministeries en gemeenten is dit herkenbaar. Ook hier groeit de inzet van algoritmen bij onderzoek en rapportage. Als AI meeschrijft, hoort daar aantoonbare controle bij. Anders is het product niet te vertrouwen.
AI-rapport bevatte verzonnen feiten
Generatieve technologie kan teksten snel produceren. Maar de modellen weten niet wat waar is. Ze voorspellen woorden op basis van eerdere voorbeelden. Daardoor sluipen er verzinsels of verouderde claims in.
In advieswerk is dat extra riskant. Een niet-bestaande bron of een verkeerde definitie kan het hele verhaal onderuit halen. Zonder bronvermelding, methodestappen en menselijk redigeren gaat het mis. Tempo wint dan van betrouwbaarheid.
AI-hallucinatie betekent dat een systeem overtuigend schrijft, maar informatie verzint of bronnen verzint.
Wie AI gebruikt, moet daarom sporen achterlaten. Denk aan een lijst met gecontroleerde bronnen, datumstempels, en een log van prompts. Dat maakt controle mogelijk en versnelt correcties.
Europa eist transparantie bij AI
De Europese AI-verordening komt gefaseerd in werking. Die legt nadruk op transparantie, documentatie en risicobeheersing. Ook als een toepassing niet “hoog-risico” is, geldt vaak de plicht om AI-gebruik te melden. Zeker bij publieke diensten.
Voor adviesrapporten betekent dit duidelijke etikettering. Wat is door mensen geschreven, wat door datamodellen, en wie controleerde wat? Inkoopteams kunnen dit eisen in hun bestek. Zo voorkom je verrassingen achteraf.
In Nederland bestaat al een algoritmekader voor de rijksoverheid. Het vraagt om uitlegbaarheid, dataminimalisatie en toezicht. Het ligt voor de hand om die eisen door te trekken naar extern onderzoek en consultancy.
Consultants onder strengere aandacht
Wereldwijd staan grote advieshuizen onder een vergrootglas. Overheden willen minder afhankelijk zijn en beter kunnen controleren. AI-gebruik zet die trend kracht bij, omdat fouten sneller en massaler kunnen ontstaan.
De les is helder: reputatie beschermt niet tegen slechte methodes. Alleen aantoonbare kwaliteit telt. Wie AI inzet, moet daar open over zijn en het resultaat laten toetsen. Desnoods door een tweede, onafhankelijke partij.
Voor de Europese markt ontstaat zo een nieuw normaal. Minder glans, meer bewijs. En contracten met harde meetpunten, in plaats van vage beloften.
Contracten met harde kwaliteitsnormen
Publieke opdrachtgevers kunnen simpele spelregels hanteren. Zet in het contract dat AI-gebruik gemeld moet worden. Vraag om bronlijsten, versiebeheer en een menselijke eindredactie. Leg vast dat onjuiste of verzonnen inhoud wordt hersteld op kosten van de leverancier.
Ook nuttig zijn auditrechten en steekproeven. Laat een deel van de analyses reproduceerbaar aanleveren. Zo test je of de conclusies standhouden. Bonussen en boetes kunnen dit verder afdwingen.
Voor privacy en auteursrecht is extra zorg nodig. Modellen mogen geen geheime of licentiegebonden data “lekken”. Leveranciers moeten daarom de herkomst van trainingsdata verklaren en passende licenties tonen.
Lessen voor Nederlandse overheid
Ministeries, provincies en gemeenten kopen veel onderzoek in. Vraag daarom expliciet naar de rol van generatieve technologie in elk rapport. Laat leveranciers vooraf hun kwaliteitsplan tonen. En schrijf een heldere exit- en herstelclausule op.
Gebruik bestaande Europese en Nederlandse richtlijnen als basis. Koppel ze aan concrete checklists voor teksten, data en bronnen. Maak één verantwoordelijke ambtenaar eigenaar van de kwaliteitscontrole. Dat verkleint de kans op “AI-onzin”.
De Australische terugbetaling is een wake-upcall. Snelle tools zijn handig, maar controle blijft mensenwerk. Met duidelijke eisen en openheid kan AI wél waarde leveren. Zonder die basis groeit vooral het risico.
