KPMG publiceerde deze week een positief rapport over kunstmatige intelligentie in Nederland. In het stuk bleken meerdere onjuistheden te staan die wijzen op fouten van een tekstgenerator. Het incident wakkert zorgen aan over betrouwbaarheid, transparantie en controle. Dit raakt ook aan de Europese AI-verordening en de gevolgen voor overheid en beleid.
KPMG-rapport blijkt onjuist
Het rapport schetste vooral kansen van AI voor bedrijven en publieke diensten. Lezers en experts vonden echter feitelijke onjuistheden en misleidende formuleringen. Dat ondermijnt de boodschap en roept vragen op over de werkwijze.
De fouten lijken op zogenoemde hallucinaties van generatieve systemen. Dat zijn verzinsels die overtuigend klinken, maar niet kloppen. Ook werden voorbeelden en verwijzingen betwist.
KPMG zegt het rapport te beoordelen en corrigeerbaar te maken op basis van kritiek, op het moment van schrijven. Interne kwaliteitsbewaking staat daarmee onder een vergrootglas. Het vertrouwen van klanten en publiek hangt af van snelle en transparante herstelstappen.
AI-teksten zonder controle riskant
Generatieve AI, zoals grote taalmodellen, kan teksten op basis van patroonherkenning schrijven. Zonder menselijke factcheck ontstaan makkelijk fouten, vooral bij cijfers, bronnen en namen. Een tweede lezer en broncontrole zijn daarom basisvoorwaarden.
Hallucinaties zijn foutieve of verzonnen feiten die een taalmodel met grote stelligheid kan presenteren als waar.
Heldere methodedelen helpen lezers om aannames en bronnen te beoordelen. Ontbreekt die toelichting, dan vergroot dat het risico op misleiding. Ook eenvoudige maatregelen zoals bronlinks en datumvermelding maken verschil.
Bedrijfsrapporten beïnvloeden investeringen en beleid. Een onjuist detail kan zo doorsijpelen in besluitvorming. Dat maakt kwaliteitsnormen bij AI-gebruik geen luxe, maar noodzaak.
Transparantie-eisen uit AI-verordening
De Europese AI-verordening (AI Act) legt aanbieders van generatieve modellen documentatie- en transparantieplichten op. Gebruikers in organisaties moeten zorgen voor menselijk toezicht, risicobeoordeling en duidelijke communicatie over beperkingen. Dit geldt ook wanneer AI wordt ingezet om analyses of beleidsteksten voor te bereiden.
Voor overheden zijn de gevolgen concreet: herleidbaarheid van bronnen, uitleg van datamodellen en controleerbare onderbouwing. Beleidsstukken die (deels) met AI tot stand komen, vragen expliciete verantwoording. Dat sluit aan bij openbaarheidsplicht en audittrail-vereisten.
Als in een proces persoonsgegevens worden verwerkt, blijft de AVG leidend. Dataminimalisatie en het vermijden van gevoelige data in prompts horen daarbij. Versleuteling en logging van bewerkingen helpen om naleving aantoonbaar te maken.
Gevolgen voor overheid en media
Nederlandse ministeries, gemeenten en toezichthouders gebruiken adviesrapporten voor beleid en inkoop. Onjuiste AI-teksten kunnen zo direct uitwerken op aanbestedingen en publieke budgetten. Extra bronkritiek en modeldisclosure beperken dat risico.
Ook media nemen regelmatig conclusies uit consultancy-onderzoeken over. Een enkele fout kan zich daardoor snel verspreiden. Redactionele controles en vermelding van gebruikte systemen verkleinen die kans.
Onderwijs en zorginstellingen leunen eveneens op externe analyses. Daar kan onjuiste informatie leiden tot verkeerde prioriteiten of onnodige kosten. Transparantie-eisen en steekproeven bieden een vangnet.
Aanbevolen checks en waarborgen
Vraag bij elk AI-ondersteund rapport om een methodedocument. Dat beschrijft gebruikte modellen (bijvoorbeeld ChatGPT of Gemini), data, beperkingen en validatiestappen. Zonder deze basis is de kwaliteit moeilijk te beoordelen.
Voer een bron- en cijfercontrole uit met het vier-ogenprincipe. Test steekproefsgewijs citaten en verwijzingen op herkomst en datum. Noteer verschillen en laat de auteur ze herstelbaar maken.
Leg voor organisaties een AI-gebruiksbeleid vast. Combineer disclosure, logplicht, factchecking en een risico-indeling conform de AI Act. Zo blijft innovatie mogelijk, terwijl betrouwbaarheid en verantwoordelijkheid geborgd zijn.