PwC ligt onder vuur in Nederland. Meerdere recente adviesrapporten bevatten fouten en vermoedelijke AI-hallucinaties. Het gaat om verzonnen feiten, niet-bestaande bronverwijzingen en strakke, uniforme zinswendingen. De kwestie zet druk op kwaliteitscontrole bij advieswerk en op transparantie-eisen uit de Europese AI-verordening.
PWC-rapporten met AI-fouten
In opgeleverde analyses en memo’s zijn alinea’s aangetroffen met niet-kloppende gegevens en bronnen die niet traceerbaar zijn. Ook komen identieke formuleringen terug die wijzen op automatisch gegenereerde tekst. Dit patroon is kenmerkend voor generatieve systemen die tekst voorspellen in plaats van feiten te verifiëren.
De fouten raken de kern van advieswerk: betrouwbaarheid en controleerbaarheid. Wanneer verwijzingen of cijfers niet te herleiden zijn, verliest een rapport zijn bewijswaarde. Dat is extra precair als het gaat om beleid, publieke middelen of financiële beslissingen.
Voor opdrachtgevers is het lastig te zien waar de menselijke analyse stopt en waar een algoritme begint. Zonder duidelijke vermelding van AI-gebruik ontstaat het risico dat besluitvormers op schijnnauwkeurigheid leunen. Dat kan leiden tot verkeerde keuzes en hogere herstelkosten achteraf.
Waarom modellen hallucineren
Generatieve AI, zoals GPT-4 van OpenAI of Gemini van Google, maakt tekst door het meest waarschijnlijke volgende woord te voorspellen. Het model optimaliseert voor vloeiendheid, niet voor waarheid. Daardoor ontstaan ‘hallucinaties’: verzonnen feiten, valse citaten of gefabriceerde bronnen die er overtuigend uitzien.
Hallucinaties nemen toe als het model buiten zijn trainingskennis moet antwoorden of wanneer het wordt gevraagd om specifieke bronnen te citeren. Zonder ‘grounding’ in betrouwbare data of een strikte bronkoppeling, vult het systeem gaten creatief in. Dit is een bekend risico bij inzet zonder aanvullende waarborgen.
Technieken zoals retrieval augmented generation (RAG) kunnen helpen door antwoorden te baseren op gecontroleerde documenten. Ook streng prompt-ontwerp en bronverplichting per alinea verlagen het risico. Maar geen enkele methode vervangt systematische menselijke factcheck.
Een AI-hallucinatie is een ogenschijnlijk plausibel, maar onjuist of verzonnen antwoord van een tekstmodel, bijvoorbeeld een nepbron of verkeerd feit.
Menselijke controle schoot tekort
Als AI wordt gebruikt voor conceptteksten, hoort een menselijke reviewer elke feitelijke claim en bron te toetsen. Dat vraagt tijd, domeinkennis en een duidelijke reviewchecklist. Ontbreekt zo’n controle, dan glippen foutieve alinea’s gemakkelijk door naar het eindrapport.
Organisaties hebben vaak geen eenduidige AI-werkinstructies voor consultants en analisten. Zonder verplichte bronvermelding, logbestanden en herleidbaarheid is achteraf moeilijk te reconstrueren wat door een mens is geschreven en wat door een model. Dat maakt correctie en aansprakelijkheid complex.
Verder kan druk op snelheid en kosten onbedoeld misbruik van generatieve systemen stimuleren. Wanneer concepten sneller klaar moeten zijn, neemt de verleiding toe om modeluitvoer direct over te nemen. Juist dan zijn extra checks en heldere drempels nodig voor publicatie.
Gevolgen voor Nederlandse opdrachtgevers
Voor publieke instellingen en semipublieke sectoren is de schade groter dan reputatie alleen. Besluiten op basis van foutieve adviezen kunnen juridische en financiële risico’s opleveren. Bij aanbestedingen kan een ondeugdelijk rapport bovendien leiden tot vertragingen en extra uitgaven.
In Nederland vragen toezichthouders en rekenkamers om transparantie en herleidbaarheid in rapportages. Als AI is gebruikt, willen zij kunnen zien welke bronnen ten grondslag liggen aan de conclusies. Zonder die onderbouwing verliest een rapport gewicht in audits of parlementaire controles.
Ook privacy kan in het geding zijn als tijdens het samenstellen van rapporten persoonsgegevens via externe AI-diensten zijn verwerkt. Dan gelden de AVG-eisen, zoals dataminimalisatie en passende beveiliging. Een verwerkersovereenkomst en gebruik van EU-datacenters, bijvoorbeeld via Microsoft Azure OpenAI Service, zijn dan randvoorwaarden.
Europese regels dwingen transparantie
De Europese AI-verordening (AI Act) verplicht aanbieders van generatieve AI tot meer transparantie over datamodellen en risico’s. Gebruikers die AI-teksten publiek maken, moeten duidelijk maken dat content door AI is gegenereerd. Voor adviesrapporten aan overheden groeit daarmee de verwachting van expliciete AI-etikettering en bronverantwoording.
Daarnaast ontstaat druk om een AI-managementsysteem te voeren, bijvoorbeeld volgens NEN-ISO/IEC 42001. Zo’n systeem borgt beleid, risicobeheersing, logging en audittrail rond AI-gebruik. Dit sluit aan bij bestaande kwaliteits- en compliance-eisen in professionele dienstverlening.
Voor PwC en andere advieskantoren betekent dit: heldere richtlijnen, tooling voor bronkoppeling en interne audits op AI-gebruik. Wie dat niet op orde heeft, loopt een groter risico op klachten, contractgeschillen en reputatieschade. Transparantie wordt zo een concurrentiefactor in de markt voor adviesdiensten.
Aanpak: feiten, bronnen, logging
Praktisch begint verbetering met verplichte bronvermelding per paragraaf en zichtbare scheiding tussen AI-concept en menselijke eindredactie. Gebruik waar mogelijk ‘grounded generation’ met een gecontroleerde documentenset. Voeg automatische factchecks en plagiaatscans toe voordat een document de deur uitgaat.
Kies voor enterprise-varianten van modellen zoals GPT-4 (OpenAI) of Gemini met organisatiebrede policies, contentfilters en auditlogs. Beperk prompten tot interne, goedgekeurde data en scherm bedrijfs- en persoonsgegevens af. Stel duidelijke stoplichten in: wat mag AI wel, wat niet, en wie keurt wat goed.
Tot slot: leg aan opdrachtgevers uit hoe AI is ingezet, inclusief beperkingen en kwaliteitscontroles. Dat vergroot vertrouwen en maakt toetsing eenvoudiger. Uiteindelijk blijft één regel leidend: geen enkele modeluitvoer zonder menselijke verificatie de eindtekst in.