KPMG Nederland ligt onder vuur na een mislukt rapport over kunstmatige intelligentie. In het stuk doken zogeheten AI-hallucinaties op: verzonnen feiten, bronnen en voorbeelden die door een tekstgenerator zijn bedacht. Het document werd in Nederland gedeeld met klanten en het bredere publiek. De kwestie voedt vragen over controle, transparantie en de gevolgen van de Europese AI-verordening voor overheid en bedrijfsleven.
Rapport vol verzinsels
In het rapport stonden passages die niet te verifiëren waren. Het ging om niet-bestaande bronverwijzingen en onjuiste cijfers. Ook kwamen er cases voorbij die bij nadere controle niet klopten. Dit zijn typische AI-hallucinaties: uitkomsten die een model met overtuiging produceert, maar die niet waar zijn.
De teksten leken deels geschreven met een generatieve AI-tool, zoals een chatbot die suggesties geeft. Zo’n tool voorspelt woorden op basis van trainingsdata. Zonder harde bronkoppeling kan dit tot verzinsels leiden. Juist daarom is menselijke controle nodig voor publicatie.
Voor lezers is het lastig te zien wat wel en niet klopt. Zeker als de toon zakelijk is en de opmaak professioneel oogt. Dan wekt een document snel gezag. Daarom ligt de verantwoordelijkheid bij de uitgever om elke claim te staven.
“Hallucinaties zijn schijnbaar plausibele, maar onjuiste output van generatieve AI-systemen. Ze ontstaan als het model ontbrekende feiten invult.”
Redactionele controle schoot tekort
De interne kwaliteitscontrole van KPMG functioneerde hier onvoldoende. Conceptteksten die door een algoritme zijn gegenereerd, vereisen extra factcheck en broncontrole. Dat is vergelijkbaar met een wetenschappelijke peer review, maar dan voor adviesrapporten. Zonder die stap glippen fouten door.
Een duidelijk proces voor bronvermelding ontbrak of werd niet goed toegepast. Bij generatieve systemen hoort vast te liggen welke bronnen zijn gebruikt. Ook moet worden gelogd wie welke passage heeft goedgekeurd. Dat helpt bij herstel en verantwoordelijkheid.
Transparantie over AI-gebruik had het risico zichtbaar gemaakt. Een simpele label “gedeeltelijk met een AI-tool opgesteld” zet lezers op scherp. Het nodigt uit tot kritische lezing. En het dwingt auteurs tot nauwkeuriger werken.
KPMG belooft herstelmaatregelen
KPMG laat weten de fouten te erkennen en het rapport te herzien. Het bedrijf belooft strengere eindredactie en verplichte bronverificatie. Ook komt er expliciete labeling als een tekst of afbeelding met AI is gemaakt. Medewerkers krijgen extra training in verantwoord AI-gebruik.
Technische hulpmiddelen kunnen daarbij helpen. Denk aan factchecking-workflows, verwijzing naar gecontroleerde bronnen en automatische citatiecontroles. Retrieval augmented generation, waarbij een model alleen uit een gecontroleerde documentenset put, beperkt hallucinaties. Toch blijft menselijk toezicht onmisbaar.
Herstel betekent ook actief corrigeren richting klanten. Organisaties die het document hebben gebruikt, moeten een update krijgen. Dat is belangrijk voor vertrouwen en aansprakelijkheid. Het voorkomt dat onjuiste informatie blijft rondzingen.
AI-verordening raakt advieswerk
De Europese AI-verordening (AI Act) legt nadruk op transparantie en risicobeheersing. Adviesrapporten vallen niet onder de hoogste risicoklassen, maar misleidende AI-output kan wel tot juridische en reputatieschade leiden. Zeker als de overheid of gereguleerde sectoren het rapport gebruiken. Dan gelden extra zorgplichten.
Ook de AVG speelt mee als persoonlijke data in modellen of analyses zijn gebruikt. Dataminimalisatie en duidelijke grondslagen zijn dan vereist. Versleuteling en toegangsbeheer beperken datalekrisico’s. Een data protection impact assessment kan verplicht zijn.
Publieke instellingen die AI-inzichten inkopen, moeten aantoonbaar zorgvuldig handelen. Zij moeten leveranciers vragen naar brononderbouwing en naar de rol van generatieve systemen. Dit sluit aan bij de “Europese AI-verordening gevolgen overheid”. Het verkleint risico’s bij beleid en aanbestedingen.
Gevolgen voor klanten en overheid
Nederlandse bedrijven en overheden leunen op advies van grote kantoren zoals KPMG. Een foutief AI-rapport kan daardoor breed doorwerken. Denk aan verkeerde investeringskeuzes of beleid op wankele cijfers. Het herstel kost tijd en geld.
Inkoopteams zullen voorwaarden aanscherpen. Bijvoorbeeld verplicht bronopenbaar maken, auditrechten en heldere aansprakelijkheid bij fouten. Ook kan men eisen dat kritieke passages door vakspecialisten zijn gereviewd. Zo komt er een dubbele kwaliteitsborging.
Voor toezichthouders is dit een signaal. Transparantie over AI-gebruik in zakelijke publicaties verdient aandacht. Heldere labels en herleidbare bronnen beschermen lezers. En ze maken naleving controleerbaar.
Zo voorkom je herhaling
Organisaties die AI inzetten voor rapportages, kunnen vijf stappen zetten. Label AI-gebruik, leg bronnen vast en laat feiten dubbel controleren. Beperk modellen tot gecontroleerde kennisbanken. En bewaar een audittrail van concept tot publicatie.
Gebruik heldere schrijfrichtlijnen voor generatieve tools. Verbied verzinsels door prompts die altijd om bronnen vragen. Laat afbeeldingen en grafieken apart valideren. En train teams in het herkennen van typische hallucinaties.
Tot slot: publiceer correcties snel en zichtbaar. Zet lezers op de mailinglijst voor updates. Dat houdt vertrouwen overeind. En het sluit aan bij de geest van de AI Act: verantwoord en transparant gebruik van algoritmen.