Consultants van EY in Canada hebben een gepubliceerd rapport teruggetrokken. In het stuk bleken onjuiste passages te staan die door een generatief AI-systeem waren bedacht. Het incident speelde recent in Canada en leidde tot snelle intrekking en excuses. De kwestie raakt ook aan de Europese AI-verordening en de gevolgen voor overheid en adviesbureaus.
EY trekt rapport terug
EY is een van de grootste advies- en accountantsnetwerken ter wereld. In Canada werd een analyse gedeeld waarin delen niet bleken te kloppen. De fouten kwamen voort uit zogenoemde hallucinaties van een taalmodel. Het bedrijf heeft het rapport ingetrokken en erkend dat de kwaliteit niet op orde was.
Het rapport was met hulp van een generatief AI-systeem opgesteld. Zulke systemen schrijven tekst door patronen in trainingsdata te volgen. Zonder bronnencontrole kunnen ze zelfverzekerd onjuiste details toevoegen. Dat gebeurde hier, waardoor conclusies en voorbeelden niet betrouwbaar waren.
Na interne controle is het document verwijderd. Ook zijn klanten en betrokkenen geïnformeerd. EY zegt de interne procedures te verscherpen. Het doel is om herhaling te voorkomen en menselijke controle beter te borgen.
AI-hallucinaties ondermijnen vertrouwen
Hallucinaties zijn verzinsels van een AI-model. Een groot taalmodel voorspelt woorden die waarschijnlijk passen, maar kan feiten verwarren of citeren wat nooit is gezegd. De tekst leest vaak vlot en overtuigend. Juist dat maakt de fout lastig te zien zonder strikte factcheck.
Een “hallucinatie” is een ogenschijnlijk overtuigend maar feitelijk onjuist antwoord dat een AI-systeem zelf produceert.
In professionele context is dit riskant. Een verkeerd detail kan beleid of investeringen sturen. Bij advies aan overheid of toezichthouders kan dat directe gevolgen hebben. Het schaadt ook het vertrouwen in digitale hulpmiddelen.
Technisch zijn er manieren om het risico te beperken. Een aanpak is retrieval augmented generation (RAG): het model mag alleen antwoorden op basis van opgehaalde en gelogde bronnen. Ook helpen citatiecheckers, die elke bewering koppelen aan herleidbare documenten. Zonder deze waarborgen blijft de kans op fouten groot.
Menselijke controle schoot tekort
AI kan conceptteksten sneller maken. Maar het blijft een hulpmiddel, geen eindredacteur. In dit geval bleek de menselijke toetsing niet voldoende. Er miste een strikte broncontrole en een tweede lezer met inhoudelijke expertise.
Een robuust proces vraagt om duidelijke stappen. Leg vast welke prompts, versies en datasets zijn gebruikt. Laat een vakspecialist elke feitelijke claim verifiëren met originele bronnen. Publiceer pas na een finale check door iemand die geen AI heeft gebruikt voor dat onderdeel.
Transparantie naar de opdrachtgever hoort daarbij. Benoem wanneer en hoe AI is ingezet. Voeg een bronvermelding toe die controleerbaar is. Zo wordt duidelijk wat het algoritme heeft geleverd en wat de adviseur zelf heeft vastgesteld.
Europese AI-verordening: gevolgen overheid
De Europese AI-verordening (AI Act) stelt eisen aan aanbieders van generatieve modellen. Zij moeten onder meer technische documentatie, risicobeperking en transparantie bieden. Voor gebruikers, zoals adviesbureaus, betekent dit dat zij zorgplicht en menselijke supervisie moeten organiseren. Zeker wanneer het werk invloed heeft op publieke besluitvorming.
Voor overheden in Nederland en de EU is dit praktisch relevant. Inkoopvoorwaarden kunnen vragen om disclosure van AI-gebruik, logbestanden en bronverwijzingen. Ook kan worden geëist dat modellen geen vertrouwelijke of persoonsgegevens hergebruiken in verdere training, in lijn met de AVG. Dit beperkt risico’s én maakt audits mogelijk.
Het incident laat zien waar beleid en praktijk samenkomen. Een adviesrapport is geen “hoog-risico AI” onder de wet, maar de impact kan wel groot zijn. Daarom past strenger toezicht bij publieke opdrachten. Dat voorkomt dat onjuiste AI-teksten een officieel document in sluipen.
Afspraken over bronnen en logs
Organisaties doen er goed aan een AI-werkafspraak te maken. Leg vast dat elk feit een primaire bron nodig heeft. Bewaar prompts, modelnamen en -versies in een audittrail. En controleer automatisch gegenereerde citaten met een tweede bron.
Techniek kan helpen, maar vervangt geen redactie. Gebruik RAG op een eigen, gevalideerde kennisbank. Schakel content provenance in, zoals C2PA-watermerken, voor herkomstcontrole. En zet detectietools in als extra vangnet, niet als enige bewijs.
Bescherm klantdata standaard. Zet training op klantmateriaal uit bij de AI-leverancier. Versleutel documenten en beperk toegang. Dat past bij de AVG-eisen voor dataminimalisatie en beveiliging.
Lessen voor de adviesmarkt
Voor adviesbureaus is de les helder: snelheid is niets zonder betrouwbaarheid. Bouw verplichte factchecks in, net als bij financiële controle. Train teams in het herkennen van AI-typische fouten. En maak één eindverantwoordelijke duidelijk aanspreekbaar.
Opdrachtgevers moeten scherper inkopen. Vraag om een AI-verklaring bij elk op te leveren document. Eis bronverwijzingen en een herleidbare methodenota. Laat bij gevoelige dossiers een externe review uitvoeren.
Zo ontstaat een volwassen manier van werken met AI. De voordelen van algoritmen blijven, maar de risico’s krimpen. En incidenten zoals de terugtrekking in Canada worden minder waarschijnlijk. Dat is in het belang van overheid, bedrijven en burgers.