Een Nederlandse advocaat moet 2.300 euro proceskosten betalen na het gebruik van een vermoedelijk met AI gegenereerd citaat in een pleitstuk. De rechter oordeelde dat het citaat niet te verifiëren was en daarmee misleidend kon zijn. De advocaat kon geen betrouwbare bron overleggen. De zaak raakt aan discussies over de Europese AI-verordening en gevolgen voor overheid en rechtspraktijk.
Rechter wijst nep-citaat af
De civiele rechter tikte de advocaat op de vingers omdat hij een citaat opvoerde dat nergens was terug te vinden. In de zittingszaal is controleerbaarheid een harde eis, zeker bij citaten die de kern van een betoog dragen. Als een bron ontbreekt, weegt dat zwaar tegen de geloofwaardigheid van het stuk.
De rechter legde daarom een proceskostenveroordeling van 2.300 euro op. Zo’n kostenstraf is bedoeld om zorgvuldig procederen af te dwingen. Het signaal is duidelijk: wie AI gebruikt, moet checken en kunnen onderbouwen.
De uitspraak laat zien dat generatieve systemen geen vrijbrief zijn voor creatieve invulling. In het recht geldt bronvermelding als basisregel. Zonder herleidbare bron kan een citaat niet meewegen in de beoordeling.
Citaat was onvindbaar
Het aangehaalde fragment werd aan een bekende auteur toegeschreven, maar bleek niet te bestaan in gezaghebbende bronnen. Zoekacties in juridische en openbare databases leverden niets op. Ook met ISBN’s, voetnoten of publicatiegegevens kwam er geen bewijs boven tafel.
Omdat de advocaat geen verifieerbare herkomst kon geven, verwierp de rechter het citaat als onderbouwing. De passage werd aangemerkt als vermoedelijk door een AI-tekstgenerator geproduceerd. De kern: een bewering telt pas mee als de bron controleerbaar is.
De rechter benadrukte dat dit niet om een detail ging. Een zogenaamd autoriteitscitaat kan de toon zetten in een zaak. Dan is de lat voor controle nog hoger.
Generatieve AI kan hallucineren
Generatieve AI, zoals ChatGPT van OpenAI, Gemini van Google en Claude van Anthropic, voorspelt woorden op basis van patronen in trainingsdata. Het model “weet” niets, maar produceert tekst die plausibel klinkt. Daardoor ontstaan soms verzonnen feiten of bronverwijzingen.
In juridische context is dat riskant. Een nepcitaat kan een rechter op het verkeerde been zetten. Het schaadt ook het vertrouwen in de beroepsgroep.
Een AI-hallucinatie is een verzonnen feit, bron of citaat dat wel geloofwaardig oogt, maar niet bestaat.
Wie AI inzet, moet daarom altijd handmatig controleren. Controle betekent: herleidbare bron, bij voorkeur met publicatiegegevens. Zonder die check hoort AI-tekst niet in processtukken.
Nederlandse en EU-regels
De Europese AI-verordening (AI Act) vraagt om transparantie bij AI-gebruik in specifieke contexten, en stelt zwaardere eisen aan hoogrisicosystemen. Juridisch schrijven met AI valt daar op het moment van schrijven meestal niet direct onder. Toch blijft de advocaat gebonden aan zorgvuldigheid en waarheidsliefde uit het tuchtrecht.
Daarnaast speelt de AVG als er cliëntgegevens in systemen van derden worden ingevoerd. Dat vereist dataminimalisatie, duidelijke verwerkersafspraken en bij voorkeur versleuteling. Zonder zulke waarborgen kan delen van dossiers met externe AI-diensten onrechtmatig zijn.
De Nederlandse Orde van Advocaten waarschuwt al langer voor generatieve modellen zonder controle en bronvermelding. Rechtbanken in Nederland verwachten dat citaten controleerbaar zijn en dat stukken feitelijk kloppen. Deze zaak onderstreept dat nalaten kan doorwerken in kosten en oordeel.
Lessen voor de rechtspraktijk
Gebruik AI als hulpmiddel, niet als bron. Vraag het systeem nooit om autoriteitscitaten zonder die zelf in primaire bronnen op te zoeken. Zet in stukken alleen wat u met een link, ECLI, ISBN of officiële publicatie kunt staven.
Overweeg modellen die lokaal draaien of contractueel goede waarborgen bieden. Vermijd het plakken van persoonsgegevens of vertrouwelijke details in publieke chatbots. Documenteer elke stap: welk systeem is gebruikt, waarvoor, en hoe is gecontroleerd.
Transparantie naar de rechter helpt misverstanden voorkomen. Een korte toelichting dat AI alleen voor taalkundige redactie is gebruikt, kan al genoeg zijn. Maar inhoudelijke claims moeten altijd uit verifieerbare bronnen komen.
Toezicht en handhaving nemen toe
Deze kostenstraf laat zien dat de rechterlijke macht misleidende AI-output niet accepteert. Het past in een bredere ontwikkeling van scherper toezicht op digitale hulpmiddelen in de rechtspraak. Verwacht meer nadruk op bronvermelding en controleerbaarheid.
Naarmate de AI-verordening stapsgewijs ingaat, groeit de druk op organisaties om AI-gebruik te borgen. Voor advocatenkantoren betekent dit beleid, training en technische waarborgen. Voor overheden en rechtbanken ligt er een taak om duidelijke protocollen te bieden.
Uiteindelijk draait het om vertrouwen in het proces. AI kan teksten sneller maken, maar niet betrouwbaarder zonder menselijke toets. Wie dat vergeet, riskeert kosten, reputatieschade en tuchtrechtelijke aandacht.