Steeds meer juristen en ambtenaren gebruiken ChatGPT, Microsoft Copilot en Google Gemini voor het schrijven van teksten. De systemen maken zelden taalfouten en leveren vlotte zinnen. Juist daardoor vallen inhoudelijke fouten en verzonnen bronnen minder op. Dat zet de Nederlandse rechtspraktijk en overheid onder druk, met directe gevolgen onder de AVG en de Europese AI-verordening (Europese AI-verordening gevolgen overheid).
Foutloos oogt, inhoud faalt
Generatieve AI schrijft zonder spelfouten en met keurige structuur. Dat geeft een gevoel van deskundigheid. Lezers nemen de tekst daardoor sneller voor waar aan. De stijl verdoezelt de risico’s.
Grote taalmodellen, zoals GPT-4 van OpenAI en Gemini van Google, voorspellen het volgende woord op basis van eerdere patronen. Het zijn statistische datamodellen, geen feitenmachines. Ze kunnen logisch klinken zonder dat de inhoud klopt. Dat heet in de sector een “hallucinatie”.
Het bekende risico is het verzinnen van uitspraken of literatuur. In 2023 kwam al naar buiten dat advocaten in de VS niet-bestaande jurisprudentie indienden die een chatbot had bedacht. Dat kan ook in Nederland gebeuren bij processtukken, contracten of subsidiebeschikkingen. Een nette tone of voice maskeert dan een harde fout.
Voor lezers zonder vakkennis is het extra lastig. Zij zien weinig of geen taalfouten en denken dat een bron wel zal kloppen. Linkjes en voetnoten lijken echt, maar kunnen nep zijn. Zo ontstaat schijnzekerheid.
Juridisch risico voor kantoren
De zorgplicht van advocaten en juristen blijft onverminderd gelden. Wie onjuiste AI-tekst overneemt, blijft zelf verantwoordelijk. Een disclaimer bij het stuk helpt dan niet. De opdrachtgever mocht zorgvuldigheid verwachten.
Ook geheimhouding staat onder druk. Het invoeren van cliëntgegevens in een publiek systeem kan strijdig zijn met de AVG en het beroepsgeheim. Dataverwerking moet noodzakelijk en minimaal zijn, en bij voorkeur versleuteld. Delen met derde landen vraagt extra waarborgen.
Overheden lopen vergelijkbare risico’s. Onjuiste AI-adviezen kunnen doorwerken in beschikkingen en leiden tot bezwaar en schade. Interne instructies moeten daarom eisen stellen aan broncontrole, logging en menselijke toetsing. Dit sluit aan bij de Europese AI-verordening en bestaande beginselen van behoorlijk bestuur.
Beroepsaansprakelijkheidsverzekeraars letten hier steeds meer op. Zij vragen om interne richtlijnen en dossiervoering bij AI-gebruik. Zonder die waarborgen kan dekking onder druk staan. Preventie is dus ook financieel verstandig.
Transparantie wordt wettelijke plicht
De Europese AI-verordening (AI Act) treedt gefaseerd in werking tot en met 2026, op het moment van schrijven. Leveranciers van generatieve systemen moeten transparant zijn, onder meer over het gebruik van trainingsdata en auteursrechtfilters. Ook moeten aanbieders duidelijke informatie geven aan gebruikers. Dat helpt organisaties om risico’s te beoordelen.
Generatieve modellen zijn op zichzelf meestal geen hoog-risico systemen. Inzet in of rond rechtspleging en besluitvorming door de overheid kan wel in een hogere risicoklasse vallen. Dan gelden strengere eisen voor risicobeheer, documentatie en menselijk toezicht. Organisaties moeten vooraf beoordelen in welke categorie hun toepassing valt.
De AVG blijft altijd van kracht. Persoonsgegevens invoeren in tools vereist een rechtmatige grondslag en dataminimalisatie. Gebruik bijzondere gegevens (zoals medische informatie) vraagt extra maatregelen. Een DPIA, een gegevensbeschermingseffectbeoordeling, is vaak verplicht voordat een tool live gaat.
Transparantie naar eindgebruikers hoort daar ook bij. Maak zichtbaar wanneer een tekst met hulp van een AI-systeem tot stand is gekomen. Dat kan met een korte toelichting of een label in het document. Zo weten lezers wat ze kunnen verwachten.
Eerst bronnen, dan stijl
Organisaties kunnen het schrijfproces omdraaien: eerst verifiëren, dan verwoorden. Laat het systeem alleen schrijven op basis van gecontroleerde documenten. Dit heet retrieval-augmented generation (RAG): het model mag alleen putten uit een opgegeven bronmap. Daardoor worden beweringen beter herleidbaar.
Vraag altijd om expliciete bronvermelding met werkende links. Voor het recht zijn dat bijvoorbeeld rechtspraak.nl, EUR-Lex en officiële publicaties. Laat het model elke stelling koppelen aan een paragraaf of ECLI-nummer. Zonder bron geen opname in de eindtekst.
Stel strakke promptregels op. Vraag om een stap-voor-stap redenering en om een lijst met aannames. Laat het systeem onzekere passages markeren in plaats van ze netjes te verpakken. Zo worden gaten zichtbaar voor de menselijke reviewer.
Hallucinatie: wanneer een AI-systeem informatie presenteert die overtuigend klinkt, maar niet strookt met de onderliggende bronnen of zelfs geheel is verzonnen.
Veilige opties voor praktijk
Kies zakelijke versies van tools met strengere privacy-instellingen. Microsoft Copilot voor Microsoft 365 werkt binnen de eigen tenant en gebruikt bestaande rechten. ChatGPT Enterprise en Team trainen op het moment van schrijven niet standaard met klantdata. Google biedt vergelijkbare opties via Vertex AI.
Let op datalocatie, versleuteling en contracten. Eis Europese datacenters of een EU-gegevensgrens waar mogelijk. Zet modeltraining uit en sluit een verwerkersovereenkomst die de AVG afdekt. Controleer logbeleid en bewaartermijnen.
Voer vooraf een DPIA uit en leg keuzes vast. Richt logging en audit trails in, zodat beslissingen terug te leiden zijn. Test updates van modellen voordat ze in productie gaan. Beperk toegangen via rollen en goedkeuringen.
Investeer tenslotte in opleiding. Leer teams kritisch lezen en broncontrole doen. Bespreek bekende valkuilen zoals verzonnen citaten en te zelfverzekerde taal. Maak AI zo een hulpmiddel, geen automatische auteur.