Nieuw onderzoek in de juridische sector laat zien dat het eerste antwoord van kunstmatige-intelligentiesystemen vaak niet direct bruikbaar is. Het gaat om generatieve chatbots zoals ChatGPT van OpenAI en gespecialiseerde juridische assistenten. In de praktijk bevatten de eerste uitkomsten geregeld fouten, missen ze bronnen of zijn ze te algemeen. De bevinding is relevant voor Nederlandse juristen nu de Europese AI-verordening (AI Act) en de AVG het gebruik van deze systemen strakker gaan regelen.
Eerste antwoord vaak onbruikbaar
Juristen krijgen bij de eerste vraag aan een chatbot vaak een antwoord dat niet voldoet aan de eisen van de rechtspraktijk. Het stuk tekst oogt overtuigend, maar bevat soms onjuiste verwijzingen of verouderde wetsartikelen. Ook ontbreekt regelmatig concrete bronvermelding, wat het antwoord juridisch zwak maakt. Daardoor kost het veel tijd om het resultaat te controleren en te herwerken.
Generatieve modellen zijn getraind op grote hoeveelheden tekst en voorspellen het volgende woord op basis van patronen. Ze redeneren niet zoals een jurist en weten niet of iets waar is zonder een betrouwbare bron erbij. In het recht telt juist precisie: exacte definities, actuele wetsteksten en verifieerbare jurisprudentie. Dat verschil verklaart waarom het eerste antwoord vaak tekortschiet.
Bij vervolgvraagd of nadere instructies verbeteren de resultaten meestal, maar dat vraagt ervaring met prompttechniek. Juristen moeten expliciet vragen om bronnen, data en citaten. Zelfs dan kan het systeem nog informatie verzinnen of passages overslaan. De boodschap is duidelijk: vertrouw niet op de eerste uitkomst, maar toets en verfijn systematisch.
Hallucinatie is wanneer een AI-systeem met overtuiging informatie presenteert die feitelijk niet klopt of niet uit de onderliggende bronnen volgt.
Controle blijft noodzakelijk
In kantoren werkt AI het best als assistent voor een eerste opzet, niet als eindredacteur. Een goed proces dwingt controle af: broncheck, datumcheck en vergelijking met interne modellen en sjablonen. Laat concepten altijd door een jurist herlezen, zeker bij processtukken of adviezen. Zonder menselijke toets groeit het risico op foutieve of misleidende passages.
Technieken zoals retrieval augmented generation (RAG) helpen om antwoorden te verankeren in betrouwbare documenten. Daarbij koppelt het kantoor de chatbot aan een eigen, doorzoekbare kennisbank met wetten, contracten en notities. Het model haalt eerst relevante stukken op en genereert pas daarna tekst met verwijzingen. Dit verkleint de kans op verzinsels en verhoogt de herleidbaarheid.
Stel duidelijke eisen aan de output van systemen als ChatGPT, Microsoft Copilot en Google Gemini. Vraag om exacte wetsartikelen, ECLI-nummers en vindplaatsen, en laat het model uitleggen waarop elke conclusie rust. Beperk de opdracht tot een smalle vraag en definieer de jurisdictie, taal en peildatum. Zo wordt de eerste uitkomst gerichter en kost bijsturen minder tijd.
EU-regels sturen gebruik
De Europese AI-verordening (AI Act) legt, op het moment van schrijven, gefaseerd nieuwe plichten op aan aanbieders en gebruikers van generatieve modellen. Transparantie, risicobeperking en documentatie worden kernverplichtingen, ook voor zogeheten general-purpose AI. Systemen die in of voor de rechtspleging worden ingezet vallen deels in hogere risicoklassen, met strengere eisen aan menselijke controle. Dit raakt zowel de overheid als private partijen die met justitiële processen werken.
De AVG blijft onverminderd gelden bij het verwerken van cliëntgegevens via AI-diensten. Dataminimalisatie, versleuteling en duidelijke grondslagen zijn verplicht, net als een verwerkersovereenkomst bij inzet van externe aanbieders. Wie publieke cloudoplossingen gebruikt, zoals OpenAI via een API of een dienst van Microsoft, moet internationale doorgifte borgen met passende waarborgen. Vaak is een gegevensbeschermingseffectbeoordeling (DPIA) nodig voordat de tool breed wordt ingezet.
Voor de overheid en gesubsidieerde instellingen zijn de gevolgen extra zichtbaar. Denk aan eisen voor menselijke tussenkomst, logboeken en robuuste testprocedures voordat een AI-systeem in besluitvorming wordt gebruikt. Opleiding en richtlijnen voor juridische professionals worden verplicht onderdeel van het risicobeheer. Dit alles dwingt tot bewuste keuzes over waar en hoe AI waarde toevoegt.
Impact op Nederlandse kantoren
Steeds meer kantoren testen afgeschermde varianten van generatieve AI om het beroepsgeheim te beschermen. Voorbeelden zijn een private implementatie van ChatGPT via Microsofts Azure OpenAI Service of een intern gehost open-sourcemodel. Het voordeel is meer controle over data en logging, met instellingen die bronvermelding en citatie afdwingen. De keerzijde is dat implementatie, beheer en updates tijd en budget vragen.
Investeren in kennismanagement blijkt minstens zo belangrijk als de keuze van het model. Goed geordende sjablonen, actuele commentaren en vastgelegde werkwijzen maken AI-uitvoer consistenter. Koppelingen met betrouwbare juridische databanken verbeteren de kwaliteit, mits licenties en auteursrechten netjes zijn geregeld. Zonder stevige informatiebasis blijft elk systeem los zand.
Opleiding is de laatste schakel. Jonge juristen leren prompten, maar vooral ook kritisch lezen en checken. Kantoren richten kwaliteitscontroles in die AI-teksten als concept behandelen en systematisch toetsen. Zo ontstaat een werkproces waarin snelheid en betrouwbaarheid elkaar versterken.
Wat nu wel werkt
AI is nuttig voor routinematige taken met lage fouttolerantie, zoals samenvatten, structureren en stijlherziening. Denk aan het herschrijven van correspondentie, het maken van inhoudsopgaven of het signaleren van inconsistenties. Laat het systeem nadrukkelijk niet zelfstandig juridische conclusies trekken zonder bronnen. Houd complexe interpretaties en strategische keuzes bij de mens.
Een praktische aanpak is werken in korte iteraties met duidelijke controles. Vraag eerst om een puntsgewijze schets met bronnen, daarna pas om uitwerking. Beperk het domein tot het juiste rechtsgebied en de juiste jurisdictie, en leg een peildatum vast. Sla elke stap op voor herleidbaarheid en latere audits.
Tot slot: meet de kwaliteit. Gebruik checklists met criteria als juistheid, volledigheid, actualiteit en bronverwijzing. Vergelijk AI-concepten met bestaande modellen en jurisprudentieoverzichten. Pas de workflow aan als de eerste antwoorden te vaak onder de maat zijn.