Een Nederlandse advocaat haalde onlangs verzonnen bronnen aan uit een AI-chatbot en beschuldigde daarbij een niet-bestaande student. Dat kwam aan het licht in een juridisch document in Nederland. De advocaat gebruikte het systeem om de zaak te onderbouwen, maar de verwijzingen bleken niet echt. De kwestie raakt ook aan zorgplichten in de advocatuur en aan de Europese AI-verordening, met mogelijke Europese AI-verordening gevolgen overheid en rechtspraak.
AI verzint overtuigend mee
Generatieve AI, zoals chatbots die teksten schrijven, kan “hallucineren”: het model produceert dan ogenschijnlijk betrouwbare maar onjuiste informatie. Dat risico is bekend bij systemen als ChatGPT (OpenAI), Gemini (Google) en Claude (Anthropic). In deze zaak leidde dat tot niet-bestaande bronnen en een valse beschuldiging. Welke specifieke chatbot is gebruikt, is op het moment van schrijven niet bevestigd.
De kern is dat het model overtuigend schrijft, ook als de feiten niet kloppen. Citaten, jurisprudentie en namen kunnen dan worden verzonnen. Voor juristen is dat extra riskant, omdat rechtbanken en tuchtrechters streng zijn op bronverwijzingen. Een fout kan snel schade toebrengen aan personen en procedures.
De fout toont dat automatisering zonder menselijk toezicht tekortschiet. AI kan wel helpen bij een eerste schets of samenvatting. Maar verificatie in primaire bronnen blijft vereist. Dat geldt zeker voor verwijzingen naar wetgeving en uitspraken.
“Hallucinatie” is wanneer een AI-systeem zelfverzekerd maar onjuist antwoord geeft, zoals verzonnen bronnen of niet-bestaande personen.
Advocaten moeten feiten checken
De Nederlandse advocatuur kent een zorgplicht: feiten en bronnen moeten controleerbaar en juist zijn. Die plicht volgt uit de gedragsregels en wordt bewaakt via het tuchtrecht. AI-uitvoer ontslaat een advocaat niet van die verantwoordelijkheid. Wie verwijst, moet de bron zelf hebben gezien en kunnen overleggen.
Een praktische vuistregel is: nooit blind citeren wat een chatbot schrijft. Controleer altijd in primaire databanken, zoals Rechtspraak.nl of officiële publicaties. Werk desnoods met een vier-ogenprincipe voordat stukken de deur uitgaan. Leg in het dossier vast welke stappen voor verificatie zijn gezet.
Ook het noemen van personen vereist zorg. Onjuiste of onvolledige identificatie kan leiden tot smaad of reputatieschade. Als een naam door AI is bedacht, is er bovendien geen manier om weerwoord te bieden. Dat vergroot het ethische en juridische risico.
Europese AI-verordening gevolgen overheid
De Europese AI-verordening (AI Act) stelt binnenkort transparantie-eisen aan generatieve systemen, vooral aan zogenoemde general-purpose AI. Aanbieders moeten duidelijk maken hoe het model is getraind en welke beperkingen er zijn. Dat helpt gebruikers, zoals juristen en ambtenaren, om risico’s beter in te schatten. Overheden en rechtbanken die AI inzetten, zullen interne waarborgen moeten inrichten.
Voor professionele gebruikers in Europa betekent dit: gebruiksbeleid, risicobeoordeling en logging van prompts en antwoorden. Dat sluit aan bij bestaande plichten, bijvoorbeeld onder de AVG. Denk aan dataminimalisatie en versleuteling als persoonsgegevens worden verwerkt. Wie AI gebruikt in een dossier, moet kunnen uitleggen waarom en hoe.
De verordening raakt ook de rechtspraak en de overheid in hun rol als afnemer van software. Inkoop zal kritischer kijken naar functies als bronverwijzing en factchecking. Verwacht eisen aan citeerbare onderbouwing en duidelijke links naar originele bronnen. Dat vermindert de kans op stille fouten in publieke besluiten.
Beleid en tooling voor checks
Kantoren doen er goed aan een helder AI-beleid vast te leggen. Benoem toegestane tools, verboden toepassingen en een vaste verificatiechecklist. Stel eisen aan citeerbare bronnen met werkende links of officiële referenties. En test periodiek of het beleid in de praktijk werkt.
Gebruik hulpmiddelen die controle ondersteunen, zoals juridische zoekmachines met directe verwijzingen naar Rechtspraak.nl, EUR-Lex of officiële bekendmakingen. Sommige AI-assistenten tonen bronlinks; behandel die als startpunt, niet als eindpunt. Combineer AI-tekst met handmatig brononderzoek. Zo blijft de kwaliteit op peil.
Let op privacy en reputatiebescherming. Verwerk in prompts geen gevoelige persoonsgegevens als dat niet strikt nodig is; dataminimalisatie is een eis uit de AVG. Scherm metadata af en log alleen wat nodig is voor verantwoording. Geef in processtukken geen AI-bronnen op zonder dat u ze zelf heeft geverifieerd.
Lessen voor de rechtspraktijk
AI kan tijd winnen bij structureren, samenvatten en zoeken. Maar inhoudelijke juistheid vraagt menselijk vakmanschap. Wie een model inzet, moet de grenzen kennen en actief compenseren met extra controles. Dat is de prijs voor snelheid met behoud van kwaliteit.
Voor opleidingen en permanente educatie ligt hier een taak. Leer studenten en beroepsgenoten hoe generatieve systemen werken, inclusief hun neiging tot hallucineren. Oefen met het ontleden van AI-antwoorden en met het herleiden naar primaire bronnen. Dat beperkt fouten in echte zaken.
De recente misstap van een advocaat is daarmee ook een waarschuwing. Technologie zonder duidelijke checks vergroot risico’s voor cliënten, tegenpartijen en de rechtsstaat. Met strikt beleid, transparantie en broncontrole kan AI wel veilig worden ingezet. Dat is in lijn met de AI Act en de kernwaarden van de advocatuur.