Een advocaat in Nederland is tijdelijk geschorst door de tuchtrechter. Hij diende rechtbankdocumenten in die door een AI-systeem waren verzonnen. De uitspraak is onlangs bekendgemaakt. De zaak raakt ook aan regels uit de AVG en de Europese AI-verordening, die het gebruik van algoritmen in de rechtspraktijk sturen.
Tuchtrechter schorst advocaat
De tuchtrechter oordeelde dat de advocaat zijn zorgplicht schond. Hij gebruikte teksten die leken op echte uitspraken, maar niet bestonden. De stukken kwamen uit een generatief taalmodel, een systeem dat zelf tekst maakt op basis van voorbeelddata.
Het is niet bekend welke tool is gebruikt. Voorbeelden van zulke systemen zijn ChatGPT van OpenAI en Gemini van Google. Zulke modellen kunnen overtuigend schrijven, maar ze maken ook fouten die echt lijken.
De schorsing moet duidelijk maken dat advocaten bronnen moeten controleren. Het indienen van onjuiste documenten schaadt het vertrouwen in de rechtspraak. Het kan ook cliënten benadelen, bijvoorbeeld door vertraging of extra kosten.
AI verzint documenten
Generatieve AI werkt met voorspellingen van woorden. Het model vult zinnen aan op basis van patronen in trainingsdata. Daardoor kan het teksten maken die correct lijken, maar feitelijk onjuist zijn.
In juridische context heet dat een groot risico. Uitspraken en wetsartikelen moeten precies kloppen. Een kleine fout kan een hele zaak doen kantelen.
Hallucinatie is wanneer een AI-systeem met grote stelligheid informatie geeft die niet bestaat of niet klopt.
Steeds meer rechters en beroepsorganen waarschuwen hiervoor. Zij verwachten dat juristen elk citaat en elke verwijzing verifiëren. Dat geldt ook als AI alleen helpt bij een eerste concept.
Plicht tot controle blijft
De Nederlandse Orde van Advocaten verlangt dat advocaten zorgvuldig werken en bronnen checken. Die plicht verandert niet door nieuwe software. AI kan ondersteunen, maar neemt de eindverantwoordelijkheid niet over.
Transparantie helpt daarbij. Wie AI gebruikt bij processtukken, kan dat kort vermelden en de gebruikte bronnen bijsluiten. Daarmee is voor de rechter duidelijk hoe de tekst tot stand kwam.
Kantoren doen er goed aan interne richtlijnen te hebben. Denk aan regels voor bronvermelding, factcheck en dossiervorming. Ook logging van versies en zoekopdrachten kan discussies achteraf voorkomen.
Europese AI-verordening gevolgen
De Europese AI-verordening (AI Act) legt eisen op aan het gebruik van generatieve modellen. Voor aanbieders van grote modellen gelden transparantieregels en veiligheidsmaatregelen. Gebruikers in sectoren met impact, zoals recht en overheid, moeten menselijke controle borgen.
Voor de overheid en rechtspraak spelen vooral toezicht en herleidbaarheid. Daarom krijgt de frase “Europese AI-verordening gevolgen overheid” steeds meer inhoud in werkprocessen. Besluiten moeten uitlegbaar zijn en fouten snel te herstellen.
De AVG blijft daarnaast leidend bij cliëntgegevens. Dataminimalisatie en versleuteling zijn verplicht. Advocaten mogen persoonsgegevens niet zomaar in externe AI-tools zetten zonder duidelijke afspraken en passende beveiliging.
Kantoren scherpen beleid aan
Veel kantoren testen AI eerst in afgebakende taken. Samenvatten, zoeken naar literatuur en opstellen van formats zijn vaak geschikte starts. Voor juridisch inhoudelijke citaten blijft handmatig controleren verplicht.
Technisch zijn er veilige opties. Denk aan modellen die lokaal draaien of via een contractuele verwerker met strikte data-afspraken. Retrieval-techniek, die alleen zoekt in eigen, geverifieerde bronnen, verkleint de kans op verzinsels.
Training en cultuur zijn net zo belangrijk. Medewerkers moeten weten wat wel en niet kan. Heldere eindchecks en peer review blijven nodig voordat stukken naar de rechtbank gaan.
Gevolgen voor rechtzoekenden
Voor cliënten draait het om betrouwbaarheid en tempo. AI kan processen versnellen, maar fouten kunnen duur uitpakken. De schorsing laat zien dat snelheid nooit boven juistheid mag gaan.
Rechters kunnen meer bewijs van broncontrole vragen. Denk aan bijlagen met originele uitspraken en actieve links. Dat maakt het werk controleerbaar en helpt misverstanden voorkomen.
Wie een advocaat kiest, kan vragen naar het AI-beleid van het kantoor. Is er een vast controleproces? En worden persoonsgegevens beschermd volgens de AVG? Duidelijkheid hierover vergroot het vertrouwen aan de start van een zaak.