Een Amsterdamse advocaat heeft een nepcitaat gebruikt in een officiële brief en krijgt daarvoor een tuchtrechtelijke kostenveroordeling van ruim 2300 euro. De tuchtrechter deed de uitspraak deze week, na klachten over misleiding en gebrekkige controle. De advocaat stelde dat het citaat mogelijk door een generatieve AI-chatbot was toegevoegd. De zaak valt in een bredere discussie over de Europese AI-verordening en de gevolgen voor overheid en beroepsgroepen.
Tuchtrechter legt kosten op
De Raad van Discipline in het ressort Amsterdam oordeelde dat de advocaat onzorgvuldig handelde door een niet-bestaand citaat als feit te presenteren. Het tuchtcollege woog mee dat dit vertrouwen in de rechtsgang schaadt. De inzet van een algoritme ontslaat een advocaat niet van de plicht om feiten te controleren. Daarom volgt een kostenveroordeling van samen ruim 2300 euro.
Het nepcitaat stond in een formele brief in een lopende procedure. De advocaat hield de mogelijkheid open dat een AI-systeem de tekst had aangevuld. De tuchtrechter benadrukte dat dit geen excuus is voor het ontbreken van broncontrole. Verifieerbare bronnen en juiste weergave van citaten blijven de verantwoordelijkheid van de jurist.
De uitspraak onderstreept hoe generatieve systemen fouten kunnen introduceren die lastig te zien zijn. Dit heet hallucineren: het model geeft een ogenschijnlijk overtuigend, maar onjuist resultaat. In juridische context kan zo’n fout snel zwaardere gevolgen hebben. Het tuchtrecht grijpt dan in om de zorgplicht te bewaken.
AI-gebruik zonder controle riskant
Generatieve AI, zoals een chatbot die tekst schrijft op basis van voorbeelden, werkt met waarschijnlijkheden. Het systeem “verzint” geen feiten, maar kan wel uitkomsten geven die niet kloppen. Dat lijkt soms overtuigend door de toon en opmaak. Juist daarom is menselijke controle nodig vóór verzending van stukken.
Hallucinatie is wanneer een AI-systeem een plausibel lijkende, maar feitelijk onjuiste bewering of bron produceert.
Veelgebruikte tools zijn ChatGPT van OpenAI, Gemini van Google en Copilot van Microsoft. Deze diensten waarschuwen, op het moment van schrijven, dat uitkomsten gecontroleerd moeten worden. Ze zetten standaard geen bronverwijzingen bij elk detail. Wie ermee werkt in een dossier, moet dus actief checken en zo nodig oorspronkelijke bronnen opvragen.
Daarnaast spelen privacy en beroepsgeheim mee. Invoer van cliëntgegevens in een publieke AI-dienst kan onder de AVG problematisch zijn, zeker bij doorgifte naar landen buiten de EU. Dataminimalisatie, versleuteling en gebruik van EU-gehoste of contractueel afgeschermde varianten zijn dan randvoorwaarden. Veel kantoren kiezen daarom voor interne, gelogde AI-oplossingen met duidelijke bewaartermijnen.
Advocatuur scherpt normen aan
De Nederlandse Orde van Advocaten wijst al langer op de plicht tot zorgvuldigheid bij digitale hulpmiddelen. Integriteit, onafhankelijkheid en vertrouwelijkheid blijven leidend, ook met nieuwe technologie. Dat betekent: citaten herleiden tot de bron, automatisch gegenereerde tekst redigeren en feitelijke claims staven. Een disclaimer over AI-gebruik vervangt die plichten niet.
Kantoren stellen steeds vaker een intern AI-beleid op. Denk aan checklists voor broncontrole, loggen van AI-gebruik en een verplicht vierogenprincipe voor processtukken. Ook afspraken met leveranciers over beveiliging en data-opslag horen daarbij. Scholing van medewerkers blijft nodig om valkuilen vroeg te herkennen.
In de rechtspraktijk groeit het draagvlak om AI-inzet transparant te maken waar dat relevant is voor de beoordeling van een stuk. Er is nog geen algemene verplichting om AI-ondersteuning in processtukken te etiketteren. Wel geldt: wie een citaat opneemt, moet kunnen laten zien waar het vandaan komt. Dat is klassiek vakmanschap, ongeacht de gebruikte software.
Europese AI-verordening stuurt bij
De Europese AI-verordening (AI Act) werkt met risicoklassen en komt gefaseerd in werking vanaf 2025. Generatieve modellen en aanbieders van algemene AI krijgen transparantie- en documentatieplichten. Dat raakt leveranciers als OpenAI, Google en Microsoft direct. Gebruikers, zoals advocatenkantoren, moeten risico’s inventariseren en passende waarborgen treffen.
De AI Act staat naast de AVG, die eisen stelt aan rechtmatige verwerking en dataminimalisatie. Voor juridische dienstverlening betekent dit: beperk persoonsgegevens in prompts, kies passende verwerkers en sluit duidelijke contracten. Ook logging en audittrail worden belangrijker, zodat achteraf is na te gaan hoe een tekst tot stand kwam.
Voor de publieke sector en de rechtspraak kunnen de regels eveneens gevolgen hebben, bijvoorbeeld bij inzet van samenvattings- of zoekalgoritmen. Transparantie over AI-hulpmiddelen helpt partijen om fouten sneller te vinden. Zo sluiten technische waarborgen en tuchtrechtelijke normen op elkaar aan.
Praktische lessen voor juristen
Controleer citaten altijd bij de oorspronkelijke bron. Gebruik AI als hulpmiddel voor structuur, maar nooit als eindredacteur. Leg vast hoe en waarmee een tekst is gemaakt. En voorkom dat confidentiële gegevens zonder noodzaak een extern model in gaan.
Werk met een vaste checklist: feitencheck, broncheck, juridische toets en interne review. Overweeg EU-gehoste of kantoorinterne modellen met toegangsbeheer. Beperk prompts tot wat strikt nodig is en verwijder testdata tijdig. Dat verkleint de kans op hallucinaties én op datalekken.
De Amsterdamse tuchtzaak laat zien dat fouten met algoritmen niet zonder gevolgen blijven. Kosten en reputatieschade liggen op de loer. Wie nu investeert in duidelijke processen, voldoet eerder aan de AI-verordening en voorkomt tuchtrechtelijke problemen later.