Een Italiaanse gemeente start deze maand een proef met een ‘AI‑wethouder’: een digitaal adviessysteem dat beleidsstukken schrijft en opties vergelijkt. Het systeem moet bestuurders helpen om sneller en consistenter te werken. De proef vindt plaats binnen het stadhuis en raakt publieke dienstverlening. Daarmee zijn de Europese AI‑verordening (AI Act) en de AVG direct van belang voor de overheid.
Gemeente test digitale wethouder
De ‘AI‑wethouder’ is geen gekozen bestuurder, maar software die teksten opstelt, samenvat en scenario’s naast elkaar zet. Het systeem kan bijvoorbeeld concept-nota’s schrijven en voor- en nadelen van maatregelen opsommen. Doel is om besluitvorming beter te onderbouwen en werkdruk te verlagen. De inzet blijft binnen een afgebakende pilot met duidelijke spelregels.
De gemeente houdt menselijke controle: echte wethouders en ambtenaren nemen de besluiten. De AI levert suggesties en bronnen, waarna een mens controleert en aanpast. Dat principe heet ‘mens-in-de-lus’ en is een kernvereiste in Europees beleid. Het voorkomt dat een algoritme de eindbeslissing neemt.
De naam van de gebruikte AI‑tool en leverancier is op het moment van schrijven niet openbaar gemaakt. Ook is niet bekend of het om een open‑source model of een commercieel cloudproduct gaat. Dit is wel relevant voor toezicht, beveiliging en datalocatie. De gemeente belooft die punten in de evaluatie mee te nemen.
“Een ‘AI‑wethouder’ is een software-assistent die teksten schrijft, opties vergelijkt en risico’s benoemt, maar geen besluiten neemt.”
Systeem adviseert, beslist niet
De taken van het systeem blijven adviserend: schrijven, samenvatten en vergelijken. Het mag geen vergunningen afwijzen, boetes opleggen of uitkeringen toekennen. Zulke handelingen zijn bestuurlijke besluiten en vergen menselijke verantwoordelijkheid. De AI dient hier alleen als hulpmiddel.
De gemeente bouwt vangrails in, zoals bronvermelding, versies bijhouden en uitleg bij elk advies. Zo is te zien welke data en aannames zijn gebruikt. Dit helpt bij foutherstel en vermindert het risico op zogenaamde hallucinaties: verzinsels die plausibel lijken maar niet kloppen. Ook kan de raad beter controleren hoe adviezen tot stand komen.
Foutafhandeling en aansprakelijkheid zijn vooraf vastgelegd. Ambtenaren moeten afwijkingen van AI-adviezen kunnen onderbouwen. Bij fouten geldt: de organisatie is verantwoordelijk, niet het algoritme. Dat sluit aan bij bestaande bestuursrechtelijke regels.
AI‑verordening vereist toezicht
Onder de Europese AI‑verordening kan zo’n systeem in de hoge-risicoklasse vallen als het invloed heeft op besluiten die burgers raken. Dan gelden strikte eisen: risicobeheer, menselijk toezicht, logging, robuustheid en duidelijke informatie voor gebruikers. Ook moet bekend zijn welke data zijn gebruikt en met welke beperkingen. Dit wordt getoetst door nationale toezichthouders zodra de verordening in fases ingaat.
Blijft de toepassing bij beleidsvoorbereiding zonder direct rechtsgevolg, dan kan de risicoklasse lager zijn. Toch blijven transparantie en toezicht verstandig, zeker in het openbaar bestuur. De grens tussen advies en besluit kan in de praktijk verschuiven. Heldere afbakening van taken en processen is daarom essentieel.
Voor Nederlandse overheden is dit leerzaam. De AI‑verordening werkt in alle EU‑landen, dus ook gemeenten hier moeten aan dezelfde regels voldoen. Het tijdig inrichten van risicobeheer en documentatie voorkomt vertraging bij latere audits. Het maakt bovendien publieke verantwoording eenvoudiger.
Gegevens en AVG blijven knelpunt
Als het systeem persoonsgegevens verwerkt, geldt de AVG volledig. De gemeente moet dataminimalisatie toepassen, gegevens versleutelen en een DPIA uitvoeren: een gegevensbeschermingseffectbeoordeling. Ook is een duidelijke grondslag nodig, zoals taak van algemeen belang. Zonder deze basis mag de AI geen persoonsgegevens verwerken.
Datastromen buiten de EU zijn een risico. Bij gebruik van een niet‑Europese cloudleverancier zijn passende waarborgen vereist. Alternatieven zijn EU‑hosting of lokale verwerking, mits veilig ingericht. Logbestanden en promptgeschiedenis moeten beperkt en beveiligd worden.
Training met interne documenten vraagt extra zorg. Vertrouwelijke memo’s en juridisch advies mogen niet onbedoeld in een extern model terechtkomen. Daarom zijn technische blokkades en contractuele afspraken met de leverancier nodig. Ook moeten bewaartermijnen kort en gecontroleerd zijn.
Transparantie en aansprakelijkheid nodig
Burgers moeten weten dat een algoritme helpt bij beleidsvoorbereiding. Duidelijke uitleg verlaagt wantrouwen en maakt inspraak gerichter. Publiceer daarom een beschrijving in een algoritmeregister met doel, datagebruik, risico’s en contactpunt. Nederlandse gemeenten gebruiken daar nu al registers voor; Italië kan vergelijkbare stappen zetten.
Documentatie hoort standaard te zijn: modelkaarten met prestaties, beperkingen en testresultaten. Leg vast wanneer mensen mogen afwijken van AI‑advies en hoe dat wordt gemotiveerd. Dit ondersteunt kwaliteit en rechtszekerheid. Het helpt ook bij bezwaar en beroep.
Contracten met leveranciers moeten auditrechten, beveiliging en exit-opties regelen. Zo blijft de gemeente baas over data en modellen. Bij fouten moet herstel mogelijk zijn zonder lock‑in. Heldere SLA’s over beschikbaarheid en incidentmelding horen daarbij.
Lessen voor Nederlandse gemeenten
Begin klein met duidelijke doelen: bijvoorbeeld snellere notities en betere variantvergelijking. Meet effecten op kwaliteit, doorlooptijd en fouten. Evalueer met juristen, privacy‑officers en de gemeenteraad. Betrek inwoners via een laagdrempelige uitlegpagina en participatie.
Kies technologie die past bij publieke waarden: transparant, controleerbaar en veilig. Overweeg EU‑gehoste oplossingen of modellen die on‑premise kunnen draaien. Stel richtlijnen op voor prompts, brongebruik en het citeren van externe data. Train medewerkers in kritisch lezen en feitcontrole.
Gebruik de AI‑verordening en de AVG als ontwerpkader, niet als sluitstuk. Zo worden eisen voor menselijk toezicht, logging en dataminimalisatie vanaf dag één ingebouwd. Dat reduceert risico’s en versnelt opschaling als de pilot slaagt. Andere Europese steden kunnen deze aanpak hergebruiken.