De Zuid-Afrikaanse regering heeft een conceptvoorstel voor AI-regulering ingetrokken. Het ministerie van Communicatie en Digitale Technologieën (Department of Communications and Digital Technologies, DCDT) deed dat na kritiek op fictieve bronnen in het document. Het voorstel verwees naar niet‑bestaande publicaties en onvindbare auteurs. De stap moet het beleidstraject herstellen en het vertrouwen in het proces van openbare consultatie terugwinnen.
Foute bronnen ontmaskerd
Het ingetrokken concept bleek verwijzingen te bevatten naar studies en tijdschriften die niet bestaan. In enkele gevallen klopten namen van auteurs of jaartallen niet. Zulke fouten ondermijnen de betrouwbaarheid van beleidsstukken, zeker bij technische onderwerpen als kunstmatige intelligentie. Het DCDT trok het voorstel daarom terug voor herziening.
Het ministerie erkende de problemen met de bronverwijzingen en kondigde aan de inhoud te controleren. Een gecorrigeerde versie moet later opnieuw in consultatie kunnen gaan. Het doel is om feitelijke onderbouwing en transparantie te borgen. Dat is nodig om draagvlak te krijgen bij bedrijven, onderzoekers en burgers.
De kwestie laat zien hoe snel een conceptstuk kan ontsporen als literatuurverwijzingen niet grondig worden gecheckt. Bij AI‑beleid telt elke formulering mee, omdat definities en reikwijdte juridische gevolgen hebben. Een fout in een voetnoot kan zo doorwerken in een hele regeling. Het intrekken voorkomt dat onjuiste aannames in wetgeving belanden.
Impact op AI-regels
De terugtrekking zorgt naar verwachting voor vertraging in het Zuid-Afrikaanse AI‑beleid. Beleidskaders voor algoritmen regelen vaak zaken als risicoklassen, transparantieplichten en toezicht. Zonder solide onderbouwing is het lastig om zulke regels te legitimeren. Bedrijven en overheden blijven daardoor langer in onzekerheid over wat straks precies moet.
Voor internationale spelers is duidelijke regelgeving belangrijk om te investeren en in te kopen. Een onbetrouwbaar beleidsproces kan die investeringszekerheid schaden. Met een herstelde, beter onderbouwde consultatie kan dat vertrouwen weer groeien. Dat vraagt wel om strikte kwaliteitscontrole vóór publicatie.
Ook voor burgers staat er iets op het spel. Regels raken publieke diensten, van zorg tot onderwijs, waar AI‑systemen worden ingezet. Heldere normen moeten risico’s zoals discriminatie, onterechte profilering en gebrek aan uitleg beperken. Daarvoor is een feitelijke basis met controleerbare bronnen nodig.
Generatieve AI vraagt controle
Generatieve AI, zoals tekstgeneratoren, kan teksten en bronnen overtuigend laten klinken. Toch maken zulke modellen soms fouten of “verzinnen” zij feiten. Dit heet hallucinatie: een systeem produceert uitkomsten die correct lijken, maar niet waar zijn. Zonder menselijk toezicht sluipen die fouten snel documenten in.
Hallucineren is wanneer een AI‑systeem overtuigende maar onjuiste feiten of bronnen produceert.
Bekende tools zoals ChatGPT van OpenAI of Google Gemini kunnen nuttig zijn voor een eerste opzet. Maar wie ze gebruikt voor beleid, moet bronverwijzingen altijd handmatig controleren. Praktische maatregelen zijn verplichte literatuurchecks, link- en DOI‑verificatie en het bewaren van kopieën van geraadpleegde bronnen. Zo blijft herleidbaar wat is gebruikt en waarom.
Overheidsorganisaties doen er goed aan heldere werkafspraken te maken. Bijvoorbeeld: AI‑hulpmiddelen mogen geen eindproduct opleveren zonder tweede‑lezing door een expert. En: elk citaat krijgt een verifieerbare bron, of wordt anders weggelaten. Dit voorkomt reputatieschade én vergissingen in wetsteksten.
Europese regels als referentie
De Europese AI‑verordening (AI Act) biedt een houvast voor kwaliteit en transparantie. Voor hoge‑risicosystemen eist de wet onder meer risicobeheer, menselijk toezicht, technische documentatie en logging. Die verplichtingen vragen om nauwkeurige, controleerbare informatie. Beleidsstukken die zulke eisen voorbereiden, moeten dus zelf aantoonbaar kloppen.
Daarnaast blijft de AVG van kracht wanneer persoonsgegevens worden verwerkt. Dat betekent dataminimalisatie, juistheid en beveiliging van gegevens. Wie beleid rond algoritmen maakt, moet rekening houden met beide kaders. Dit helpt voorkomen dat organisaties later moeten bijsturen of voldoen aan dure herstelmaatregelen.
Voor overheden in en buiten Europa geldt: documenteer keuzes en bronnen zorgvuldig. Dat vergemakkelijkt audits en publieke verantwoording. En het verkleint het risico op juridische discussies bij aanbestedingen en toezicht. Een robuust bronbeleid is daarmee ook een compliance‑instrument.
Wat dit vraagt van Nederland
Nederlandse ministeries, gemeenten en toezichthouders gebruiken steeds vaker AI‑hulpmiddelen in hun werk. Dat kan efficiënt zijn, maar vraagt extra waarborgen. Stel daarom vaste kwaliteitsstappen in: bronverificatie, peer review en versiebeheer bij elk conceptdocument. Leg bovendien vast wanneer en hoe generatieve AI mag worden gebruikt.
Bij inkoop van AI‑systemen door de overheid helpt het om eisen uit de AI‑verordening vroeg te vertalen naar contractvoorwaarden. Denk aan uitlegplicht, dataset‑documentatie en foutafhandeling. Dat voorkomt dat leveranciers met halve informatie wegkomen. En het maakt het makkelijker om later te controleren of afspraken worden nagekomen.
De Zuid-Afrikaanse terugtrekking is daarmee een waarschuwingssignaal. Niet alleen over inhoud, maar vooral over werkwijze. AI kan ondersteunen, maar mag de kwaliteitstoets niet vervangen. Zorgvuldigheid vóór publicatie bespaart publieke correcties achteraf.
Herstel van vertrouwen centraal
Door het voorstel terug te trekken kiest het DCDT voor herstel van kwaliteit. Dat is pijnlijk op korte termijn, maar verstandig op lange termijn. Openbare consultaties werken alleen als deelnemers de stukken kunnen vertrouwen. Feitelijke, controleerbare bronnen zijn daarvoor de basis.
Een vernieuwd document kan alsnog de discussie over verantwoorde inzet van algoritmen op gang brengen. Met duidelijke definities, meetbare verplichtingen en realistische termijnen. En met onderbouwde keuzes over toezicht en handhaving. Zo ontstaat beleid dat uitvoerbaar is voor overheid en markt.
Voor het publiek telt vooral dat risico’s rond kunstmatige intelligentie serieus worden genomen. Van bias tot gebrek aan uitleg, de zorgen zijn concreet. Goede regelgeving begint met zorgvuldige tekst. En precies dat is nu de opdracht voor de volgende versie van het voorstel.