De Amerikaanse overheid publiceerde deze week een kaart die met kunstmatige intelligentie was gemaakt, waarop zes Afrikaanse landen op de verkeerde plek stonden. De fout stond online in officiële communicatie uit de VS. Het incident laat zien hoe snel generatieve systemen fouten kunnen maken zonder menselijke controle. Het roept ook vragen op over de Europese AI-verordening gevolgen overheid, zeker als overheden algoritmen inzetten voor publieke informatie.
AI-kaart zet landen verkeerd
Op de kaart waren zes landen op een verkeerde locatie geplaatst. Namen en grenzen waren door elkaar gehaald. Het beeld zag er overtuigend uit, maar klopte niet. Juist dat maakt zulke fouten lastig te zien.
De kaart was gemaakt met een generatieve AI-tool. Zo’n tool zet een korte instructie, een prompt, om in een afbeelding. Het algoritme vult details in op basis van voorbeelden uit trainingsdata. Daardoor kan het systeem ook zelfverzekerd verkeerde informatie tonen.
De misplaatste landen werden snel opgemerkt door gebruikers. Daarna werd de kaart aangepast in de online communicatie. Een officiële toelichting op het besluit is op het moment van schrijven niet bekend.
Menselijke controle ontbrak
Bij communicatie van overheden hoort controle door een mens. Dat heet human-in-the-loop: een medewerker keurt het resultaat voordat het live gaat. In dit geval lijkt die laatste check te hebben ontbroken. Daardoor kon de fout de publicatie halen.
Generatieve modellen maken zogenoemde hallucinaties. Dat zijn uitkomsten die er echt uitzien, maar feitelijk niet kloppen. Bij kaarten gaat het dan om grenzen, namen of verhoudingen. Zonder vakkennis valt zo’n fout niet altijd op.
Een simpele checklist helpt al. Laat kaarten voor publicatie altijd controleren door een cartograaf of geo-specialist. Gebruik waar mogelijk een betrouwbaar datamodel, zoals officiële GIS-data, en zet automatische waarschuwingen aan bij onlogische resultaten.
EU-regels verplichten zorgvuldigheid
Europa werkt met de AI-verordening (AI Act) aan harde regels voor AI in de publieke sector. Systemen met een hoger risico, zoals toepassingen die beleid of burgers raken, moeten aan strenge eisen voldoen. Dat gaat over datakwaliteit, uitlegbaarheid en menselijk toezicht. Voor generatieve systemen gelden bovendien transparantieplichten.
Een kaart voor publieke voorlichting valt meestal in een lagere risicoklasse. Toch gelden ook dan basisregels, zoals duidelijke labeling en interne kwaliteitscontrole. Organisaties moeten kunnen uitleggen welke dataset, welk model en welke instellingen zijn gebruikt. Dat maakt fouten herleidbaar en beter te herstellen.
Voor Nederlandse overheden sluit dit aan bij bestaande praktijk. Steeds meer instanties publiceren een algoritmeregister en hanteren een rijksbreed algoritmekader. Ook de AVG blijft gelden zodra persoonsgegevens in beeld komen, met eisen als dataminimalisatie en beveiliging.
De AI-verordening (AI Act) vraagt om gedocumenteerde datasets, risicobeheer en menselijk toezicht voor AI-toepassingen met verhoogd risico in de overheid.
Risico’s voor misinformatie
Foute kaarten verspreiden zich snel via sociale media. Ze worden gedownload, gedeeld en opnieuw gebruikt buiten de oorspronkelijke context. Zo kan een eenmalige vergissing maandenlang blijven rondzingen. Dat vergroot het risico op misinformatie.
Bij geografie ligt gevoeligheid extra hoog. Een verkeerde grens of naam kan diplomatieke irritatie wekken. In Afrika, met veel jonge staten en recente grenswijzigingen, zijn details belangrijk. Een misser van een officiële afzender krijgt daarom extra gewicht.
Technische maatregelen helpen om schade te beperken. Voeg zichtbare labels toe zoals ‘AI-gegenereerd’ en publiceer bronbestanden met correcte metadata. Zet ook een duidelijk correctiebeleid klaar, zodat onjuiste beelden snel worden vervangen.
Lessen voor overheid en media
Kies bij kaarten eerst voor bewezen middelen. Gebruik officiële bronnen zoals nationale kaartdiensten, Eurostat GISCO of OpenStreetMap in plaats van generatieve beelden. Laat generatieve AI hooguit ondersteunend werken, niet als eindproduct. Dat verkleint de kans op fouten.
Leg afspraken vast met leveranciers van AI-diensten. Vraag om een model card, een korte beschrijving van beperkingen en geteste scenario’s. Eis logbestanden, valideringsrapporten en een contactpunt voor incidenten. Zo blijft verantwoordelijkheid helder in de keten.
Train teams in basiskennis van datamodellen en geodata. Een korte opleiding vergroot de kans dat iemand een vreemde projectie of label ziet. Plan daarnaast periodieke ‘red team’-tests met externe experts. Die zoeken actief naar zwakke plekken voordat het publiek dat doet.