Een Canadese violist heeft Google aangeklaagd. De reden: AI Overviews in Google Zoeken zette hem neer als zedendelinquent. De zaak speelt in Canada en werd deze week aanhangig gemaakt. Het debat raakt ook Europa, met vragen over de Europese AI-verordening (AI Act) en de gevolgen voor overheid en platforms.
AI-overzicht beschuldigt onterecht
Bij een zoekopdracht naar de naam van de musicus gaf AI Overviews een samenvatting die hem ten onrechte koppelde aan zedendelicten. AI Overviews is de door Google ingevoegde tekstblok bovenaan de resultatenpagina. Het systeem gebruikt grote taalmodellen om bronmateriaal samen te vatten. In dit geval leidde dat tot een ernstige en onjuiste beschuldiging.
De violist spreekt van reputatieschade en emotionele stress. Hij eist een rectificatie en een schadevergoeding. Ook wil hij dat Google maatregelen neemt om herhaling te voorkomen. De claim richt zich op laster door een automatisch gegenereerde tekst.
De fout toont een bekend risico van generatieve systemen: ze kunnen verzinnen of combineren wat niet klopt. Dat gebeurt vooral bij namen met verwarring tussen personen of bij slecht gelabelde bronnen. Ook kunnen modellen een losse suggestie als feit presenteren. De impact is groot wanneer het bovenaan Google Zoeken verschijnt.
Google’s model schiet tekort
AI Overviews draait op Google’s Gemini-modellen, een familie van datamodellen die teksten genereren. Het systeem probeert antwoorden te geven in eigen woorden. Het verwijst soms naar bronnen, maar die zijn niet altijd compleet of correct. Bij gevoelige onderwerpen kan één verkeerde koppeling genoeg zijn voor ernstige fouten.
Hallucinaties zijn uitkomsten waarin een AI-systeem met grote zekerheid iets onjuists of verzonnens presenteert als feit.
Google heeft eerder extra waarborgen aangekondigd voor AI Overviews. Zo worden bepaalde onderwerpen beperkt en worden signalen voor lage kwaliteit zwaarder meegewogen. Toch blijven er gevallen door de filters glippen. Dat geldt zeker bij persoonsnamen, waar context en nuance cruciaal zijn.
Het bedrijf kan resultaten achteraf aanpassen of onderdrukken. Maar correcties komen vaak pas na een melding. Intussen is de schade al aangericht en wordt de tekst soms overgenomen door andere sites. De noodzaak van snelle en transparante herstelprocessen is daardoor groot.
Juridische inzet en schade
De kern van de zaak is smaad door een automatisch gegenereerde publicatie. De violist stelt dat Google als uitgever verantwoordelijkheid draagt voor de verspreiding. Hij vraagt de rechter om schadevergoeding en duidelijke waarborgen tegen herhaling. Ook wil hij dat het onjuiste profiel volledig verdwijnt uit zicht.
In Canada en Europa weegt de context van publicatie mee bij aansprakelijkheid. Een prominente plek in de zoekresultaten vergroot de reikwijdte van de schade. Daarnaast kan de snelheid van verspreiding online de claim versterken. De zaak kan zo een precedent scheppen voor AI-gestuurde samenvattingen.
Belangrijk is ook hoe snel en zichtbaar rectificaties plaatsvinden. Een korte disclaimer bovenaan helpt niet altijd tegen blijvende beeldvorming. Financiële compensatie dekt reputatieschade vaak maar deels. Structurele aanpassingen aan het algoritme blijven daarom centraal in de eis.
Europese regels raken zoekmachines
In de EU vallen Google Zoeken en AI Overviews onder de Digital Services Act (DSA). Die verplicht zeer grote platforms tot risicobeoordelingen, transparantie en effectieve klachtenafhandeling. Onterechte beschuldigingen en reputatieschade gelden als te beperken systeemrisico’s. Nationale toezichthouders kunnen boetes opleggen bij tekortschietende maatregelen.
De Europese AI-verordening (AI Act) legt op het moment van schrijven transparantieplichten op voor generatieve AI en krachtige algemene modellen. Dat omvat onder meer technische documentatie, veiligheidsmaatregelen en duidelijke gebruikersinformatie. Voor overheden en publieke diensten spelen “Europese AI-verordening gevolgen overheid” rond inkoop en risicobeheer. Publieke instellingen moeten extra zorgvuldig omgaan met AI-antwoorden in dienstverlening.
Daarnaast geeft de AVG burgers rechten op inzage, rectificatie en in sommige gevallen verwijdering. Bij onjuiste persoonsgegevens in zoekresultaten kan een betrokkene om aanpassing of verwijdering vragen. Het bekende “recht om vergeten te worden” kan hier relevant zijn. Vooral wanneer de informatie aantoonbaar onjuist of niet langer passend is.
Bronnen en context ontbreken vaak
AI Overviews toont niet altijd alle geraadpleegde bronnen of de herkomst van claims. Voor gebruikers is het dan lastig om te controleren wat klopt. Zeker bij persoonsgebonden informatie is dat een probleem. Een kleine onnauwkeurigheid kan grote gevolgen hebben voor iemands naam.
Transparantie over bronnen en datumstempels helpt bij beoordeling van de kwaliteit. Ook duidelijke signalen wanneer het systeem onzeker is, kunnen schade voorkomen. Sommige onderzoekers pleiten voor strengere drempels bij namen en strafrechtelijke termen. Dat verkleint de kans dat losse internetclaims als feit worden gepresenteerd.
Technisch is betere bronverificatie mogelijk, maar dit kost snelheid en rekenkracht. Google balanceert zo tussen kwaliteit en prestaties. De huidige zaak laat zien dat de weging anders moet uitvallen bij gevoelige thema’s. Precisie gaat dan boven snelheid en dekking.
Gevolgen voor gebruikers en overheid
Voor burgers blijft het advies: controleer elk AI-antwoord, zeker bij gevoelige onderwerpen. Klik door naar meerdere bronnen en let op betrouwbaarheid en actualiteit. Meld onjuistheden via de rapportageknop in de zoekresultaten. Bewaar schermafbeeldingen bij ernstige fouten voor een klacht of juridische stap.
Overheidsorganisaties en scholen doen er goed aan AI-samenvattingen niet één-op-één over te nemen. Neem interne richtlijnen op voor broncontrole en archivering van beslisinformatie. Documenteer hoe generatieve systemen worden gebruikt in werkprocessen. Zo voldoet u aan de transparantie-eisen uit de AI Act en de AVG.
Voor bedrijven die communiceren over personen is extra zorgplicht passend. Laat gevoelige claims altijd door een mens verifiëren. Houd een snelle rectificatieprocedure paraat bij fouten in naam en toenaam. Dat beperkt juridische risico’s en reputatieschade.