Een Duitse rechter heeft Google deze week aansprakelijk gesteld voor onjuiste AI-antwoorden die het bedrijf in Duitsland toont. Het gaat om resultaten van Gemini en de AI-overzichten in Google Zoeken. De uitspraak is relevant voor de Europese AI-verordening en de gevolgen voor overheid en bedrijven. De rechter oordeelt dat de antwoorden als eigen inhoud van Google tellen en daarom schade moeten worden voorkomen en hersteld.
Rechter legt plicht bij Google
De rechtbank stelt dat Google niet alleen moet verwijderen, maar ook moet voorkomen dat dezelfde fout terugkeert. De kern is dat de AI-tekst door Google wordt samengesteld en gepresenteerd. Daardoor draagt het bedrijf verantwoordelijkheid voor de juistheid. Een passieve rol, zoals bij een klassiek prikbord, is hier niet van toepassing.
De zaak draait om misleidende of schadelijke beweringen die via de AI-functies bovenaan de zoekpagina verschijnen. Deze plek geeft de indruk van een gezaghebbend antwoord. De rechter vindt dat dit zwaardere zorgplichten meebrengt. Disclaimers of kleine lettertjes zijn daarbij niet genoeg.
De uitspraak raakt de manier waarop grote platforms generatieve systemen inzetten. Wanneer een bedrijf antwoorden als eigen tekst publiceert, gelden strengere normen. Dat geldt zeker bij gevoelige onderwerpen of persoonsgegevens. De lat voor zorgvuldigheid komt daardoor hoger te liggen.
AI-tekst geldt als eigen content
Google gebruikt Gemini om teksten te genereren op basis van enorme hoeveelheden webinformatie. Zo’n model maakt een nieuw antwoord, het kopieert niet letterlijk één bron. Wie die uitkomst prominent toont, presenteert die als eigen bericht. Dat weegt mee in de aansprakelijkheid.
AI-overzichten, ook bekend als AI Overviews of eerder SGE (Search Generative Experience), staan vaak boven de gewone links. Gebruikers zien die eerst en nemen ze snel voor waar aan. Dat vergroot het risico op misleiding. Zeker als het antwoord geen duidelijke bronvermelding of waarschuwing heeft.
AI-overzichten zijn door een model gegenereerde samenvattingen die Google bovenaan een zoekresultaat toont, met het doel snelle context te geven.
Een belangrijk detail is herhaling van fouten. Als een verkeerde bewering na een klacht terugkomt, wordt de schade groter. De rechter vraagt daarom om effectieve preventie. Denk aan betere filters, controle op gevoelige claims en snelle correcties.
Link met EU-regels groeit
De uitspraak sluit aan bij Europese kaders die nu ingaan. De AI-verordening (AI Act) verplicht aanbieders van generatieve systemen op het moment van schrijven tot transparantie en risicobeperking. Voor grote algemene modellen, zoals Gemini, gelden extra plichten. Loggen, testen en mitigeren worden daarmee standaard.
Ook de Digital Services Act (DSA) eist zorgvuldige procedures voor meldingen en snelle verwijdering. Grote platforms moeten de systemische risico’s van hun algoritmen beperken. Dat raakt direct aan AI-antwoorden die massaal worden uitgeserveerd. Operationele controles zijn dus geen keuze meer, maar een vereiste.
Gaat het om persoonsgegevens, dan geldt de AVG. Google is in dat geval verwerkingsverantwoordelijke en moet onjuiste data herstellen of wissen. Betrokkenen hebben recht op inzage en correctie. Een fout AI-antwoord over een persoon kan daardoor een privacykwestie worden.
Nederlandse gevolgen zichtbaar
Voor Nederlandse gebruikers is de impact concreet. AI-antwoorden in het Nederlands kunnen dezelfde fouten bevatten en dezelfde schade doen. Nederlandse rechters kijken vaak naar Europese lijn en Duitse zaken, al zijn die niet automatisch bindend. De drempel om te klagen bij Google of naar de rechter te stappen kan hierdoor lager worden.
Voor overheden en publieke instellingen telt dit mee in communicatie en inkoop. Wie AI-antwoorden embedt op een site, neemt mogelijk zelf ook verantwoordelijkheid. Dat vraagt om duidelijke bronvermelding, logging en correctieroutes. Publieke partijen moeten daarbij de AVG en de AI-verordening volgen.
Toezichthouders in Nederland spelen een rol. De Autoriteit Persoonsgegevens kan optreden bij foutieve persoonsgegevens. De Autoriteit Consument & Markt kijkt naar misleiding richting consumenten. Samen kunnen zij druk zetten op snelle correcties en heldere waarschuwingen.
Aanpassingen bij Google nodig
De uitspraak dwingt tot technische en organisatorische maatregelen. Google moet foutieve claims sneller detecteren en blokkeren. Zeker bij personen, medische onderwerpen en recht of financiën is extra controle nodig. Alleen vertrouwen op gebruikersmeldingen is daarbij niet genoeg.
Transparantie wordt belangrijker. Duidelijke bronverwijzingen en zichtbare context helpen de gebruiker. Ook een directe knop voor “meld fout” met snelle opvolging hoort daarbij. Logs en auditsporen maken toetsing mogelijk door toezichthouders.
Voorlopig blijft één vraag open: hoe betrouwbaar zijn de huidige filters? Generatieve modellen blijven soms hallucineren, dat wil zeggen: zelfverzekerd onjuiste informatie geven. Daarom is menselijk toezicht op gevoelige domeinen nodig. Dat verlaagt risico’s en voldoet beter aan Europese eisen.
Wat dit voor gebruikers betekent
Neem AI-antwoorden niet klakkeloos over, zeker niet bij gevoelige keuzes. Controleer bronnen en klik door naar meerdere links. Meld fouten via de beschikbare kanalen. Dat helpt systemen verbeteren en beperkt schade.
Wordt u persoonlijk geraakt door een onjuiste AI-tekst, dan kunt u correctie of verwijdering vragen. Verwijs naar uw rechten onder de AVG. Bewaar schermafbeeldingen als bewijs. Schakel zo nodig juridische hulp in.
Voor bedrijven geldt: herzie contentprocessen met AI. Plaats waar nodig waarschuwingen en bied correcties aan. Leg afspraken vast met leveranciers over foutafhandeling en data. Zo blijft u binnen de Europese regels en beschermt u klanten en medewerkers.