Een Duitse rechtbank heeft deze week geoordeeld dat Google verantwoordelijk is voor onjuiste AI-antwoorden in zijn diensten. Het gaat om resultaten die door Gemini, het generatieve AI‑model van Google, in Google Zoeken worden getoond. De zaak draait om misleidende teksten die lijken op eigen content van Google in plaats van doorverwijzingen. Dit vonnis is belangrijk voor Europa, waar de AI‑verordening (AI Act) en nieuwe aansprakelijkheidsregels de “Europese AI-verordening gevolgen overheid” en bedrijven versterken.
Rechter legt Google verantwoordelijkheid op
De rechter oordeelt dat Google niet alleen een doorgeefluik is, maar ook uitgever van AI-gegenereerde antwoorden. Daardoor kan het bedrijf aansprakelijk zijn voor schade door foutieve of lasterlijke informatie. Het onderscheid tussen een linkoverzicht en een door AI geformuleerd antwoord weegt hier zwaar. De juridische lat voor zorgvuldigheid komt daardoor hoger te liggen.
De kern van het oordeel: als Google AI-antwoorden bovenaan plaatst, presenteert het die als eigen informatie. Dan gelden strengere plichten dan bij klassieke zoekresultaten. Denk aan snelle correcties, duidelijke waarschuwingen en procedures om herhaling te voorkomen. Dat raakt direct de manier waarop Google zijn AI in Zoeken inzet.
Het vonnis geldt in Duitsland, maar kan breder doorwerken via Europese regels en nationale rechtspraak. Grote platforms passen vaak één beleid toe voor meerdere EU‑landen om risico’s te beperken. Dit kan de uitrol en presentatie van AI‑antwoorden in Europa versnellen richting meer controle en transparantie. Ook andere aanbieders van chatbots en zoekfuncties zullen hun processen herzien.
Wat er misgaat in Zoeken
Google gebruikt Gemini om zogenaamde AI-overzichten te maken: korte, samenvattende antwoorden bovenaan de pagina. Deze techniek heet generatieve AI en kan nieuwe tekst produceren op basis van trainingsdata. Het systeem werkt snel en vloeiend, maar maakt soms fouten die overtuigend klinken. Zulke fouten worden vaak “hallucinaties” genoemd.
Een AI-hallucinatie is een ogenschijnlijk overtuigend, maar feitelijk onjuist antwoord dat door een model wordt verzonnen.
Het risico is groter dan bij een lijst met links, omdat gebruikers het antwoord zien als het meest betrouwbare resultaat. Waarschuwingen of kleine disclaimers blijken dan niet altijd genoeg. Zeker bij gevoelige onderwerpen zoals gezondheid, personen of bedrijven kan schade snel ontstaan. De rechterlijke toets legt daarom nadruk op preventie en herstel.
Voor Google betekent dit dat de bronvermelding, context en foutafhandeling strakker moeten. Denk aan zichtbare bronnen, datumstempels en een eenvoudige manier om fouten te melden. Ook kan het nodig zijn om bepaalde risicovelden te beperken of handmatig te controleren. Dat kost tijd en verlaagt de kans op misinformatie.
Europese regels sturen aansprakelijkheid
De AI‑verordening richt zich op veiligheid, transparantie en risicobeheer van AI‑systemen in de EU. Generatieve modellen als Gemini vallen onder extra plichten, zoals duidelijke informatie over beperkingen. Op het moment van schrijven werken overheden en bedrijven aan de implementatie in stappen. Dit versterkt de basis voor toezicht op AI‑functies in zoekmachines en chatbots.
Daarnaast verplicht de Digital Services Act grote zoekdiensten om systeemrisico’s, zoals misinformatie, actief te beperken. Google Zoeken valt in de categorie zeer grote online zoekmachines, met strengere zorgplichten. Periodieke audits, risicobeoordelingen en toegang voor onderzoekers horen daarbij. Dit sluit aan bij de zorgplicht die de Duitse rechter benadrukt.
Op het terrein van schade en claims schuiven EU‑regels op richting software en AI. De herziening van productaansprakelijkheid en nationale onrechtmatige-daadregels bieden consumenten meer houvast. Wie schade lijdt door foutieve AI‑antwoorden kan zo makkelijker verhaal halen. Dat verhoogt de druk op aanbieders om kwaliteitscontroles te bewijzen.
Gevolgen voor Nederland
Voor Nederlandse gebruikers en organisaties kan dit vonnis het gebruik van AI‑antwoorden in zoekfuncties veranderen. Overheden en publieke instellingen moeten bij inzet van AI‑samenvattingen extra letten op betrouwbaarheid en broncontrole. Dit sluit aan bij de Europese AI‑verordening en het uitgangspunt van dataminimalisatie onder de AVG. Minder en beter gevalideerde data verkleint het risico op fouten.
Als AI‑antwoorden onjuiste persoonsgegevens bevatten, kunnen betrokkenen rechten uitoefenen onder de AVG. Denk aan inzage, correctie of verwijdering van onjuiste informatie. Dat geldt ook voor samenvattingen die reputatieschade veroorzaken. De Autoriteit Persoonsgegevens kan hier, op het moment van schrijven, klachten over behandelen.
Ook bedrijven in media, zorg en onderwijs zullen waarborgen moeten inbouwen. Bijvoorbeeld door menselijke controle bij gevoelige antwoorden, logging van modelversies en duidelijke bronverwijzingen. Contracten met leveranciers van AI‑diensten zullen vaker garanties en auditrechten eisen. Dit maakt ketenaansprakelijkheid en documentatie belangrijker.
Wat Google nu moet doen
Google zal technische en organisatorische maatregelen moeten aanscherpen om fouten te voorkomen en te herstellen. Denk aan strengere filters, betere bronselectie en zichtbare correctiemechanismen voor gebruikers. In gevoelige domeinen kan het bedrijf AI‑antwoorden beperken of extra controles toepassen. Zo verkleint het juridisch en reputatierisico.
Procedureel kan Google in beroep gaan, maar de druk om nu al aanpassingen te doen is groot. Eén landelijk vonnis kan de Europese productaanpak beïnvloeden, zeker bij uniforme systemen. Een consistent, EU‑breed beleid is praktischer dan lappendeken‑compliance. Dat is ook in het eigen belang van het bedrijf.
Voor de markt is de boodschap helder: generatieve AI in publieke zoekruimte vraagt uitgeverszorg. Disclaimers alleen zijn niet genoeg als het systeem antwoordt in eigen naam. Bedrijven moeten kunnen aantonen dat zij risico’s vooraf beheersen en fouten snel herstellen. Dat wordt de nieuwe norm onder Europees toezicht.