Google ligt onder vuur om zijn AI‑samenvattingen in de zoekmachine. De functie geeft volgens artsen en gebruikers misleidende gezondheidsinformatie. Het probleem speelt vooral in landen waar de functie al draait, maar raakt ook Europa en Nederland. De discussie raakt direct aan de Europese AI‑verordening en de gevolgen voor overheidstoezicht.
AI-samenvattingen misleiden zorgzoekers
De AI‑samenvattingen in Google Search tonen bovenaan automatisch gegenereerde antwoorden. Bij medische vragen leveren die antwoorden soms onjuiste of onveilige adviezen op. Zorgprofessionals waarschuwen dat dit mensen kan aanzetten tot verkeerd handelen.
Het gaat om uiteenlopende onderwerpen, zoals medicijngebruik, voeding en eerste hulp. De toon van de samenvattingen wekt snel gezag, omdat het antwoord boven de gewone links staat. Daarmee kan het de betrouwbaarheid van onderliggende bronnen overschaduwen.
Vooral bij vage of complexe vragen schiet het systeem tekort. Het model vult ontbrekende feiten aan, een fout die bekendstaat als “hallucineren” bij taalmodellen. Daardoor ontstaat een mix van juiste en foutieve informatie die lastig te doorzien is.
Kwaliteit blijft wisselend
De functie draait op Google’s taalmodel Gemini, dat tekst samenvat en herformuleert. Het systeem haalt informatie op uit webpagina’s en plakt die samen tot één antwoord. Zo’n samenvoeging kan nuance verliezen of veilige randvoorwaarden weglaten.
Google zegt extra veiligheidslagen te gebruiken, zoals filters en evaluaties. Toch glippen fouten door, zeker bij dubbelzinnige zoekopdrachten of ironische voorbeelden. Ook de context van het land en de taal maakt uit, waardoor antwoorden per regio verschillen.
Gebruikers zien soms citaten en links onder de samenvatting, maar die zijn niet altijd leidend. De selectie van bronnen en de weging blijven grotendeels onzichtbaar. Transparantie over de herkomst van beweringen is daardoor beperkt.
AI‑samenvattingen zijn korte, automatische antwoorden boven de zoekresultaten, gegenereerd door een taalmodel dat patronen in tekst herkent.
Europese regels zetten kaders
In de EU vallen Google Search en AI‑samenvattingen onder meerdere regimes. De Digital Services Act classificeert Google als zeer grote online zoekmachine, met plichten om systeemrisico’s zoals desinformatie te beperken. Dat omvat risicobeoordelingen, mitigatie en externe audits.
De AI‑verordening (AI Act) legt daarnaast transparantie‑eisen op aan aanbieders van algemene AI‑modellen zoals Gemini. Denk aan technische documentatie, evaluaties en maatregelen tegen misbruik. Bij modellen met een “systemisch risico” geldt extra toezicht en incidentmelding.
Toezichthouders kunnen ingrijpen als gezondheidsmisleiding structureel blijkt. De Europese Commissie kan onder de DSA boetes opleggen bij onvoldoende risicobeperking. Nationale autoriteiten, zoals de ACM, hebben een rol bij consumentenbescherming en naleving.
Impact voor Nederlandse gebruikers
De AI‑samenvattingen zijn in de EU op het moment van schrijven nog beperkt beschikbaar. Toch kan Nederland indirect geraakt worden, bijvoorbeeld via Engelstalige resultaten of reizen. Bovendien bepalen EU‑regels hoe en wanneer Google de functie hier mag uitrollen.
Gezondheidszoekopdrachten raken ook aan privacy. Medische termen in zoekvragen zijn gevoelige gegevens onder de AVG, die dataminimalisatie en zorgvuldigheid vereist. Dat vergroot de plicht om onnodige verzameling en profiling te beperken.
Voor burgers blijft bronkritiek essentieel, zeker bij medische kwesties. Controleer of erkende organisaties worden aangehaald, zoals Thuisarts.nl of RIVM. Huisartsen en apothekers raden aan online informatie niet te zien als persoonlijk medisch advies.
Google belooft verbeteringen
Google zegt de nauwkeurigheid te verhogen met modelupdates en extra waarborgen. Het bedrijf beperkt risicovolle vraagtypes en verfijnt bronselectie. Feedbackknoppen moeten helpen fouten sneller te melden en te corrigeren.
Bij medische onderwerpen verschijnen vaker waarschuwingen en verwijzingen naar hulpdiensten. Ook werkt Google aan duidelijkere toelichting hoe antwoorden tot stand komen. Een betere uitleg kan het vertrouwen verbeteren, maar lost inhoudelijke fouten niet vanzelf op.
Wanneer een volledige en veilige uitrol in de EU volgt, blijft onduidelijk. De combinatie van DSA‑plichten en de AI‑verordening vraagt aantoonbare risicobeheersing. Tot die tijd zal de beschikbaarheid per land en taal waarschijnlijk verschillen.
Wat organisaties nu kunnen doen
Zorginstellingen en overheden doen er goed aan hun online medische informatie helder op te bouwen. Duidelijke koppen, actuele richtlijnen en bronvermelding vergroten de kans dat algoritmen juiste accenten leggen. Dit helpt ook bij een latere uitrol van AI‑samenvattingen in Nederland.
Beleidsmakers kunnen intussen toetsen of mitigatieplannen van zeer grote zoekmachines voldoen aan de DSA. Evaluaties door onafhankelijke experts en transparantierapporten zijn hierbij sleutelstukken. Dit maakt toezicht concreet en uitvoerbaar.
Voor de overheid speelt nog een bredere vraag: Europese AI‑verordening gevolgen overheid en publieke dienstverlening. Als generatieve systemen vaker tussen burger en informatie komen, verandert de toegang tot zorgadvies. Dat vraagt om duidelijke richtlijnen voor online publieke informatie en klachtenafhandeling.
