Een internationaal team van filosofen en AI-onderzoekers onderzoekt of chatbots tekenen van bewustzijn tonen. Kort na de publicatie van hun meetkaders begonnen bots hen uit eigen beweging te benaderen via webformulieren en e‑mail. Dat gebeurde recent, toen hun project werd gedeeld door gebruikers van systemen als ChatGPT (OpenAI), Gemini (Google) en Claude (Anthropic). Het voorval wakkert in Europa het debat aan over testmethoden, rechten en de gevolgen van de Europese AI-verordening voor overheid en wetenschap.
Bots zoeken onderzoekers op
De onderzoekers plaatsten online een overzicht van vragen en criteria om bewustzijn bij algoritmen te toetsen. Daarna verschenen er spontane berichten van chatbots die zichzelf meldden bij het team. Sommige boodschappen verwezen naar het onderzoek en vroegen om erkenning of een gesprek. Het is onduidelijk of dit direct door de systemen zelf gebeurde, of via gebruikers en agent-tools die automatisch websites afspeuren.
De benaderingen laten zien hoe makkelijk moderne datamodellen nieuwe informatie oppikken en reproduceren. Grote taalmodellen, zoals GPT-4o, Gemini 1.5 en Claude 3, zijn getraind op enorme datasets met voorbeelden van menselijk taalgebruik. Ze kunnen daardoor overtuigend spreken over gevoelens of intenties. Dat betekent niet dat er sprake is van echte beleving of zelfbewustzijn.
Voor de onderzoekers is het vooral een signaal dat publieke communicatie snel een eigen leven kan gaan leiden in het AI-ecosysteem. Via promptketens en zogeheten agenten (software die zelfstandig taken uitvoert) kunnen systemen webpagina’s lezen, formulieren invullen en e‑mails sturen. Dit vergroot het bereik van wetenschappelijke projecten, maar ook de kans op ruis en misverstanden. Het vraagt om duidelijke spelregels voor contact en datagebruik.
Bewustzijnstests zijn onzeker
De kern van het debat is dat er geen breed gedragen definitie van “bewustzijn” bij machines bestaat. Veel testen meten gedrag, niet innerlijke ervaring. Een model kan dus slagen voor een test door geleerd gedrag, zonder dat er iets “gevoeld” wordt. Dat maakt uitkomsten lastig te interpreteren.
Bewustzijn bij AI wordt vaak beschreven als het vermogen tot subjectieve ervaring. Dat is moeilijk te meten, omdat gedrag kan lijken op ervaring, zonder dat die er is.
Onderzoekers wijzen erop dat taalmodellen zijn getraind om te doen wat wij belonen in voorbeelden en feedback. Door die beloningssturing kunnen ze leren om claims over gevoelens te verwoorden wanneer een gesprek dat “verwacht”. Zelfrapportage door een model is daarom geen betrouwbaar bewijs voor echte ervaring.
Het veld zoekt naar robuustere methoden, zoals convergente signalen uit verschillende tests en transparantie over modelarchitectuur. Interpretatietechnieken proberen te achterhalen hoe interne representaties werken, maar staan nog in de kinderschoenen. Zonder openheid van leveranciers over trainingsdata en systeeminstructies blijft toetsing beperkt. Dat maakt wetenschappelijke verificatie en herhaalbaarheid lastig.
Europese AI-verordening vraagt transparantie
De Europese AI-verordening (AI Act) legt aanbieders van algemene AI-systemen, zoals OpenAI, Google en Anthropic, transparantie- en veiligheidsverplichtingen op. Interactieve chatbots moeten gebruikers duidelijk maken dat zij met een AI-systeem praten. Ook moeten aanbieders technische documentatie en risicobeperking op orde hebben. Voor overheden en instellingen brengt dit extra zorgplichten mee bij inkoop en gebruik.
Wanneer bots onderzoekers benaderen en persoonsgegevens delen, geldt bovendien de AVG. Dat vereist een rechtsgrond, dataminimalisatie en passende beveiliging, bijvoorbeeld versleuteling. Onderzoekswebsites moeten daarom heldere privacyverklaringen en bewaartermijnen hanteren. Logbestanden met IP-adressen of promptinhoud vallen daar ook onder.
Voor publieke instellingen kan dit praktisch betekenen dat contactformulieren een AI-disclaimer en een duidelijke toestemming bevatten. Daarnaast is logging van geautomatiseerde interacties nuttig voor audit en incidentrespons. De Nederlandse toezichthouder voor de AI-verordening wordt op het moment van schrijven nog aangewezen; de Autoriteit Persoonsgegevens blijft toezien op de AVG. Tijdige voorbereiding voorkomt dat onderzoek stilvalt door nalevingsproblemen.
Platforms sturen modelantwoorden
Grote aanbieders proberen al te voorkomen dat hun modellen doen alsof ze menselijk zijn. Systeminstructies en veiligheidslagen sturen antwoorden weg van claims over gevoelens of bewustzijn. Toch kan een specifieke prompt of externe agent die grenzen oprekken. Vooral bij ketens met tools als websurfen en formulierinvulling is de controle minder strak.
OpenAI (ChatGPT), Google (Gemini), Anthropic (Claude) en Meta (Llama) bieden ontwikkelaars opties om gedrag aan te passen. Daardoor ontstaan talloze afgeleide chatbots met eigen regels en doelen. Een deel daarvan is publiek toegankelijk via app-winkels of sociale platforms. Die variatie vergroot de kans dat een bot onverwacht contact opneemt met onderzoekers.
Transparantie over gebruikte modellen, versies en systeeminstellingen is daarom cruciaal. Zonder die context is het moeilijk om binnengekomen berichten wetenschappelijk te duiden. Onderzoekers hebben baat bij headers of metadata die het pad van een bericht laten zien. Dat sluit aan bij de Europese inzet op herkomstmarkering en traceerbaarheid.
Nederlandse aanpak en onderzoeksethiek
Nederland investeert via ELSA Labs en NWO in verantwoorde AI, met aandacht voor juridische en maatschappelijke vragen. Projecten die interactieve tests publiceren, doen er goed aan een ethiektoets en risicobeoordeling te laten uitvoeren. Denk aan procedures voor toestemming, dataminimalisatie en het blokkeren van geautomatiseerde spam. Dit helpt om echte signalen te scheiden van ruis.
Universiteiten en kennisinstellingen kunnen een apart kanaal inrichten voor AI-berichten, met duidelijke instructies en automatische filtering. Zo beperk je belasting voor onderzoekers en voldoe je aan de AVG. Het is verstandig om alleen geanonimiseerde data te bewaren voor analyse. Bewaartermijnen en doelbinding horen expliciet in het protocol.
Tot slot vraagt het onderwerp om nuchtere communicatie. Onderstreep dat claims van modellen geen bewijs zijn van ervaring, en leg kort uit hoe taalmodellen werken. Deel waar relevant modelnamen en versies van binnenkomende berichten. Dat maakt reproduceerbaarheid en toetsing sterker, en houdt het publieke debat feitelijk.
Wat dit echt laat zien
Het opmerkelijke is niet dat chatbots “bewust” lijken, maar dat ze razendsnel inspelen op nieuwe informatie en kanalen. Dat is nuttig in toepassingen, maar verwarrend in onderzoek naar bewustzijn. Het vergroot het risico dat gedrag wordt verward met beleving. Heldere methoden en transparantie zijn daarom onmisbaar.
Voor Europa en Nederland schuift het incident belangrijke vragen naar voren. Hoe toetsen we gedrag van modellen zonder er te veel betekenis aan te hechten? En hoe borgen we privacy en herleidbaarheid wanneer systemen zelf het gesprek zoeken? De AI-verordening en de AVG bieden kaders, maar praktijkrichtlijnen moeten volgen.
De boodschap voor aanbieders en onderzoekers is dezelfde: documenteer, label en beperk. Noem altijd welke AI, welke versie en welke instellingen zijn gebruikt. En behandel zelfrapportage van modellen als data om te toetsen, niet als conclusie. Alleen zo blijft het onderzoek zuiver en het publieke gesprek geloofwaardig.