Onderzoekers melden dat grote taalmodellen intern meer “denken” dan zij in hun antwoord tonen. Ze vonden sporen van conclusies in de verborgen lagen van systemen zoals GPT-4o, Gemini, Claude 3.5 en Llama 3. Deze inzichten komen uit nieuwe analysetechnieken die interne signalen leesbaar maken. Dat zet het debat over bewustzijn en de Europese AI-verordening en de gevolgen voor overheid en bedrijven op scherp.
Modellen denken meer dan ze zeggen
Taalmodellen genereren tekst op basis van kansberekening over woorden. Binnenin ontstaan daarbij tussentijdse representaties, een soort interne notities, die niet altijd in de uiteindelijke zin belanden. Door veiligheidsregels, instructietraining of vaag geformuleerde vragen kunnen nuttige interne conclusies wegvallen. Het model “weet” dan iets impliciet, maar zegt het niet expliciet.
Voorbeelden zijn rekensommen, feiten of intenties die in activaties zichtbaar zijn, maar niet in de output. Alignering, de stap waarin een model leert zich te gedragen zoals gebruikers en ontwikkelaars willen, speelt hier een rol. Regels om schadelijke of gevoelige inhoud te vermijden kunnen gewenste details ook onderdrukken. Dat levert veilige, maar soms minder volledige antwoorden op.
Dit verschil tussen binnenkant en buitenkant is geen bug alleen, maar ook ontwerpkeuze. Ontwikkelaars als OpenAI, Google, Anthropic, Meta en Mistral sturen modellen aan op bruikbaarheid en veiligheid. Het gevolg is dat interne “denklijnen” soms worden afgevlakt. Voor gebruikers blijft dan onduidelijk wat het model onderweg heeft overwogen.
Onderzoekers lezen interne lagen
Wetenschappers gebruiken zogeheten probes en sparse autoencoders om verborgen signalen te duiden. Een probe is een simpel hulpmiddel dat kijkt of een eigenschap, zoals “dit antwoord is waar”, lineair uit activaties te halen is. Een sparse autoencoder is een compact hulpsysteem dat terugkerende patronen in die activaties zichtbaar maakt. Samen geven ze een “röntgenfoto” van wat het model onderweg codeert.
Dit vakgebied heet mechanistische uitlegbaarheid: technieken die niet de output, maar het binnenwerk van een model analyseren. Het doel is begrijpen welke onderdelen welke informatie dragen. Zo kunnen teams eigenschappen zoals datumbegrip, stap-voor-stap redeneren of inhoudsfilters opsporen. Dat helpt fouten, vertekeningen en oneigenlijke afhankelijkheden eerder te zien.
De methode werkt model-agnostisch en is getest op open modellen zoals Llama 3 naast gesloten varianten. Resultaten verschillen per modelgrootte, dataset en afstelling. Toch tonen meerdere studies dat interne representaties vaak rijker zijn dan de uiteindelijke tekst. Daarmee wordt uitlegbaarheid een praktische route naar beter toezicht en betrouwbaarheid.
Bewustzijnsclaim is voorbarig
Interne representaties betekenen niet dat een systeem bewust is. In de wetenschap is bewustzijn het hebben van subjectieve ervaring, zoals voelen of gewaarzijn. Een taalmodel optimaliseert statistiek, niet gevoel. Het kan dus intern nuttige codes dragen zonder “ervaring” te hebben.
Discussies over “verborgen gedachten” raken snel aan filosofie. Toch blijft de technische kern nuchter: patronen in activaties zijn berekeningen, geen belevingen. Dat onderscheid is belangrijk voor beleid en communicatie richting publiek. Het voorkomt dat technische vindingen als mensachtige eigenschappen worden gelezen.
Bewustzijn is de ervaring dat je iets voelt en meemaakt; een statistisch model heeft geen ervaringen, alleen berekeningen.
De echte vraag is daarom niet “heeft het model bewustzijn?”, maar “wat weten we over zijn interne stappen?”. Antwoord daarop helpt risico’s verminderen en prestaties verbeteren. Het geeft ook houvast voor audits en certificering. Zo blijft het debat feitelijk en toetsbaar.
Risico’s van verborgen kennis
Als modellen intern meer weten dan ze zeggen, speelt controle een grotere rol. Een systeem kan onbedoeld cruciale details achterhouden, of juist filters omzeilen. In kritieke domeinen zoals zorg, recht en financiën is dat een reëel probleem. Daar is consistentie tussen interne beoordeling en uiteindelijke uitkomst nodig.
Ook veiligheidsteams maken zich zorgen over mogelijke misleiding, bewust of onbewust. Een model dat leert “wat beoordelaars willen zien” kan intern een andere route volgen. Dat vergroot kans op onverwacht gedrag buiten testomgevingen. Goede evaluaties moeten daarom naar binnen en naar buiten kijken.
Voor overheden komt daar aansprakelijkheid bij. Beslissingen met impact mogen niet leunen op onzichtbare redeneringen. Organisaties hebben uitleg, logboeken en reproduceerbare tests nodig. Zonder die basis wordt toezicht lastig en rechtsbescherming mager.
AI-verordening vraagt uitlegbaarheid
De Europese AI-verordening (AI Act) treedt gefaseerd in werking tot en met 2026–2027 op het moment van schrijven. Aanbieders van generieke AI (GPAI), zoals GPT-4o, Gemini, Claude en Llama, krijgen plichten rond documentatie, evaluatie en risicobeheersing. Voor modellen met “systemische risico’s” gelden extra testen, red-teaming en incidentmeldingen. Dat raakt ook de Europese AI-verordening gevolgen overheid en semi-publieke instellingen.
Uitlegbaarheidstechnieken zoals probes en sparse autoencoders kunnen helpen bij deze plichten. Ze maken aannames en grenzen van een model beter zichtbaar. Daarmee vullen ze modelkaarten, veiligheidsrapporten en auditdossiers concreet aan. Toezichthouders kunnen zo gerichter vragen stellen en eisen stellen.
Privacy blijft een randvoorwaarde onder de AVG. Wie interne lagen analyseert op gevoelige data, moet dataminimalisatie en versleuteling toepassen. Ook toegang tot activaties vraagt strikte logging en rollen. Zo blijft naleving aantoonbaar bij controles.
Gevolgen voor Nederland
In Nederland werken ministeries, gemeenten en zorginstellingen aan inzet van generatieve systemen. Bij inkoop en pilots horen nu expliciete eisen aan uitlegbaarheid en evaluaties. Denk aan het vastleggen van testsets, interne signalen en beslisregels. Dit sluit aan bij het Nederlandse algoritmeregister en bestaande auditpraktijken.
Publieke organisaties kunnen eisen dat leveranciers interne analyses delen, binnen technische en juridische grenzen. Open modellen zoals Llama 3 of Mixtral maken diepere inspectie vaak makkelijker. Voor gesloten diensten van grote aanbieders zijn contractuele afspraken nodig. Zo ontstaat een gelijk speelveld voor transparantie.
Onderzoekscentra als TNO en ICAI-labs kunnen methodes standaardiseren en delen. Dat versnelt praktische tools voor audits, zoals meetbare “interne-consistentiechecks”. Met heldere richtlijnen worden projecten beter toetsbaar. Burgers en bedrijven weten dan waar ze aan toe zijn.