ChatGPT is een taalmodel dat antwoorden genereert door woord voor woord te voorspellen welk woord het beste past, op basis van miljarden tekstpatronen die het tijdens de training heeft geleerd. Het is geen zoekmachine, geen database met feiten en geen denkend wezen.
Het is een zeer geavanceerd patroonherkenningssysteem dat zo goed is geworden in het nabootsen van menselijke taal dat de uitkomst nauwelijks van een menselijk antwoord te onderscheiden is.
Hoe werkt ChatGPT?
ChatGPT werkt door bij elke reactie woord voor woord te voorspellen wat het meest logische volgende woord is, gebaseerd op alles wat het tijdens de training heeft geleerd én alles wat er in het huidige gesprek al is gezegd. Het programma heeft geen toegang tot het internet tijdens een gesprek en zoekt geen feiten op. Het genereert een antwoord volledig op basis van patronen die het eerder heeft gezien.
Stel je een vraag, dan analyseert ChatGPT jouw vraag, kijkt het naar de context van het gesprek en bouwt het het woord voor woord een antwoord op. Elk woord dat het kiest, beïnvloedt het volgende woord. Zo ontstaat een vloeiend antwoord dat klinkt alsof iemand het bewust heeft geschreven, terwijl het in werkelijkheid het resultaat is van een zeer snelle reeks statistische voorspellingen.
Hoe heeft ChatGPT leren schrijven?
ChatGPT heeft leren schrijven door miljarden teksten te lezen en te oefenen met het voorspellen van ontbrekende woorden. Tijdens de training kreeg het steeds zinnen te zien waaruit een woord was weggehaald, met als taak het juiste woord te raden.
In het begin ging dat slecht. Op de zin "de lucht is..." kon het zo "sandwich" of "zeventien" antwoorden. Elke fout werd gecorrigeerd en dit herhaalde zich miljarden keren. Zo leerde het programma dat "de lucht is blauw" logischer is dan elke andere combinatie. Volgens Google AI is dit principe, het leren van relaties tussen woorden op basis van grote hoeveelheden tekst, de kern van hoe moderne taalmodellen werken.
ChatGPT begrijpt woorden niet zoals mensen dat doen. Wanneer jij het woord "hond" hoort, zie je een dier voor je. ChatGPT weet alleen dat "hond" vaak verschijnt naast woorden als "blaffen", "vacht" en "uitlaten". Niet door begrip, maar door herhaling.
Wat zijn neurale netwerken?
Neurale netwerken zijn de bouwstenen van ChatGPT. ChatGPT bestaat niet uit één groot systeem maar uit vele kleinere netwerken die elk een eigen specialisatie hebben en samenwerken om een antwoord te produceren.
Wanneer jij een vraag stelt, gaan al deze netwerken tegelijk aan het werk:
- Het grammaticateam zorgt dat het antwoord correct is opgebouwd
- Het contextteam begrijpt waar het gesprek over gaat
- Het kennisteam haalt relevante patronen op uit de training
- Het stijlteam zorgt dat het antwoord natuurlijk klinkt
Die samenwerking maakt het mogelijk dat ChatGPT niet alleen losse zinnen produceert maar ook langere, samenhangende teksten schrijft die logisch op elkaar aansluiten.
Hoe onthoudt ChatGPT wat je eerder zei?
ChatGPT onthoudt eerdere berichten in een gesprek via een mechanisme dat "attention" heet. Bij elk nieuw woord dat het genereert, kijkt het terug naar het hele gesprek en bepaalt welke eerdere informatie het meest relevant is voor het volgende woord.
Als je eerder vroeg naar je hond en nu vraagt waar je eten kunt kopen, verbindt ChatGPT die twee dingen en begrijpt het dat je waarschijnlijk vraagt naar hondenvoer. Onderzoekers van Google Brain introduceerden dit principe in 2017 in het paper "Attention Is All You Need", dat de technische basis legde voor hoe ChatGPT en vergelijkbare modellen vandaag de dag werken.
Belangrijk om te weten: dit geheugen geldt alleen binnen één gesprek. Zodra je een nieuw gesprek start, begint ChatGPT opnieuw zonder enige herinnering aan eerdere sessies.
Waarom maakt ChatGPT soms fouten?
ChatGPT maakt fouten omdat het geen feiten opslaat maar patronen herkent. Jij weet dat Parijs in Frankrijk ligt als een concreet feit. ChatGPT weet alleen dat "Parijs", "hoofdstad" en "Frankrijk" heel vaak samen in teksten voorkomen en genereert op basis daarvan een antwoord dat correct klinkt.
Dat werkt de meeste tijd goed, maar soms leiden die patronen naar een verkeerde conclusie. ChatGPT klinkt altijd overtuigend, ook als het fout zit. Het programma liegt niet bewust, het volgt simpelweg de patronen en die zijn niet altijd correct. Controleer daarom altijd belangrijke informatie via een betrouwbare externe bron.
Wat is fine-tuning?
Fine-tuning is de tweede trainingsfase waarbij menselijke beoordelaars ChatGPT hebben geleerd hoe een goed gesprek eruitziet. Na de basistraining voerden menselijke trainers gesprekken met het model en beoordeelden de antwoorden op bruikbaarheid, eerlijkheid en duidelijkheid.
Dit proces leerde ChatGPT niet alleen hoe woorden samenhangen, maar ook wanneer je een beleefde toon gebruikt, hoe je iets eenvoudig uitlegt en wanneer je toegeeft dat je iets niet weet. Volgens OpenAI is dit reinforcement learning from human feedback, afgekort RLHF, de stap die ChatGPT veranderde van een ruwe tekstgenerator naar een bruikbare gesprekspartner.
Wat kan ChatGPT niet?
ChatGPT heeft vier belangrijke beperkingen die je moet kennen voordat je het serieus gaat gebruiken.
- Ten eerste heeft het een vaste kenniseinddatum. Het kan het internet niet in realtime doorzoeken, waardoor recente gebeurtenissen buiten zijn kennis vallen.
- Ten tweede onthoudt het niets tussen gesprekken. Elke nieuwe chat begint als een schone lei.
- Ten derde heeft het geen bewustzijn of emoties, ook al klinkt het soms alsof dat wel zo is.
- En ten vierde kan het overtuigend klinkende fouten produceren zonder dat het zelf doorheeft dat het fout zit.
Hoe beter je deze grenzen begrijpt, hoe effectiever je ChatGPT kunt inzetten als hulpmiddel.
Afsluiting
ChatGPT is een krachtig patroonherkenningssysteem dat heeft geleerd hoe mensen schrijven en praten, en die kennis gebruikt om woord voor woord een antwoord op te bouwen. Het is geen alwetende computer maar een zeer geavanceerde schrijfassistent met duidelijke grenzen. Gebruik het als hulpmiddel, controleer de uitkomsten en stel het de juiste vragen, dan haal je er het meeste uit.
Veelgestelde vragen
Heeft ChatGPT toegang tot het internet?
Standaard niet. ChatGPT werkt op basis van wat het tijdens de training heeft geleerd en heeft een vaste kenniseinddatum. Sommige versies hebben een optionele zoekfunctie, maar die is niet standaard ingeschakeld.
Waarom geeft ChatGPT soms verkeerde antwoorden?
ChatGPT herkent patronen in tekst en slaat geen feiten op. Soms leiden die patronen naar een verkeerde conclusie, vooral bij onderwerpen die weinig in de trainingsdata voorkomen. Het klinkt altijd overtuigend, dus check belangrijke informatie altijd via een betrouwbare bron.
Onthoudt ChatGPT wat ik eerder heb gezegd?
Binnen één gesprek wel, dankzij het attentie-mechanisme. Zodra je een nieuw gesprek start, begint ChatGPT opnieuw zonder enige herinnering aan eerdere sessies.
Kan ChatGPT iets leren van mijn vragen?
Nee, niet in realtime. ChatGPT past zich niet aan op basis van jouw gesprekken. Het model wordt periodiek opnieuw getraind door OpenAI, maar dat is een apart proces.
Is ChatGPT hetzelfde als een zoekmachine?
Nee. Een zoekmachine zoekt in realtime naar bestaande pagina's op het internet. ChatGPT genereert een antwoord op basis van geleerde patronen. Het zoekt niets op maar schrijft een antwoord dat op basis van zijn training het meest logisch klinkt.