Steeds meer Nederlandse dienstverleners zetten spraakrobots en generatieve AI in voor klantcontact. Toch lopen klanten vast op haperende voicebots en krijgen bestuurders rammelende adviesrapporten op tafel. Dat zet nu, in Nederland en de EU, de vraag op scherp waar de grens ligt. De inzet raakt direct aan vertrouwen, kosten en regels als de AVG en de Europese AI-verordening, met gevolgen voor overheid en bedrijven.
Voicebots schieten vaak tekort
Spraakrobots, zoals systemen op Google Dialogflow CX, Amazon Lex of OpenAI’s GPT-4o voice, vangen telefoontjes af en proberen intenties te begrijpen. Ze zetten spraak om naar tekst en kiezen een antwoord uit of genereren het zelf. Dit klinkt efficiënt, maar het werkt alleen goed als de herkenning en de logica kloppen. In de praktijk is dat vaak nog niet zo.
Dialectoorden, achtergrondlawaai en vakjargon blijven lastige punten voor spraakherkenning. Ook gaan voicebots de mist in bij uitzonderingen, zoals complexe schadeclaims of betalingsproblemen. Klanten belanden dan in herhaal-lussen of worden verkeerd doorgestuurd. Dat zorgt voor frustratie en langer wachten.
Voor organisaties levert dit reputatierisico’s en hogere kosten op door extra nazorg. Kwetsbare groepen, zoals laaggeletterden of ouderen, raken sneller de weg kwijt. In sectoren met zorgplichten, zoals banken en verzekeraars, is dat extra gevoelig. Daar telt betrouwbaarheid zwaarder dan pure efficiency.
Bedrijven beperken risico’s met smalle keuzemenu’s en snelle overdracht naar medewerkers. Toch neemt het gebruik van generatieve voice-agents toe, die vrijere antwoorden geven. Dat vergroot de kans op onjuiste of verzonnen informatie, ook wel hallucinaties. Zonder strakke grenzen en toezicht is dat een slechte ruil.
AI-verordening dwingt transparantie
De Europese AI-verordening verplicht dat klanten weten wanneer zij met een chatbot of voicebot praten. Klantcontactsystemen vallen meestal in de beperkte-risicoklasse, maar menselijke controle blijft vereist. Voor aanbieders van generatieve basismodellen gelden extra informatieplichten over risico’s en prestaties. Uitvoerders (de ‘deployers’) moeten die documentatie kunnen overleggen en erop sturen.
Termijnen lopen gefaseerd in, op het moment van schrijven tussen 2024 en 2026. Organisaties doen er goed aan nu al te loggen, te testen en te rapporteren zoals straks wordt verlangd. Wie GPT-4o, Google Dialogflow of andere modellen gebruikt, moet vastleggen welke versie draaide en met welke instellingen. Dat maakt audits en incidentonderzoek mogelijk.
De AVG blijft onverkort gelden voor alle gesprekken, transcripties en prompts met persoonsgegevens. Dataminimalisatie, doelbinding en versleuteling zijn basiseisen. Een Data Protection Impact Assessment (DPIA) is vaak nodig, zeker bij publieke organisaties of gevoelige diensten. Zonder DPIA is uitrol juridisch kwetsbaar.
De Autoriteit Persoonsgegevens let op privacyrisico’s, de ACM op misleiding en bereikbaarheidseisen. Een disclaimer is geen vrijbrief voor slechte dienstverlening. Transparantie moet gepaard gaan met duidelijke keuzemogelijkheden en een alternatief met een mens. Anders dreigen klachten, boetes en herstelkosten.
Rapporten missen vaak bewijs
Veel ‘AI-volwassenheidsscans’ en adviesrapporten leunen op checklists en generieke rijpheidsmodellen. Ze beloven snellere afhandeling en kostenvoordeel, maar onderbouwen dit soms mager. Zonder data uit pilots en A/B-tests blijven conclusies speculatief. Bestuurders krijgen dan een mooi verhaal, maar weinig houvast.
Serieuze plannen horen harde cijfers te bevatten, zoals foutpercentages en bespaarde minuten per contact. Ook moeten aannames toetsbaar zijn, met een nulmeting en afgesproken meetmomenten. Zo ontstaat een realistisch beeld van ROI én risico’s. Anders is er sprake van AI-washing.
Internationaal bieden ISO/IEC 42001 (AI-managementsysteem) en ISO/IEC 23894 (AI-risicobeheer) bruikbare kapstokken. In Nederland begeleidt NEN de adoptie van zulke normen. Onafhankelijke audits vragen om traceerbare datasets, evaluatieprotocollen en reproduceerbare resultaten. Dat voorkomt selectief shoppen met cijfers.
Inkoop kan kwaliteit borgen door bewijslast in contracten vast te leggen. Vraag om prestatiegaranties op herkenning, doorverwijzing en beschikbaarheid. Eis toegang tot testomgevingen, red-teamrapporten en incidentlogs. En leg boeteclausules vast bij structureel onderpresteren.
Meet wat echt telt
Voor spraak geldt: meet Word Error Rate, intentherkenning en de tijd tot correcte routing. Koppel dit aan bedrijfsdoelen zoals First Contact Resolution en doorlooptijd. Monitor ook de escalatiegraad naar medewerkers. Zo wordt zichtbaar of automatisering echt helpt.
Bij generatieve systemen draait het om veiligheids- en kwaliteitsratio’s. Denk aan hallucinatiegraad, weigeringspercentage en het aandeel toxische of bevooroordeelde output. Voor voiceagents komt daar latency en barge-in (onderbreken) bij. Alles bij voorkeur per taal en dialect uitgesplitst.
Een ‘hallucinatie’ is wanneer een AI-systeem met grote stelligheid onjuiste of verzonnen informatie geeft.
Breng klantimpact in kaart met CSAT/NPS, klachtenratio en herhaalverkeer. Toets toegankelijkheid en eerlijkheid, bijvoorbeeld prestaties per accent of leeftijdsgroep. Voor publieke diensten tellen ook WCAG-eisen en bereikbaarheid. Zo voorkom je dat efficiëntie zwaarder weegt dan inclusie.
Zonder zicht op prestaties blijft sturen gokken. Zorg voor realtime dashboards, drempelwaarden en snelle terugvalplannen. Log gebeurtenissen volledig en versleutel gevoelige data. Beperk bewaartermijnen en pseudonimiseer waar mogelijk.
Bouw menselijk vangnet in
Maak overstappen naar een medewerker altijd makkelijk en zichtbaar. Behoud, met toestemming, de context zodat de klant niet hoeft te herhalen. Plan bezetting op piekmomenten en uitzonderingsgevallen. Een vangnet is geen luxe, maar een randvoorwaarde.
Bied meerdere kanalen: telefoon, chat en e-mail, en voor de overheid ook loket of terugbelopties. Houd rekening met de Wet digitale overheid en WCAG-toegankelijkheid. Niet iedereen kan of wil met een bot praten. Alternatieven horen standaard beschikbaar te zijn.
Ondersteun medewerkers met ‘agent assist’ in plaats van hen te vervangen. Tools als Microsoft Copilot of Google Contact Center AI kunnen samenvatten en suggesties doen. Laat de eindbeslissing bij de mens, zeker bij kwetsbare klanten. Zo combineer je snelheid met verantwoordelijkheid.
Let extra op groepen met hogere drempels, zoals mensen in schulden of met beperkte taalvaardigheid. Test flows met gebruikers uit deze doelgroepen. Pas taal, tempo en keuzes aan op hun behoeften. Dat verkleint uitval en vergroot vertrouwen.
Kies voor gefaseerde inzet
Begin met afgebakende use-cases met lage risico’s, zoals statusvragen of adreswijzigingen. Test in een sandbox en schaal pas op na harde resultaten. Gebruik waar mogelijk Europese hosting en modellen met duidelijke documentatie, zoals Mistral of Aleph Alpha. Dat helpt bij AVG-naleving en datalokaal beleid.
Leg in contracten dataresidency, beveiliging en updatebeheer vast. Vraag om vrijwaring bij IP-claims en duidelijkheid over hergebruik van data. Beperk lock-in met open standaarden en exportmogelijkheden. Overweeg open modellen (bijvoorbeeld Llama 3) wanneer dat passend en veilig is.
Richt governance in met eigenaarschap, toetskaders en periodieke reviews. Documenteer keuzes, foutanalyses en verbeteracties voor toekomstige audits onder de AI-verordening. Betrek privacy, security en juridische teams vanaf het begin. Dat voorkomt vertraging en herwerk achteraf.
De les voor dienstverleners is nuchter: stel grenzen, meet wat telt, en houd de mens dichtbij. Dan levert automatisering echte waarde op. Wie te snel gaat op basis van gladde rapporten, betaalt later de prijs. Klantvertrouwen is lastiger te repareren dan een voicebot.