Een Nederlands bedrijf verkoopt AI-gegenereerde boeken via grote webshops, zonder duidelijke waarschuwing dat de teksten door een algoritme zijn gemaakt. De titels staan tussen gewone non-fictie en kinderboeken en ogen als reguliere uitgaven. Dit gebeurde onlangs en roept vragen op over transparantie en consumentenbescherming. De kwestie raakt aan nieuwe regels uit de Europese AI-verordening (AI Act) en bestaande consumentenwetgeving.
Boeken zonder AI-waarschuwing
De AI-boeken worden gepresenteerd met een omslag, een ISBN en een productpagina zoals bij andere titels. Voor kopers is niet direct te zien dat de inhoud automatisch is samengesteld. Er staat vaak geen label of toelichting bij de beschrijving of de auteursnaam. Daardoor kunnen lezers denken dat het om handgeschreven werk gaat.
Het assortiment lijkt uiteen te lopen van informatieve gidsen tot kinder- en hobbytitels. Dit soort boeken kan snel en goedkoop worden gemaakt met generatieve systemen, die tekst produceren op basis van voorbeelden. Welke tool hier is gebruikt, is niet bekendgemaakt. Voorbeelden van zulke systemen zijn ChatGPT van OpenAI en Gemini van Google.
Het ontbreken van een waarschuwing is vooral een probleem als het boek advies of feitelijke uitleg geeft. AI-teksten kunnen fouten bevatten of verouderde informatie geven. Zonder label ontbreekt context voor de lezer om de kwaliteit te wegen. Ook uitgevers en platforms lopen zo reputatierisico.
Webshops en labelregels onduidelijk
Grote platforms laten verkopers zelf productinformatie invullen en controleren steekproefsgewijs. In de praktijk schuift de verantwoordelijkheid zo op naar het bedrijf dat de titel aanbiedt. Webshops kunnen beleid hebben voor AI-inhoud, maar die regels zijn niet overal openbaar of consequent toegepast. Daardoor glipt onduidelijk gelabelde inhoud door het net.
In Europa vallen online marktplaatsen onder de Digital Services Act (DSA). Die wet verplicht platforms om misleiding tegen te gaan en klachten af te handelen. Voor zeer grote platforms zoals Amazon gelden extra plichten om systeemrisico’s te beperken. Nederlandse winkels die in de EU actief zijn, moeten deze regels eveneens naleven.
Consumentenorganisaties wijzen al langer op de noodzaak van heldere labels bij synthetische content. Een simpele, vaste zin bij de productbeschrijving kan verwarring voorkomen. Ook kan een zichtbaar pictogram helpen bij snelle herkenning. Zonder die hulpmiddelen ontstaat informatie-asymmetrie tussen verkoper en koper.
AI-verordening verlangt transparantie
De Europese AI-verordening (AI Act) bevat een transparantieplicht voor synthetische content, zoals deepfakes en door AI gegenereerde tekst. De kern is dat gebruikers moeten weten wanneer zij met door een systeem gecreëerde inhoud te maken hebben. Die verplichtingen gaan gefaseerd gelden tot en met 2026, op het moment van schrijven. Voor generatieve modellen komen bovendien eisen aan documentatie en risicobeperking.
Voor uitgevers en webshops betekent dit: een duidelijk label en interne procedures om AI-inhoud te markeren. Ook moet er een manier zijn om klachten snel te behandelen en fouten te corrigeren. Dit sluit aan op bestaande EU-regels tegen oneerlijke handelspraktijken. Een ontbrekend label kan worden gezien als misleidende omissie.
Een generatief AI-model is software die zelfstandig tekst, beeld of audio maakt op basis van grote hoeveelheden voorbeelddata.
De AI Act komt boven op regels die al gelden, zoals de AVG als persoonsgegevens in trainingsdata zitten. Als trainingsmateriaal beschermde werken bevat, spelen ook auteursrechten. Dat raakt zowel makers als platforms die titels distribueren. Transparantie helpt hier om aansprakelijkheid te verdelen en discussies te voorkomen.
Risico’s voor lezers en auteurs
AI-boeken kunnen feitelijke onjuistheden bevatten of bronnen verkeerd samenvatten. Dit is extra zorgelijk bij onderwerpen zoals gezondheid, financiën of recht. Lezers missen zonder label een signaal om extra kritisch te zijn. Dat kan leiden tot verkeerde beslissingen of teleurstelling over de kwaliteit.
Er is ook het risico op plagiaat of te sterke leuningen op bestaande teksten. Modellen leren van grote datasets en kunnen stijlen of patronen nabootsen. Zonder bronvermelding is niet helder waar kennis vandaan komt. Dat is onwenselijk voor auteurs en verwarrend voor het publiek.
Daarnaast staan recensies en ratings onder druk als lezers niet weten wat ze kopen. Een negatieve ervaring met één AI-boek kan het vertrouwen in een hele categorie titels schaden. Dat treft ook uitgevers die wél zorgvuldig labelen. Duidelijke informatie bij de aankoop helpt dit te voorkomen.
Nederlandse toezichthouders kunnen ingrijpen
De Autoriteit Consument & Markt (ACM) kan optreden tegen misleidende informatie bij online verkoop. Ontbreekt essentieel productinformatie, dan is dat een oneerlijke handelspraktijk. Een AI-label kan als essentieel worden gezien wanneer het de aankoopbeslissing beïnvloedt. Meldingen van consumenten helpen de ACM om prioriteit te bepalen.
De Autoriteit Persoonsgegevens (AP) kijkt naar de inzet van data in modellen. Als er persoonsgegevens zijn gebruikt in de training of het product, geldt de AVG. Dan spelen principes als dataminimalisatie en transparantie. Uitgevers moeten kunnen uitleggen welke data is gebruikt en op welke basis.
Voor platforms sluit dit aan op hun DSA-verplichtingen om misleiding te beperken. Mechanismen voor verwijdering, correctie en gebruikersmeldingen zijn nodig. Ook audits en risicoanalyses horen daarbij voor de grootste spelers. Zo ontstaat een gezamenlijke verantwoordelijkheid in de keten.
Wat uitgevers nu kunnen doen
Zet bij elke AI-titel een vaste en zichtbare vermelding: “Dit boek is (deels) door AI tot stand gekomen.” Vermeld ook hoe menselijke redactie is ingezet. Voeg in het colofon een korte uitleg toe over het productieproces. Gebruik daarnaast metadata, zoals schema.org, zodat winkels het label automatisch kunnen tonen.
Maak interne richtlijnen voor onderwerpen met hoger risico, zoals gezondheid of recht. Overweeg daar een strengere menselijke controle of geen AI-gebruik. Leg keuzes vast en houd een logboek bij van versies en gebruikte modellen. Dit helpt bij klachtenafhandeling en bij toezicht.
Werk tenslotte met platforms aan een uniforme labeling. Een pictogram plus tekst werkt het best voor herkenning. Zo worden verwachtingen bij de aankoop duidelijk. Dat is goed voor lezers, verkopers en het vertrouwen in AI-toepassingen.