Een AI-robot die als sjamaan optreedt, trekt deze maand veel aandacht in Zuid-Korea. Het systeem geeft in Seoul openbare sessies met spiritueel advies in gewone taal. Organisatoren willen zo laten zien hoe algoritmen rituelen en cultuur kunnen nabootsen. Dat roept in Europa vragen op over de Europese AI-verordening en de gevolgen voor overheidstoezicht en privacy onder de AVG.
AI-sjamaan trekt publiek
In Seoul komen bezoekers samen voor korte consulten met de robot-sjamaan. Het apparaat reageert op persoonlijke vragen en geeft ritueel ogend advies. Video’s van de sessies circuleren online en zorgen voor extra toeloop. Het fenomeen ligt op het snijvlak van technologie, entertainment en geloof.
Bezoekers stellen vaak vragen over werk, relaties en gezondheid. De antwoorden klinken betrokken en stellig, maar komen uit een algoritme. Voor veel mensen voelt dat tegelijk vertrouwd en vreemd. Sommigen zien het als kunstproject, anderen als spirituele dienst.
De sessies zijn strak georganiseerd met vaste tijdsloten. Dat maakt het laagdrempelig en snel. De presentatie gebruikt stem, licht en scherm om een ritueel gevoel te wekken. Zo ontstaat een ervaring die lijkt op een traditionele ceremonie, maar volledig digitaal is.
Techniek achter het ritueel
De opzet combineert spraakherkenning, een stemcomputer en een dialoogsysteem. Een groot taalmodel (LLM) – een AI die leert om de volgende woorden in een zin te voorspellen – vormt de kern van de antwoorden. Het systeem zet vragen om in tekst, bedenkt een reactie en leest die hardop voor. Bewegingen of projecties versterken de boodschap visueel.
Welke trainingsdata zijn gebruikt, is niet publiek bekend. Dat is relevant, want culturele vooroordelen kunnen in de uitkomst doorsijpelen. Ook kan een model advies geven dat overtuigend klinkt, maar feitelijk onjuist is. Zonder heldere grenzen kan spirituele raad afglijden naar medische of financiële claims.
Beveiligingsfilters moeten ongepaste of schadelijke antwoorden tegenhouden. Zulke filters blokkeren bijvoorbeeld haatzaaien of gevaarlijk advies. Toch blijft moderatie lastig bij open vragen over verdriet, ziekte of schuld. Organisatoren hebben daarom duidelijke richtlijnen en noodprocedures nodig.
Religieuze en ethische vragen
Religiewetenschappers plaatsen vraagtekens bij de vervanging van menselijk ritueel door een machine. Een sjamaan biedt normaal ook context, empathie en verantwoordelijkheid. Een algoritme kan dat moeilijk evenaren, hoe soepel de stem ook klinkt. De grens tussen spel en levensraad is hier dun.
Een sjamaan is een ritueel leider die, volgens traditie, bemiddelt tussen mensen en het spirituele — vaak met zang, dans en raad.
Er is ook zorg over beïnvloeding van kwetsbare groepen, zoals jongeren of mensen in rouw. Een machine die zekerheid uitstraalt, kan beslissingen sturen zonder echte zorgrelatie. Duidelijke waarschuwingen en doorverwijzing naar professionele hulp zijn daarom verstandig. Ook moet het systeem geen medische of juridische adviezen geven.
Commerciële prikkels kunnen de druk verhogen om meer sessies te verkopen. Dat vergroot het risico op te stellige of verslavende interacties. Transparantie over doelen en inkomsten is dan essentieel. Zonder dat vertrouwen verliest het project snel maatschappelijk draagvlak.
AI-verordening stelt transparantie-eisen
De Europese AI-verordening (AI Act) eist dat mensen weten wanneer zij met AI praten. Als deze dienst in de EU zou draaien, moet dus vooraf duidelijk staan: dit is een algoritme, geen mens. Ook moet misleiding worden voorkomen, bijvoorbeeld door religieuze autoriteit te suggereren die er niet is. Dat geeft gebruikers een eerlijke keuze om wel of niet mee te doen.
De AI Act verbiedt systemen die met verborgen technieken gedrag wezenlijk vervormen en schade veroorzaken. Een spirituele chatbot moet daarom wegblijven van manipulatie, zeker bij kwetsbare personen. Het systeem lijkt niet “hoog-risico” zoals medische of krediettoepassingen, maar blijft “beperkt risico” met plichten rond transparantie. Loggen van interacties en risicobeheer horen daarbij.
Voor overheden en publieke instellingen in Europa heeft dit directe gevolgen. Wie zo’n ervaring in een museum of wijkcentrum wil aanbieden, moet aan inkoopregels, uitlegplichten en klachtenafhandeling voldoen. De Europese AI-verordening heeft daarmee concrete gevolgen voor overheid en toezicht. Heldere informatieborden en online toelichting zijn dan onmisbaar.
AVG beschermt ritueelgegevens
De dienst verwerkt mogelijk gevoelige data, zoals stemopnames en vragen over geloof of gezondheid. Onder de AVG vallen dat vaak “bijzondere persoonsgegevens”, met zwaardere eisen. Verwerking vraagt dan om uitdrukkelijke toestemming, dataminimalisatie en een duidelijk doel. Opnames die niet nodig zijn, moeten meteen worden gewist.
Beveiliging hoort standaard te zijn, met versleuteling en beperkte toegang. Ook moeten bewaartermijnen kort en transparant zijn. Als data naar landen buiten de EU gaan, zijn extra waarborgen verplicht. Leveranciers moeten dit vooraf uitleggen aan gebruikers en opdrachtgevers.
In Nederland ziet de Autoriteit Persoonsgegevens hierop toe, op het moment van schrijven. Voor organisaties die zo’n AI-ritueel willen testen, ligt een Data Protection Impact Assessment voor de hand. Betrek ook jeugdbeleid: laat minderjarigen niet zonder oudertoestemming deelnemen. Zo blijft experimenteren met cultuur en AI binnen de privacygrenzen.
Kansen en grenzen in Europa
Kunstinstellingen kunnen dit soort installaties gebruiken om debat over technologie en zingeving aan te jagen. Toeristische locaties kunnen ermee experimenteren als performance, niet als religieuze dienst. Heldere kaders voorkomen verwarring en juridische risico’s. Denk aan disclaimers, geen medische claims en zichtbare begeleiding door personeel.
Technisch valt winst te halen met lokale verwerking op het apparaat. Dan hoeven gevoelige vragen niet naar de cloud, wat de AVG-risico’s verlaagt. Ook is cultuurgevoelige tuning belangrijk om stereotypering te vermijden. Een externe ethische toetsgroep kan hier toezicht op houden.
De kern blijft: maak het doel en de grenzen van de AI expliciet. Noem het kunst of educatie, niet een alternatief voor professionele hulp. Combineer dat met de plichten uit de AI Act en de AVG. Dan kan Europa veilig leren van de AI-sjamaan in Seoul.