Een rechter in de Verenigde Staten heeft deze week X (het sociale platform) en de AI-chatbot Grok verboden om zogenoemde “uitkleedbeelden” te maken en te verspreiden. Het gaat om met algoritmen bewerkte foto’s die iemand naakt weergeven zonder toestemming. De maatregel richt zich op Grok van xAI en op accounts en zoekfuncties op X, beide gelieerd aan Elon Musk. De zaak raakt ook aan Europese regels, zoals de Digital Services Act en de Europese AI-verordening, die gevolgen hebben voor overheid en bedrijven.
Rechter grijpt in bij X
De rechter legt X Corp. en xAI op om uitkleedbeelden direct te blokkeren en te verwijderen. Het bevel geldt voor zowel de generatie door Grok als de zichtbaarheid op het platform X. Dit moet verdere schade aan slachtoffers beperken en misbruik ontmoedigen. Niet naleven kan, op het moment van schrijven, leiden tot sancties of boetes.
X is een zeer groot online platform en heeft daarom extra zorgplichten. Die plichten gaan over het beperken van risico’s en het snel afhandelen van meldingen. De uitspraak dwingt X om die plichten strakker uit te voeren. Voor Grok betekent dit strengere veiligheidsfilters en blokkades op risicovolle opdrachten.
Grok is de chatbot van xAI die antwoorden geeft en content kan creëren met kunstmatige intelligentie. Zulke systemen leren van grote hoeveelheden voorbeelddata. Zonder goede grenzen kunnen ze ongewenste of schadelijke beelden opleveren. De rechter benadrukt dat platform en maker beide verantwoordelijkheid dragen.
Schending van privacyrechten
Uitkleedbeelden schenden de privacy en kunnen iemands reputatie blijvend schaden. Vaak gaat het om foto’s van vrouwen en meisjes, soms zelfs minderjarig. De verspreiding kan leiden tot pesten, chantage en baanverlies. Ook het enkele bestaan van het beeld kan al grote psychische impact hebben.
In Europa vallen deze beelden onder de AVG, omdat het om persoonsgegevens gaat. Verwerking zonder geldige grondslag is dan onrechtmatig. Bij minderjarigen ligt de lat nog hoger. Platformen moeten daarom delen en doorzoekbaarheid actief beperken.
De Nederlandse Wet seksuele misdrijven (in werking sinds 2024) verbiedt het maken en verspreiden van seksueel beeld zonder toestemming. Dat geldt ook als het beeld door een algoritme is gecreëerd. Slachtoffers kunnen aangifte doen en civiel optreden. De nieuwe uitspraak sluit aan bij die bescherming.
Definitie: “Uitkleedbeeld” is een met AI bewerkt of gegenereerd beeld dat iemand naakt of seksueel toont, terwijl die persoon zich zo nooit heeft laten vastleggen en daar geen toestemming voor gaf.
Europese regels zetten druk
De Digital Services Act (DSA) verplicht zeer grote platforms zoals X om systemische risico’s te beperken. Daaronder vallen gendergerelateerd geweld en schadelijke deepfakes. Ook moeten meldingen snel en zorgvuldig worden afgehandeld. De Europese Commissie kan handhaven en hoge boetes opleggen.
De Europese AI-verordening (AI Act) verplicht aanbieders van generatieve modellen om deepfakes duidelijk te labelen. Ook zijn risicobeoordelingen en technische waarborgen nodig. Voor overheden en bedrijven in de EU betekent dit nieuwe toetsing van AI-toepassingen. Dat raakt inkoop, compliance en interne processen.
Voor X en xAI betekent dit extra transparantie over moderatie en modelbeperkingen. Denk aan publicatie van risicorapporten, beleid tegen misbruik en zichtbare labels. Ook moeten zij beter uitleggen hoe filters en detectie werken. Dit helpt toezichthouders en gebruikers om keuzes te maken.
Techniek en handhaving blijven lastig
Het opsporen van AI-deepfakes vraagt om meerdere middelen tegelijk. Hashing en vingerafdrukken herkennen bekende beelden. Watermerken en detectiemodellen sporen nieuwe varianten op. Toch blijven er gaten, omdat makers technieken aanpassen.
Voor Grok zijn strikte promptblokkades en veiligheidstraining nodig. Dat is het beperken van opdrachten die leiden tot misbruik. Daarnaast helpt server-side controle op uploads en downloads. Zo kan het systeem ingrijpen vóór verspreiding.
Foutpositieven zijn een risico: onschuldige beelden kunnen ten onrechte verdwijnen. Daarom moet er een menselijk beroep mogelijk zijn. Transparantie over beleid en cijfers is cruciaal. Dat vergroot vertrouwen en maakt toezicht effectiever.
Gevolgen voor Nederland en EU
Voor Nederlandse gebruikers kan de vindbaarheid van uitkleedbeelden op X afnemen. Meldingen horen sneller te worden opgepakt. Gebruikers kunnen melding doen via X en, bij strafbaarheid, bij de politie. Slachtoffers kunnen ook hulp vragen bij het EOKM (Helpwanted).
Toezicht in de EU op X valt onder de Europese Commissie via de DSA. In Nederland werken de Autoriteit Persoonsgegevens en andere instanties samen rond privacy en online veiligheid. Overheden en scholen moeten bij gebruik van AI-diensten toetsen op AVG en AI Act. Zo voorkomen zij onrechtmatige verwerking van gevoelige beelden.
Bedrijven die AI integreren, doen er goed aan beleid te actualiseren. Leg vast welke prompts verboden zijn en hoe je misbruik meldt. Controleer leveranciers op labeling, logging en audittrail. Dit verkleint juridische en reputatierisico’s.
Wat bedrijven nu moeten doen
xAI en X moeten hun moderatie en techniek versneld aanpassen. Denk aan uitgebreidere blocklists, sterkere detectie en betere klachtkanalen. Documenteer keuzes en resultaten voor toezichthouders. Publiceer regelmatig transparantierapporten met duidelijke cijfers.
Adverteerders willen veilig bereik, dus merkveiligheid telt mee. Strengere handhaving kan vertrouwen herstellen. Maar half werk straft de markt af. Consistente uitvoering is daarom essentieel.
Voor AI-ontwikkelaars buiten X geldt dezelfde les. Bouw veiligheid in het ontwerp, niet pas achteraf. Test met rode-teams op misbruikscenario’s. En bied gebruikers heldere controles en noodremmen.
