Een Duitse voetbalfan is woedend nadat een AI-beeldgenerator zijn juichmoment tijdens een WK-wedstrijd omzette in een realistisch portret van Adolf Hitler. De bewerkte foto dook onlangs op sociale media en leidde tot verontwaardiging in Duitsland. Het incident werpt vragen op over deepfakes, moderatie en aansprakelijkheid. Het raakt ook aan de Europese AI-verordening en de gevolgen voor overheid en platforms.
AI vertekent juichmoment
De man uploadde een onschuldige sportfoto naar een commerciële AI-fotobewerker. Het systeem vulde ontbrekende details in en maakte de pose en gezichtskenmerken donkerder en scherper. Het resultaat leek sterk op Hitler en suggereerde een nazi-groet, terwijl het om een voetbaljuich was. De afbeelding werd vervolgens gedeeld buiten zijn controle.
Generatieve AI vult context vaak aan op basis van patronen in trainingsdata. Zo’n systeem is getraind op talloze beelden en kan daardoor historische stereotypen versterken. Bij sportposes met een gestrekte arm kan het model foutief richting propagandabeelden sturen. Dat risico is bekend bij beeldgeneratoren en fotoverbeteraars.
Een deepfake is een door algoritmen gegenereerd of aangepast beeld, geluid of video dat echt lijkt, maar een onjuiste werkelijkheid toont.
De maker van de tool is op het moment van schrijven niet openbaar genoemd. Daardoor is onduidelijk welke veiligheidsfilters zijn gebruikt. Bekende aanbieders, zoals OpenAI (DALL·E), Stability AI (Stable Diffusion) en Midjourney, beloven blokkades rond haat- en nazicontent. Toch glippen foutieve of schadelijke beelden soms door, zeker bij sterk bewerkte gebruikersuploads.
Moderatie schiet tekort
Veel beeldgeneratoren gebruiken zogeheten veiligheidsfilters om verboden symbolen en haatbeelden te blokkeren. Die filters werken op trefwoorden en beeldherkenning, maar zijn niet feilloos. Bij bewerkingen van bestaande foto’s zijn signalen subtieler en moeilijker te detecteren. Daardoor kan een verboden of beledigend effect ontstaan zonder expliciete prompt.
Platformen waar de beelden belanden, vertrouwen vaak op achterafmoderatie. Pas na meldingen verwijderen zij schadelijke content. In de tussentijd kan een afbeelding al breed zijn gedeeld. Zo ontstaat reputatieschade voor betrokkenen, ook als de intentie onschuldig was.
Europese gebruikers verwachten heldere waarschuwingen en labels bij AI-gegenereerde content. Zonder duidelijke aanduiding denken kijkers snel dat een beeld echt is. Dat vergroot de kans op misverstanden en laster. Voor slachtoffers is correctie lastig als de herkomst van de content onduidelijk is.
Juridisch risico in Duitsland
In Duitsland is het gebruik van nazisymbolen en propaganda in principe strafbaar onder §86a StGB. Hoewel context telt, kan een publiek gedeelde afbeelding met Hitlerkenmerken juridische problemen opleveren. Voor betrokken burgers is dat een reëel risico, ook als een AI-systeem het beeld maakte. Zeker wanneer de foto verkeerd aan hun identiteit wordt gekoppeld.
Daarnaast speelt het civielrechtelijke risico van smaad en reputatieschade. Wie herkenbaar in een vals of misleidend beeld verschijnt, kan om verwijdering en rectificatie vragen. Dat geldt voor platforms, maar ook voor makers en verspreiders. De AVG biedt bovendien rechten op verwijdering en correctie van persoonsgegevens, waaronder herkenbare gezichten.
Bij grensoverschrijdende verspreiding wordt handhaving complex. Beelden gaan snel over nationale grenzen heen. Toch zijn aanbieders die diensten in de EU leveren aan Europese regels gebonden. Dat geldt ongeacht waar hun servers staan.
AI-verordening verplicht transparantie
De Europese AI-verordening (AI Act) treedt gefaseerd in werking tussen 2024 en 2026. Op het moment van schrijven verplicht de wet aanbieders en gebruikers van generatieve AI tot transparantie over deepfakes. AI-gegenereerde of -gemodificeerde beelden moeten duidelijk herkenbaar zijn. Dat moet misleiding en reputatieschade beperken.
Voor general-purpose AI-modellen, zoals die achter beeldgeneratoren, gelden extra plichten. Denk aan risicobeheer, documentatie en het beperken van illegale output. Aanbieders moeten maatregelen treffen tegen het genereren van haatpropaganda. Dat sluit aan bij nationale verboden, zoals in Duitsland.
Voor overheid en publieke instellingen spelen bovendien inkoop- en nalevingsvragen. Zij moeten bij het gebruik van AI-diensten toetsen op AI-Act-compliance. Dit raakt direct aan de “Europese AI-verordening gevolgen overheid”. Transparante labeling en contentherkomst (provenance) worden daarbij cruciaal.
Herkomst en labeling verbeteren
Technieken voor inhoudsherkomst, zoals C2PA-watermerken, kunnen helpen. Die voegen een digitaal stempel toe aan beeldbestanden met informatie over bewerking en maker. Zo zien kijkers of een foto door AI is aangepast. Ook kunnen platforms automatisch labelen en verwijderverzoeken sneller afhandelen.
Watermerken zijn echter niet onfeilbaar. Ze kunnen verdwijnen bij bijsnijden, screenshots of hercompressie. Daarom is een mix van technieken nodig, zoals robuuste detectie en metadata-behoud. Daarnaast blijft menselijk toezicht onmisbaar bij twijfelgevallen.
Grote aanbieders beloven deze standaarden te omarmen. Toch is uitrol ongelijk en versnipperd. In de praktijk verschilt de bescherming per app en per land. Dat vergroot de kans op incidenten zoals bij de Duitse voetbalfan.
Rechten en stappen voor gebruikers
Getroffenen kunnen een verwijderverzoek indienen bij het platform dat de afbeelding host. Onder de AVG hebben zij recht op correctie of verwijdering van onjuiste of schadelijke persoonsgegevens. Ook kunnen zij een klacht indienen bij de privacytoezichthouder. In Nederland is dat de Autoriteit Persoonsgegevens; in Duitsland de bevoegde Landesdatenschutzbehörde.
Als het om strafbaar nazi-materiaal gaat, kan aangifte bij de politie zinvol zijn. Juridisch advies helpt bepalen of er sprake is van smaad of auteursrechtinbreuk. Documenteer altijd URL’s, tijdstippen en schermafbeeldingen als bewijs. Dat versnelt afhandeling door platformen en autoriteiten.
Gebruikers doen er goed aan AI-fotobewerkers terughoudend te gebruiken bij beladen poses of historische context. Controleer standaard of de tool duidelijke labels toevoegt. Vermijd het delen van bewerkte beelden zonder toelichting. Zo verkleint u de kans op misleiding en schade.