Beeld: AI-gegenereerd
Arnoud Engelfriet, ict-jurist bij ICTRecht, schetst wanneer winkels AI-gebruik bij camera’s moeten melden. De transparantieplicht uit de AI Act geldt niet voor shoppers bij antidiefstal-analyses, maar de AVG kan wel een bordje of melding eisen.
Winkels zetten AI in om winkeldiefstal te beperken, maar bordjes over AI zien klanten zelden. Dat schuurt met Europese regels over transparantie. Engelfriet legt uit dat de AI Act één plicht kent voor directe interactie, en dat de AVG aparte informatieplichten oplegt bij het verwerken van persoonsgegevens.
Transparantieplicht AI Act niet voor klanten
Per 2 augustus jongstleden geldt de transparantieplicht uit de AI Act, artikel 50 lid 1. Die plicht zegt dat “AI-systemen die voor directe interactie met natuurlijke personen zijn bedoeld” duidelijk moeten maken “dat zij interageren met een AI-systeem”. Engelfriet benadrukt dat dit primair is bedacht tegen misleidende chatbots die zich voordoen als mensen. De AI Act definieert “directe interactie” niet. De Richtsnoeren van de Commissie uit juli, sectie 3.1.1, vullen dit aan. Het moet gaan om realtime of bijna realtime interactie. De AI-uitvoer komt dan direct bij de betrokkene terecht. Interactie is een uitwisseling twee kanten op. Elke partij stuurt ten minste één bericht. Dit past niet bij een antidiefstal-AI. Die praat niet met shoppers. Shoppers hoeven dus geen AI-melding te zien op basis van artikel 50. Personeel zou hier wel onder kunnen vallen als een scherm waarschuwt en de beveiliger op Ok moet klikken. Engelfriet ziet dat als een mogelijke interactie. Voor professionele gebruikers ligt kennis over het systeem voor de hand. Een aparte melding is dan niet nodig.
AVG verplicht duidelijke melding van signalering
Volgens Engelfriet is een AI-signalering “mogelijk winkeldief” onder de AVG geautomatiseerde besluitvorming. Hij is er niet uit of artikel 22 hier geldt. Dat artikel gaat over besluiten die iemand “in aanmerkelijke mate treffen”. De AVG noemt als voorbeelden het automatisch weigeren van een kredietaanvraag of het afwijzen van een sollicitatie. De Richtsnoeren WP251 noemen als extra criterium of de uitkomst omstandigheden, gedrag of keuzes in aanmerkelijke mate treft. Los daarvan geldt een duidelijke plicht om te informeren zodra persoonsgegevens worden verwerkt om tot een signalering te komen. Dat volgt uit artikel 12 en 14. Minstens moet dit in de privacyverklaring staan. Engelfriet vindt een bordje in de winkel passend. Hij wijst op het nieuwe en bijzondere karakter van deze verwerking. Dat rechtvaardigt volgens hem zichtbare uitleg aan klanten over het AI-gebruik.
Bron: Security.nl (security.nl)
https://www.security.nl/posting/954232/Zijn+winkels+die+AI+gebruiken+om+camerabeelden+te+analyseren+verplicht+dat+te+melden%3F?channel=rss