Een groep Nederlandse Uber-chauffeurs stapt deze week naar de rechter. Zij stellen dat een ondoorzichtig AI-model van Uber hun werk en inkomen stuurt. Het gaat om software die ritten toewijst en accounts kan blokkeren. De zaak draait om rechten uit de AVG en de Europese AI-verordening (AI Act), en kan gevolgen hebben voor platformwerk in Nederland.
Chauffeurs eisen inzage algoritme
De chauffeurs willen weten hoe het algoritme van Uber beslissingen neemt die hun inkomen raken. Zij vragen om uitleg over signalen die het systeem gebruikt, zoals ritannuleringen, locatiegegevens en klantbeoordelingen. Ook willen zij een menselijk beroep als het systeem een fout maakt.
Volgens de chauffeurs ontbreekt nu een begrijpelijke uitleg. Wanneer het model iemands account beperkt of minder ritten toewijst, krijgen zij vaak alleen een standaardbericht. Dat maakt het lastig om te corrigeren of te leren wat beter kan.
De kern van de eis is transparantie over het gebruikte AI-model en de data. De chauffeurs willen āzinvolle informatieā over de logica, zoals de AVG dat noemt. Zij vragen bovendien om inzage in hun eigen gegevens en de mogelijkheid om fouten snel te herstellen.
Onzekerheid door blokkades
Chauffeurs beschrijven onverwachte blokkades of āschaduwbeperkingenā, waarbij minder ritten binnenkomen zonder duidelijke reden. Zulke stappen hebben direct effect op het inkomen. Het gebrek aan uitleg vergroot de onzekerheid en druk in piekuren.
Algoritmisch management is het aansturen en beoordelen van werk door software in plaats van door een leidinggevende.
Bij dit soort systemen kunnen kleine dataproblemen grote gevolgen hebben. Denk aan foutieve GPS-metingen, onterechte fraudesignalen of vooroordelen in beoordelingscijfers. Zonder inzicht en correctie kunnen zulke fouten blijven doorwerken.
De chauffeurs vragen daarom om duidelijke meldingen bij ingrepen van het systeem. Zij willen weten welke regel is getriggerd en op basis van welke gegevens. Zo kunnen zij gericht bezwaar maken en sneller weer aan het werk.
AVG en AI-verordening gelden
Onder de AVG hebben mensen recht op inzage in persoonsgegevens en op uitleg bij geautomatiseerde besluiten met grote gevolgen (artikel 22). Ook geldt datadeling alleen bij noodzaak en met goede beveiliging. De Autoriteit Persoonsgegevens is in Nederland toezichthouder op deze regels.
De Europese AI-verordening plaatst AI voor arbeids- en platformbeheer in de categorie āhoog risicoā. Dat betekent verplichte risicobeoordelingen, documentatie, menselijk toezicht en begrijpelijke informatie voor gebruikers. Op het moment van schrijven gaan deze verplichtingen gefaseerd gelden in 2026 en 2027.
Voor een bedrijf als Uber betekent dit: aantoonbaar testen op fouten en vooroordelen, registreren van ingrepen en een duidelijke klachtenroute. Ook moeten relevante kenmerken van het model en de gebruikte datasets worden uitgelegd in begrijpelijke taal. Instellingen en gemeenten die met platforms samenwerken zullen bovendien op naleving moeten letten.
Uber wijst op veiligheid
Uber stelt in publieke uitingen doorgaans dat algoritmen nodig zijn om het platform veilig en eerlijk te houden. Denk aan het opsporen van fraude, het bewaken van kwaliteit en het snel matchen van vraag en aanbod. Het bedrijf geeft aan dat maatregelen bedoeld zijn om reizigers en chauffeurs te beschermen.
Ook wijst Uber erop dat er mogelijkheden zijn om beslissingen aan te vechten. Volgens het bedrijf is er menselijk toezicht bij gevoelige ingrepen. De vraag in deze zaak is of die controle voldoende en tijdig is, en of de uitleg begrijpelijk is.
Transparantie kent grenzen, benadrukken platforms vaak, omdat te veel detail misbruik kan uitlokken. De AI-verordening vraagt echter om een middenweg: genoeg informatie voor begrijpelijkheid en controle, zonder het systeem kwetsbaar te maken. De rechter zal moeten wegen hoe dat hier uitpakt.
Gevolgen voor platformeconomie
De uitkomst kan gevolgen hebben voor andere apps die werk aansturen met algoritmen, zoals maaltijd- en pakketbezorging. Bedrijven zullen hun datamodellen en processen mogelijk moeten herzien. Dat geldt ook voor contracten met gemeenten en publieke diensten waar platformwerkers actief zijn.
Als de rechter meer transparantie en menselijk toezicht eist, krijgen chauffeurs waarschijnlijk betere uitleg bij ingrepen. Denk aan meldingen met redencodes, relevante data en een vaste termijn voor beoordeling door een persoon. Dat kan geschillen verkorten en stilstand van inkomsten beperken.
Volgende stappen zijn onder meer een eerste zitting en eventuele voorlopige maatregelen. De Autoriteit Persoonsgegevens kan, los van de rechtszaak, toezien op naleving van de AVG. Met de AI-verordening in aantocht groeit de druk op heldere, controleerbare algoritmen in Nederland en de EU.