Paus Leo XIV waarschuwt deze week in Vaticaanstad voor de risico’s van kunstmatige intelligentie. Hij roept op tot duidelijke regels en menselijke regie, zodat technologie de waardigheid van mensen respecteert. De boodschap raakt direct aan de Europese AI-verordening en de gevolgen voor overheid en bedrijven. De paus wil dat systemen helpen, maar niet beslissen over wat menselijk is.
Vaticaan vraagt menselijke regie
De paus plaatst de menselijke waardigheid centraal bij het gebruik van algoritmen. Een algoritme is een reeks stappen waarmee een systeem beslissingen neemt. Technologie mag volgens hem mensen ondersteunen, maar nooit de laatste morele keuze maken. De mens moet de richting blijven bepalen.
Hij ziet kansen voor zorg, onderwijs en klimaat als systemen goed worden ontworpen. Daarbij horen duidelijke doelen, veilige data en controleerbare uitkomsten. Zonder die voorwaarden kunnen processen ontmenselijken. Dan dreigt gemak belangrijker te worden dan gerechtigheid.
De paus benadrukt dat efficiëntie niet het hoogste doel is. Waarden zoals verantwoordelijkheid en waarheid moeten leidend zijn. Dat vraagt om menselijk toezicht bij elk cruciaal besluit. Ook moeten fouten snel te herstellen zijn.
Risico’s: misleiding en macht
De paus wijst op desinformatie en deepfakes, die iemands stem of beeld namaken. Zulke synthetische media maken het moeilijk om feiten te scheiden van fictie. Dat kan vertrouwen in verkiezingen, media en rechtspraak ondermijnen. Burgers hebben daarom recht op heldere herkomstlabels en uitleg.
Hij waarschuwt ook voor machtsconcentratie bij grote techbedrijven. Denk aan bedrijven als OpenAI, Google DeepMind, Meta en Microsoft, die veel data en rekenkracht bezitten. Een te grote voorsprong kan markten en publieke diensten sturen zonder democratische controle. Dat vergroot ongelijkheid tussen landen en groepen.
Daarnaast noemt hij risico’s van massasurveillance en autonome wapens. Systemen die mensen volgen of zonder menselijk ingrijpen aanvallen, tasten de menselijke maat aan. Internationale afspraken zijn hiervoor nodig, naast nationale wetgeving. Europa kan daarin het voortouw nemen.
“Laat kunstmatige intelligentie ons niet beroven van onze menselijkheid.”
AI-verordening vraagt menselijk toezicht
De Europese AI-verordening werkt met risicoklassen en regels per toepassing. Hoog-risicosystemen in bijvoorbeeld zorg, onderwijs en werk krijgen strenge eisen. Denk aan kwaliteitsbeheer, menselijk toezicht en duidelijke documentatie. Deze verplichtingen treden op het moment van schrijven gefaseerd in werking in 2025 en 2026.
Bepaalde praktijken worden in de EU verboden, zoals sociaal kredietscores door overheden en misleidende manipulatie. Voor deepfakes geldt een plicht tot herkenbare labeling. Dit sluit aan bij de oproep van de paus om waarheid en transparantie te beschermen. Burgers moeten weten wanneer zij met een machine praten of gegenereerde beelden zien.
De AVG blijft daarnaast gelden voor alle persoonsgegevens. Dat betekent dataminimalisatie, doelbinding en sterke beveiliging. Ook rechten op inzage en correctie blijven nodig in AI-ketens. Zo krijgt de morele oproep een juridisch kader.
Gevolgen voor Nederlandse overheid
Voor gemeenten en uitvoeringsdiensten betekent dit: vooraf risico’s wegen en keuzes vastleggen. Denk aan een Data Protection Impact Assessment (DPIA) en het bijhouden van een algoritmeregister. De Autoriteit Persoonsgegevens en andere toezichthouders kijken strenger naar uitleg en onderbouwing. De Europese AI-verordening heeft dus concrete gevolgen voor de overheid.
Bij inkoop van software moeten eisen aan uitlegbaarheid en logging standaard zijn. Leveranciers moeten aangeven welke datamodellen worden gebruikt en hoe die zijn getest. Ook moet duidelijk zijn wanneer een medewerker mag ingrijpen. Zonder die waarborgen hoort de applicatie niet in kritieke processen.
In zorg en onderwijs vallen besluitondersteunende systemen vaak in de hoge risicoklasse. Ziekenhuizen en scholen moeten dan kunnen aantonen dat de mens de laatste stem heeft. Ook moeten resultaten herleidbaar zijn. Dat verbetert veiligheid en vertrouwen bij patiënten, ouders en leerlingen.
Kerk zoekt brede coalitie
Het Vaticaan bouwt voort op de Rome Call for AI Ethics uit 2020. Die verklaring, mede ondersteund door IBM en Microsoft, vraagt om inclusie, transparantie en verantwoordelijkheid. De nieuwe boodschap herhaalt die lijn, maar urgenter. Omdat toepassingen nu massaal in het dagelijks leven komen.
De paus wil samenwerking tussen wetenschap, bedrijven, overheden en burgers. Europese normalisatie-instituten zoals CEN en CENELEC kunnen helpen met praktische normen. Zo worden waarden uit wet en ethiek meetbaar en testbaar. Dat maakt audits en certificering concreet.
Onafhankelijke toetsing is daarbij essentieel. Publieke rapporten moeten voor niet-experts leesbaar zijn. Zo kan de samenleving controle houden op krachtige modellen. En blijven kwetsbare groepen beter beschermd.
Wat bedrijven nu doen
Ontwikkelaars kunnen direct stappen zetten. Begin met een risicoanalyse per gebruiksdoel en minimaliseer data. Bouw mens-in-de-lus-controles in en leg besluiten vast. Train teams in uitleg en bezwaarafhandeling.
Markeer gegenereerde media met technische labels en watermerken. Het C2PA-initiatief, gesteund door onder meer Adobe en mediaorganisaties, is één werkbare standaard. Platforms kunnen daarnaast duidelijke “AI-content”-badges tonen. Zo worden misverstanden en misleiding kleiner.
Voor grote modellen horen veiligheids- en bias-tests standaard te zijn. Denk aan modelkaarten en systeemkaarten voor GPT-4o, Gemini, Llama of Mistral. Europese spelers zoals Aleph Alpha kunnen hiermee vertrouwen winnen. Transparantie verkleint juridische risico’s en sluit aan bij de AI-verordening.