Paus Leo publiceerde deze week in Vaticaanstad zijn eerste encycliek. Daarin waarschuwt hij dat kunstmatige intelligentie oorlog en ongelijkheid kan aanwakkeren. Hij roept overheden en technologiebedrijven op tot harde ethische regels en toezicht. De oproep valt samen met de invoering van de Europese AI-verordening en raakt direct de gevolgen voor overheid en bedrijven.
Paus vraagt harde waarborgen
De encycliek is het eerste grote leerdocument van Paus Leo. Hij schetst kansen van algoritmen, maar legt de nadruk op risico’s. Zonder toezicht kunnen systemen schade veroorzaken die moeilijk terug te draaien is.
De paus vraagt bindende grenzen voor toepassingen die mensenrechten raken. Hij noemt vooral wapens met autonome functies en grootschalige surveillance. Bij zulke systemen moet een mens altijd de eindbeslissing houden.
Die lijn sluit aan bij Europese discussies over “menselijke controle”. EU-lidstaten praten al jaren over regels voor autonome wapens. Nederland pleit op het wereldtoneel voor betekenisvolle menselijke controle bij inzet van geweld.
AI vergroot oorlogsrisico’s
Krijgsmachten gebruiken nu al algoritmen voor verkenning, doelen en besluitvorming. Fouten of schijnzekerheid kunnen in seconden tot dodelijke escalatie leiden. Dat maakt terughoudendheid en menselijke toetsing noodzakelijk.
Generatieve systemen, zoals ChatGPT van OpenAI, Gemini van Google en Llama van Meta, maken overtuigende teksten, beelden en video’s. Dat vergemakkelijkt desinformatie en deepfakes in oorlog en verkiezingen. Burgers en soldaten kunnen zo sneller gemanipuleerd worden.
De Europese AI-verordening is hier maar deels van toepassing. Militair gebruik valt buiten de wet, al gelden wel regels bij zogeheten dual-use. Het Europees Parlement dringt aan op internationale afspraken om dit gat te dichten.
Macht en ongelijkheid groeien
Grote datacentra en modellen vragen veel geld, data en rekenkracht. Die middelen liggen vooral bij een paar Amerikaanse en Chinese bedrijven, zoals Microsoft, Google, Amazon, Meta en OpenAI. Europa en ontwikkelingslanden dreigen afhankelijk te worden.
Algoritmen kunnen ook bestaande ongelijkheid versterken. Denk aan systemen voor werving, krediet of zorgtoewijzing die groepen benadelen. De AI-verordening classificeert zulke toepassingen als hoog risico en legt strenge plichten op.
De AVG blijft daarnaast leidend voor data. Organisaties moeten dataminimalisatie toepassen en een duidelijke grondslag hebben. De Autoriteit Persoonsgegevens wijst al langer op risico’s van het schrapen van persoonsgegevens voor modeltraining.
EU AI-verordening krijgt gewicht
De pauselijke oproep vergroot het politieke momentum in Europa. De AI-verordening wordt gefaseerd ingevoerd, met verboden die al gelden en zware plichten voor hoogrisico-systemen vanaf 2026-2027. Transparantie-eisen voor generatieve modellen komen stap voor stap erbij.
Leveranciers moeten hun datamodellen documenteren en risico’s beperken. Overheden moeten impacttoetsen doen en systemen registreren. Dit raakt direct de Europese overheid, zorg en onderwijs, die veel algoritmen inkopen.
Voor bedrijven betekent dit nieuwe zorgplichten en audits. Zij moeten de risicoklasse bepalen, datasets opschonen en logs bijhouden. Grote modelaanbieders rapporteren extra over veiligheid, energieverbruik en incidenten.
Impact voor Nederland en kerken
Nederland werkt op het moment van schrijven aan de inrichting van nationaal AI-toezicht. Het Algoritmekader Rijk en het publieke algoritmeregister vragen om openheid bij gebruik van systemen. Dat maakt controle door burgers en toezichthouders beter mogelijk.
Katholieke scholen, zorginstellingen en media gebruiken steeds vaker AI-tools. De encycliek zet die organisaties aan tot strengere ethiek en toetsing. Denk aan menselijke controle, uitlegbaarheid en veilige omgang met leerling- en patiëntdata.
Ook maatschappelijke organisaties krijgen hiermee een moreel anker. De oproep helpt bestuurders keuzes te maken bij inkoop en ontwerp. Zo raken technologie en waarden elkaar in de praktijk.
Een encycliek is een pauselijke rondzendbrief met richtlijnen over geloof, moraal en maatschappij, bedoeld voor gelovigen én de brede samenleving.