Paus Franciscus sprak deze week opnieuw over kunstmatige intelligentie. Hij zegt niet te geloven in ‘AI-goden’ die sommige technologiebedrijven willen bouwen. De paus waarschuwt voor systemen die de mens zouden overheersen en vraagt om stevige grenzen en toezicht. De oproep sluit aan bij de Europese AI-verordening en de AVG, die het gebruik van algoritmen in Europa sturen.
Paus waarschuwt voor verheerlijking
De paus verwerpt het idee dat een datamodel een soort god kan worden. Hij noemt dat een gevaarlijke verheerlijking van techniek. Volgens hem moet technologie de mens dienen, niet andersom. Anders raken vrijheid en waardigheid onder druk.
Met de term superintelligentie doelen bedrijven op systemen die slimmer zijn dan mensen. Zulke claims wekken hoge verwachtingen. Ze vergroten ook de angst voor verlies van controle. De paus wil dat debat terugbrengen naar menselijke maat en verantwoordelijkheid.
Hij vraagt om transparantie, uitleg en grenzen bij het inzetten van algoritmen. Dat betekent altijd een mens in de beslisketen. En duidelijke regels voor wat wel en niet mag. Zo blijven keuzes uitlegbaar voor burgers en rechters.
Techbedrijven jagen superintelligentie na
OpenAI werkt aan AGI, een vorm van AI met brede menselijke vermogens. Het bedrijf levert ChatGPT en het multimodale model GPT-4o, dat tekst, beeld en audio begrijpt. Google ontwikkelt Gemini 1.5 en Microsoft bouwt Copilot in zijn software. Meta zet in op open modellen zoals Llama 3, terwijl xAI Grok aanbiedt.
De prestaties nemen snel toe, maar er zijn duidelijke beperkingen. Modellen kunnen hallucineren, dus zelfverzekerd iets onjuist presenteren. Ze kopiëren ook vooroordelen die in de trainingsdata zitten. Daardoor ontstaan risico’s op oneerlijke of onveilige uitkomsten.
Bedrijven melden vaker veiligheidsmaatregelen, zoals red-teamen en contentfilters. Toch blijft de werking van deze systemen grotendeels een black box. Dat schuurt met wettelijke plichten voor uitlegbaarheid. Zeker als overheden of bedrijven ze gebruiken voor besluiten met grote impact.
Menselijke waardigheid voorop
De paus vraagt om technologie die mensen versterkt, niet vervangt. Dat past bij het idee van ‘human-in-the-loop’: een mens houdt zicht op het algoritme en kan ingrijpen. Ook pleit hij voor gelijke behandeling. AI mag niet leiden tot discriminatie of uitsluiting.
Het Vaticaan zette eerder een ethisch kader neer met de Rome Call for AI Ethics. Die verklaring, mede-ondertekend door onder meer IBM en Microsoft, vraagt om transparantie, rechtvaardigheid en veiligheid. Het is geen wet, maar wel een richtinggevend principe. Zeker nu AI in onderwijs, zorg en overheid wordt gebruikt.
Die sectoren werken met veel persoonsgegevens. Volgens de AVG geldt dan dataminimalisatie en sterke beveiliging. Ook moet vooraf een gegevensbeschermingseffectbeoordeling gebeuren bij hoog risico. Dat voorkomt dat systemen onbedoeld schade veroorzaken.
AI-verordening regelt risico’s
De Europese AI-verordening (AI Act) brengt techniek en beleid bij elkaar. De wet kiest een risicobenadering met verboden toepassingen en strenge regels voor hoog risico. Denk aan systemen voor kredietwaardigheid, zorg of onderwijs. Daar zijn eisen voor kwaliteit van data, documentatie en menselijk toezicht.
Ook generieke modellen, vaak ‘foundation models’ genoemd, vallen onder extra plichten. Fabrikanten van krachtige modellen moeten risico’s testen, incidenten melden en energieverbruik rapporteren. Er komen ook regels voor transparantie, zoals watermerken voor synthetische media. Dat helpt deepfakes te herkennen.
De AI-verordening deelt systemen in: onaanvaardbaar, hoog, beperkt en minimaal risico. Hoe hoger het risico, hoe strenger de regels.
De verplichtingen treden gefaseerd in werking. Op het moment van schrijven gelden de eerste verboden al. De meeste zorgplichten voor hoog-risicosystemen en voor generieke modellen volgen in 2025 en 2026. Bedrijven en overheden moeten zich dus nu voorbereiden.
Gevolgen voor Nederland
Voor Nederlandse overheden betekent dit scherper inkopen en toetsen. Chatbots in gemeenten of scholen, bijvoorbeeld met Copilot of Gemini, vragen om duidelijke afspraken. Wie is aansprakelijk bij fouten, en hoe wordt uitlegbaarheid geborgd? Ook moet een mens cruciale beslissingen altijd kunnen herzien.
De inzet van AI raakt aan de AVG zodra persoonsgegevens meespelen. Dan gelden principes als doelbinding en versleuteling. Publieke instellingen moeten vastleggen welke data worden gebruikt en waarom. En ze moeten burgers informeren over geautomatiseerde besluitvorming.
Toezicht krijgt vorm in Europa en nationaal. Lidstaten wijzen toezichthouders aan voor de AI-verordening; in Nederland wordt dit op het moment van schrijven nog uitgewerkt. De Autoriteit Persoonsgegevens blijft daarnaast toezien op privacy. Samen moet dit voorkomen dat krachtige systemen ondoorzichtig of onveilig worden ingezet.
Grenzen aan ‘AI-goden’
De kern van de pauselijke boodschap is nuchter: geen technologische verheerlijking, wel verantwoord gebruik. Dat sluit aan bij de Europese koers van risicobeperking en transparantie. Grootse beloften over superintelligentie lossen die plichten niet af. Eerst moeten veiligheid en rechten van burgers op orde zijn.
Voor makers en afnemers van modellen, van GPT-4o tot Llama 3, ligt hier een concrete taak. Test, documenteer en leg uit hoe het systeem werkt. Beperk het bereik bij twijfel en houd een mens aan het roer. Zo blijft AI hulpmiddel, geen afgodsbeeld.
De maatschappelijke inzet is helder: innovatie mét waarborgen. Met de AI-verordening en de AVG heeft Europa daar instrumenten voor. De oproep uit Rome zet daar een ethisch kompas naast. Samen kunnen die kaders voorkomen dat systemen mensen overvleugelen.