De techjournalist Karen Hao waarschuwt dat het grootste AI-risico niet bij de techniek ligt, maar bij de bedrijven die haar maken. Grote platforms als OpenAI, Google, Meta, Microsoft en Anthropic sturen op groei, snelheid en marktmacht. Dat botst met veiligheid, transparantie en publieke waarden. Dit speelt nu, terwijl Europa met de AI-verordening nieuwe regels invoert.
Bedreiging ligt bij bedrijven
Hao wijst erop dat systemen als ChatGPT (OpenAI), Gemini (Google) en Claude (Anthropic) snel zijn uitgerold met bekende tekortkomingen. Deze modellen maken fouten, kunnen discrimineren en verspreiden misinformatie. Het gevaar zit in de keuzes om ze toch breed in te zetten. Die keuzes komen voort uit commerciële prikkels, niet uit technische noodzaak.
De risico’s groeien als bedrijven details over trainingdata en beperkingen niet delen. Zonder inzicht kunnen onderzoekers en toezichthouders fouten minder snel vinden. Ook gebruikers weten dan niet hoe betrouwbaar antwoorden zijn. Dat ondermijnt vertrouwen in algoritmen.
In Europa komt daar platformverantwoordelijkheid bij. Diensten die AI-content tonen, vallen ook onder de Digital Services Act. Bedrijven moeten nepnieuws en deepfakes sneller aanpakken. Dat vraagt om duidelijke herkomstlabels en moderatie, ook bij AI-overzichten in zoekmachines.
Macht concentreert rond Big Tech
Toegang tot rekenkracht, data en talent zit vooral bij een handvol Amerikaanse bedrijven. Partnerschappen zoals Microsoft–OpenAI bepalen het tempo en de richting van de sector. Europese start-ups en onderzoeksinstellingen leunen vaak op hun cloud en chips. Dat vergroot afhankelijkheid en beperkt onderhandelingsruimte.
Open modellen zoals Meta’s Llama maken ontwikkeling breder mogelijk, maar lossen dit niet vanzelf op. De gewichten en infrastructuur blijven vaak in handen van grote spelers. Bovendien brengen open releases ook misbruikrisico’s mee. Zonder governance en audit blijft de kernmacht geconcentreerd.
Toezichthouders letten hier nadrukkelijk op. De Europese Commissie bekijkt marktposities en overnames in de cloud- en AI-keten. Nationale mededingingsautoriteiten volgen bundeling van diensten rond Copilot en Gemini. Hun inzet: eerlijke toegang tot data, chips en distributiekanalen.
Veiligheidsteams onder druk
Interne tegenspraak in Big Tech is verzwakt door reorganisaties en vertrek van sleutelfiguren. Bij OpenAI werd in 2024 de Superalignment-groep ontbonden, waarna prominente veiligheidsmedewerkers vertrokken. Google raakte eerder zijn ethische AI-onderzoekers kwijt na conflicten. Bij Meta werd de Responsible Innovation-divisie al in 2022 ontbonden.
Als safety-teams minder invloed hebben, schuift de balans naar productlanceringen. Red teaming en impactmetingen worden dan sneller ingekort. Dat vergroot de kans dat schadelijke functies in producten belanden. De maatschappelijke kosten komen daarna bij scholen, media en overheid te liggen.
Ook het onzichtbare werk wordt vaak onderschat. Labelen en modereren gebeurt nog steeds door laagbetaalde krachten, vaak buiten Europa. Zij filteren geweld, haat en misbruik uit trainingsdata. Arbeidsomstandigheden en psychologische steun blijven kwetsbaar punt.
Europese AI-verordening grijpt in
De Europese AI-verordening (AI Act) voert vanaf 2025–2026 stapsgewijs nieuwe plichten in. Hoge-risicosystemen moeten risicobeheer, documentatie, menselijk toezicht en nauwkeurigheid aantonen. Voor algemene modellen (GPAI), zoals GPT-4o en Gemini 1.5, gelden transparantie en veiligheidstesten. Modellen met zeer hoge impact krijgen extra eisen en toezicht door het Europese AI Office.
De verordening dwingt bedrijven om hun processen open te leggen. Dat omvat informatie over mogelijkheden, beperkingen en gebruikte data-categorieën. Ook moeten aanbieders misbruik en ernstige incidenten melden. Dit verkleint informatie-asymmetrie tussen Big Tech en samenleving.
De AVG blijft daarnaast gelden voor trainingsdata en gebruikersinformatie. Dataminimalisatie en een geldige rechtsgrond blijven verplicht, ook bij webscraping. Gebruikers hebben recht op inzage, correctie en verwijdering. Toezichthouders kunnen boetes opleggen bij hallucinaties die niet te corrigeren zijn.
Foundation-modellen zijn algemene AI-modellen die na training voor veel verschillende taken inzetbaar zijn; dat vraagt veel data, rekenkracht en strenge veiligheidstesten.
Gevolgen voor Nederland
Overheden, zorginstellingen en scholen die ChatGPT, Copilot of Gemini gebruiken, moeten een risicoanalyse doen. Voor chatbots in publieke diensten kan de hoge-risico-classificatie gelden. Dan zijn logging, menselijk toezicht en klachtprocedures verplicht. Inkoopvoorwaarden moeten deze eisen vastleggen.
Nederlandse bedrijven die bouwen op API’s van OpenAI, Google of Anthropic krijgen mede-verantwoordelijkheid. Zij moeten transparant zijn over AI-gebruik richting klanten en toezichthouders. Documentatie, herkomstlabels en testplannen worden standaard in aanbestedingen. Dit verkleint juridische en reputatierisico’s.
De Autoriteit Persoonsgegevens en de nieuwe AI-toezichtstructuur zullen strenger handhaven. Dat geldt voor onrechtmatig gebruikte trainingsdata en onjuiste profielen. Ook energievraag van AI-diensten krijgt aandacht door netcongestie en klimaatdoelen. Dat maakt efficiënte modellen en lokale verwerking aantrekkelijker.
Openheid is geen vrijbrief
Meer openheid over code of gewichten is nuttig, maar niet genoeg. Zonder uitleg over data, evaluaties en veiligheidsmaatregelen blijft het risico bestaan. Gebruikers moeten weten wat een systeem wel en niet kan. Alleen dan kunnen zij verantwoorde keuzes maken.
Voor Europa ligt de lat nu hoger door de AI Act en de AVG. Watermerken, risicorapporten en onafhankelijke audits worden de norm. Dat vraagt investeringen in tooling en governance. Maar het voorkomt dat problemen pas na uitrol zichtbaar worden.
Hao’s kernpunt blijft zo overeind: het gevaar komt van menselijk handelen en bedrijfskeuzes. Technologie versterkt wat er al is, goed of slecht. Sturing via toezicht, mededinging en arbeidsnormen maakt het verschil. Daar zal de komende jaren het gevecht om AI werkelijk worden beslist.