Demis Hassabis, topman van Google DeepMind, spreekt opnieuw zijn zorgen uit over snelle, krachtige AI-systemen. Hij wil strengere waarborgen voordat zulke algoritmen breed worden ingezet. Dat is actueel in Europa, waar de AI-verordening (AI Act) nu gefaseerd ingaat en gevolgen heeft voor overheid en bedrijven. De inzet: innovatie behouden, maar risico’s tijdig indammen.
Hassabis vraagt om waarborgen
Hassabis is op het moment van schrijven CEO van Google DeepMind in Londen. Hij benadrukt dat frontiermodellen, zoals generatieve systemen en autonome agenten, grondige tests nodig hebben. Denk aan stresstests, zogeheten red-teaming en duidelijke grenzen aan gebruik.
Hij pleit voor samenwerking tussen bedrijven, wetenschappers en toezichthouders. Onafhankelijke evaluaties moeten de standaard worden, met gedeelde benchmarks en rapportages. Daar horen ook duidelijke noodprocedures bij voor als een systeem onverwacht gedrag vertoont.
Die lijn sluit aan bij de Europese koers naar meer transparantie en verantwoordelijkheid. De AI-verordening verplicht aanbieders om risico’s te documenteren en te beperken. Dat raakt direct ook Google DeepMind, dat zijn modellen en documentatie voor de Europese markt moet aanpassen.
Doorbraken en grenzen AlphaFold
Google DeepMind is bekend van AlphaGo en AlphaFold, dat eiwitstructuren voorspelt met behulp van datamodellen. AlphaFold 2 versnelde biomedisch onderzoek, onder meer via de open AlphaFold Database bij EMBL-EBI in Europa. Labs in Nederland gebruiken die data voor nieuwe hypotheses en snellere experimenten.
AlphaFold DB bevat meer dan 200 miljoen voorspelde eiwitstructuren en is vrij toegankelijk voor onderzoekers wereldwijd.
Toch zijn er beperkingen die Hassabis zelf erkent. AlphaFold geeft vooral een statisch beeld en kent onzekerheden bij zeldzame of zeer flexibele eiwitten. Laboratoriumvalidatie blijft noodzakelijk, zeker richting medicijnontwikkeling.
De spanning is zichtbaar: enorme wetenschappelijke winst, maar ook zorg over misbruik en overschatting. Biosecurity is een aandachtspunt, bijvoorbeeld bij het combineren van modellen en gevoelige data. Europese richtsnoeren vragen daarom om zorgvuldige datakeuze en controleerbare methoden.
EU AI-verordening dwingt transparantie
De AI-verordening deelt toepassingen in risicoklassen in en verbiedt bepaalde praktijken. Voor generieke of general-purpose AI (GPAI) gelden nieuwe plichten zoals technische documentatie, evaluaties en een samenvatting van trainingsdata. De regels gaan gefaseerd gelden vanaf 2024 en 2025.
Voor Google en Google DeepMind betekent dit meer openheid over modellen die in Europa worden aangeboden, zoals de Gemini-familie. Denk aan veiligheidsrapporten, modelkaarten en duidelijke instructies voor afnemers. Ook auteursrecht- en privacykwesties moeten vooraf zijn afgedekt.
Overheden in Nederland krijgen hiermee een concreet kader voor inkoop en gebruik. Impactanalyses, logging en toezicht worden strakker belegd, met directe “Europese AI-verordening gevolgen overheid”. Dat vraagt om nieuwe expertise bij IT, inkoop en juridische teams.
Google DeepMind stuurt op veiligheid
Google bundelde AI-onderzoek in Google DeepMind, met Hassabis aan het roer. Het bedrijf werkt aan frontiermodellen, robotica en wetenschapstoepassingen zoals vervolgversies van AlphaFold. Daarbij neemt veiligheid een grotere plek in het ontwikkelproces in.
Er wordt geïnvesteerd in interpretatie van modellen, robuustheid en evaluatiestandaarden. Google introduceerde bijvoorbeeld SynthID, een techniek voor watermerken bij gegenereerde beelden en audio. Zulke hulpmiddelen sluiten aan bij Europese plannen voor herkomstlabels en traceerbaarheid.
Tegelijk schuurt het tussen open wetenschap en gesloten productontwikkeling. Sommige modelonderdelen en datasets blijven intern, wat repliceerbaarheid beperkt. Dat zet druk op het vertrouwen, zeker bij publieke inzet van systemen.
Nederlandse impact in zorg en labs
Nederlandse universiteiten en UMC’s benutten AlphaFold en de AlphaFold Database voor onderzoek. Dit versnelt eiwitonderzoek en kandidaatselectie voor medicijnen. Samenwerkingen met Europese infrastructuren, zoals EMBL-EBI, maken hergebruik en controleerbaarheid mogelijk.
In de zorg en bij farmapartners gelden strenge AVG-eisen, zoals dataminimalisatie en versleuteling. Medische AI valt vaak in de hoge-risicoklasse van de AI-verordening. Dat betekent extra testen, documentatie en post-market monitoring.
Publieke instellingen bouwen aan algoritmeregisters en voeren risicobeoordelingen uit. Gemeenten en rijksoverheid scherpen procedures voor inkoop en audits aan. Hassabis’ roep om transparantie sluit aan bij deze ontwikkeling.
Macht, risico’s en toezicht
Er is kritiek dat grote techbedrijven de regels mee vormgeven en zo de lat zetten. Voorstellen over rekenkrachtlimieten en licenties kunnen kleinere spelers raken. Europa wil daarom balans: innovatieruimte, maar met echte tegenmacht.
Hassabis profiteert van schaal, maar wijst ook op het belang van open wetenschap, zoals met AlphaFold-publicaties. Die mix van open data en gesloten modellen vraagt strakke spelregels. Heldere, toetsbare claims zijn nodig om greenwashing te voorkomen.
De Europese Commissie richt een AI Office op voor GPAI-toezicht, naast nationale autoriteiten. Handhaving met audits en boetes moet naleving afdwingen. Daarmee krijgt Hassabis’ voorzichtigheidsboodschap in Europa concreet gevolg in wet en praktijk.