Een brede coalitie van AI-onderzoekers, techbedrijven en biosecurity-experts vraagt deze week om sterkere bescherming tegen AI-gestuurde biowapens. Zij willen dat overheden in Europa, het Verenigd Koninkrijk en de Verenigde Staten snel regels invoeren voor testen, toezicht en misbruikpreventie. De oproep richt zich ook op de Europese AI-verordening en de gevolgen daarvan voor overheid en bedrijven. Doel is het verkleinen van het risico dat algoritmen het maken van gevaarlijke biologische middelen makkelijker maken.
Oproep tot harde bio-waarborg
De ondertekenaars pleiten voor verplichte risicotoetsen voor grote AI-modellen voordat die publiek beschikbaar komen. Zo’n toets moet specifiek meten of een systeem helpt bij het ontwerpen of optimaliseren van pathogenen, of bij het plannen van gevaarlijke labprocedures. Zij vragen om onafhankelijke audits, openbare rapportage van testresultaten en sancties bij overtredingen. Daarmee komt er duidelijker toezicht, vergelijkbaar met veiligheidskeuringen in andere risicovolle sectoren.
Daarnaast vragen zij om wettelijke DNA-synthese-screening bij alle aanbieders die genetisch materiaal op bestelling leveren. Ook willen zij strengere regels voor labautomatisering die via software en robots handelingen kan uitvoeren. Samen moeten deze maatregelen de hele keten afdekken: van informatievraag aan een taalmodel tot en met het bestellen van DNA en het uitvoeren van experimenten. Dat moet de drempel voor misbruik aanzienlijk verhogen.
Grote AI-labs als OpenAI, Google DeepMind, Anthropic en Meta hebben al eigen beleid om bioveiligheidsrisico’s te beperken. Die regels verschillen per bedrijf en zijn niet overal afdwingbaar. De initiatiefnemers vinden daarom dat basiswaarborgen in wetgeving moeten worden vastgelegd. Zo ontstaat meer gelijke bescherming, ook bij kleinere spelers en open modellen.
AI-modellen vergroten misbruikrisico
Grote taalmodellen (LLM’s) zijn systemen die tekst genereren op basis van patronen in enorme datasets. In combinatie met zoekfuncties, codehulpen en wetenschappelijke databanken kunnen zij stappenplannen maken, protocollen uitleggen en problemen oplossen. Zonder strikte filters kan zo’n model helpen het “lastige stukje” in een complex bioprotocol te vinden. Dat verlaagt de drempel voor onervaren gebruikers.
Bedrijven bouwen veiligheidslagen in, zoals blokkades op gevoelige vragen en detectie van “jailbreaks” (pogingen om verboden antwoorden te forceren). Die lagen werken niet altijd en zijn soms te omzeilen met omwegen of vertalingen. Ook kunnen multimodale modellen, die tekst en beeld combineren, labapparatuur aansturen of schema’s interpreteren. Daarom vragen de experts om standaardtests die specifiek op biologische risico’s zijn gericht.
Er is bovendien zorg over het koppelen van modellen aan externe tools, zoals code-executie, robotarmen of websurfen. Zulke koppelingen maken systemen krachtiger, maar vergroten ook de kans op stap-voor-stap begeleiding bij gevaarlijke handelingen. Het principe is eenvoudig: hoe meer autonomie en toegang tot hulpmiddelen, hoe groter de potentiële impact. Dat vraagt om strengere “tool-use” controles en logging.
EU AI-verordening biedt haakjes
De Europese AI-verordening (AI Act) verplicht aanbieders van generieke AI met systemisch risico tot risicobeheer, modeltesten, incidentmelding en transparantie, op het moment van schrijven in nadere uitwerking door de Europese Commissie en het AI Office in Brussel. Biosecurity kan daarin als concreet toetsveld worden ingebed. Denk aan verplichte bioveiligheids-evaluaties, rode-teams met domeinexperts en documentatie over mitigaties. Zo sluit beleid beter aan op het werkelijke risico van misbruik.
De oproep raakt ook aan bestaande Europese kaders. Bij het verwerken van gezondheids- of labgegevens blijft de AVG leidend, inclusief dataminimalisatie en versleuteling. Voor materialen en technieken met mogelijk militair of dubbel gebruik geldt de EU-dual-use-verordening. Samen vormen deze regels een basis, maar ze dekken AI-gestuurd kennismisbruik nog niet volledig af.
Voor de overheid betekent dit dat handhaving en guidance snel moeten worden verduidelijkt. Toezichthouders hebben expertise nodig om modelbeoordelingen te lezen en te beoordelen. Daarnaast is samenwerking met bioveiligheidsinstanties en nationale veiligheidsdiensten nodig voor signalen uit het veld. De oproep vraagt daarom expliciet om Europese coördinatie en duidelijke richtsnoeren voor de markt.
Wat dit vraagt van Nederland
Nederland heeft met het RIVM en het Loket Biosecurity al infrastructuur voor bioveiligheid. Universiteiten en biotech-start-ups werken vaak met interne screenings en volgen sectorcodes zoals die van het International Gene Synthesis Consortium, waar aanbieders als Twist Bioscience en IDT bij zijn aangesloten. De oproep maakt van zulke vrijwillige praktijken een wettelijke minimumnorm. Dat brengt duidelijkheid, maar ook extra verplichtingen voor instellingen en leveranciers.
Voor DNA-synthesebedrijven in Nederland betekent dit waarschijnlijk verplichte sequence-screening, klantverificatie en bewaartermijnen voor bestellogs. Researchinstellingen zullen hun AI-gebruik in labs moeten inventariseren en risico’s vastleggen, inclusief training van personeel. Cloud- en AI-dienstverleners moeten strengere filters en detectie op bioveiligheid inbouwen, en misbruik meldingen snel delen met autoriteiten. Inkoopafdelingen bij overheid en zorg kunnen eisen opnemen in contracten om naleving af te dwingen.
Ook de nationale veiligheidsketen krijgt een rol. Het Nationaal Cyber Security Centrum en de NCTV kunnen kennis over digitale dreigingen koppelen aan biosecurity-signalen. Praktisch helpt dat bij vroege waarschuwingen, bijvoorbeeld bij verdachte bestellingen of ongebruikelijke API-activiteit. Zo ontstaat een integrale aanpak van fysiek, digitaal en algoritmisch risico.
Technische drempels nog onvoldoende
Er ontbreekt op het moment van schrijven een breed gedragen standaard voor bio-riskevaluaties van AI-modellen. Tests zijn vaak niet openbaar en moeilijk te vergelijken tussen labs. De oproep vraagt daarom om gedeelde benchmarks en protocollen, liefst met onafhankelijke verificatie. Dat vergroot de betrouwbaarheid en maakt het toezicht beter uitvoerbaar.
Een tweede hiaat is de herkomstcontrole van gevoelige uitkomsten. Watermerken en contentprovenance voor tekst en code kunnen helpen, maar zijn nog niet robuust. Bij koppeling met labhardware is ook “human-in-the-loop” vereist: een mens moet gevaarlijke stappen kunnen stoppen. Duidelijke logboeken en terugkijkbare beslissingen zijn daarbij cruciaal.
Tegelijk mag bescherming kennisdeling in de wetenschap niet onnodig blokkeren. De balans ligt bij gerichte beperkingen op instructies en tools die direct tot gevaarlijke handelingen leiden, niet bij algemene informatie. Transparantie over veiligheidsingrepen helpt gebruikers begrijpen wat wel en niet kan. Zo blijft verantwoord onderzoek mogelijk, terwijl misbruik lastiger wordt.
DNA-synthese-screening is het controleren van bestelde genetische sequenties op overeenkomsten met gevaarlijke pathogenen of toxines, om misbruik vroeg te stoppen.