Een internationaal onderzoeksteam ontwierp onlangs zestien nieuwe virussen met een AI-systeem. Het model genereerde complete DNA-sequenties die in principe te maken zijn in een laboratorium. Dit leidt tot een roep om strengere regels voor wetenschappers die met zulke algoritmen werken. Beleidsmakers in Europa en Nederland willen duidelijkheid over bioveiligheid en toezicht.
AI ontwerpt zestien virussen
Het onderzoeksteam gebruikte een generatief model, een type software dat nieuwe data maakt op basis van voorbeelden. Het systeem was getraind op bekende virusgenomen en produceerde varianten met vergelijkbare structuur. Sommige sequenties zouden in cellen of bacteriën te kopiëren zijn. Het is onduidelijk of alle varianten daadwerkelijk ziekten kunnen veroorzaken.
De stap van digitaal ontwerp naar een echt virus vraagt extra werk. Daarvoor zijn DNA-synthese, assemblage en gecontroleerde proeven in een streng beveiligd lab nodig. Toch daalt de drempel door goedkope DNA-orders en beter lab-automatiseerbaar werk. Dat maakt preventie en toezicht urgenter.
De onderzoekers deelden methoden die ook door anderen te volgen zijn. Publicatie van code of datasets kan nuttig zijn voor wetenschap. Maar het verhoogt ook het risico op misbruik door kwaadwillenden. Dat spanningsveld staat nu scherp op de agenda.
“Een generatief model is software die op basis van bestaande voorbeelden zelf nieuwe teksten, beelden of DNA-sequenties maakt.”
Wetenschappers vragen om regels
Na het experiment klinkt de oproep om duidelijke grenslijnen. Biologen willen weten wat zij wel en niet mogen publiceren. Ook vragen zij om heldere richtlijnen voor datasetkeuze en voor het beperken van gevaarlijke outputs. Ethische commissies krijgen zo een steviger kader.
Voorstanders pleiten voor een vergunningsplicht voor AI-systemen die pathogenen kunnen ontwerpen. Zij willen ook logging en verplichte risicoanalyses in laboratoria. Peer reviewers zouden protocollen strenger moeten toetsen. Dat kan inclusief onafhankelijke veiligheidschecks zijn.
Tegenstanders vrezen vertraging van nuttig onderzoek, zoals vaccins of gentherapie. Zij wijzen op bestaande regels voor gevaarlijk onderzoek. Toch groeit het besef dat generatieve algoritmen nieuwe risico’s meebrengen. Daar past aangepast beleid bij.
AI-verordening en bioveiligheid
De Europese AI-verordening (AI Act) is nu van kracht en wordt gefaseerd toegepast. De wet eist risicobeheer, datagovernance en menselijk toezicht bij hoge risico’s. Bio-ontwerpsoftware valt niet expliciet in een vaste categorie. Maar inzet in laboratoria kan onder strenge verplichtingen vallen.
Voor zogeheten general-purpose AI komen gedragscodes en beoordelingsplichten. Het Europese AI Office werkt hier op het moment van schrijven aan. Dat raakt ook modellen die DNA kunnen genereren of labstappen plannen. Overheden moeten bepalen hoe dit doorwerkt naar onderzoek en onderwijs.
De Europese AI-verordening gevolgen overheid zijn praktisch: inkoop, audits en meldplichten. Universiteiten en UMC’s zullen processen moeten aanpassen. Denk aan documentatie, incidentrapportage en toegangssturing. Zo ontstaat een keten van verantwoordelijkheid.
Nederlandse gevolgen en toezicht
In Nederland houden RIVM en COGEM toezicht op bioveiligheid en ggo-werk. Laboratoria werken met BSL-niveaus en vergunningen. Die structuur kan worden uitgebreid met AI-specifieke eisen. Bijvoorbeeld registratie van gebruikte modellen en red-teaming tegen misbruik.
Er klinkt steun voor verplichte DNA-screening door syntheseleveranciers. Dat filtert bestellingen op gevaarlijke sequenties. In de EU is dit nu vaak vrijwillig. Een wettelijke plicht zou gaten dichten tussen landen.
Ministeries van VWS en OCW kunnen samen met de Inspectie Gezondheidszorg en Jeugd stappen zetten. Denk aan richtsnoeren voor publicatie en datasetselectie. Ook kan exportcontrole voor dual-use software worden aangescherpt. Zo sluit beleid aan op de snelle techniek.
Techbedrijven bouwen vangrails
Grote AI-aanbieders zoals OpenAI, Google, Anthropic en Meta blokkeren biohazard-vragen. Zij trainen detectiemodellen en zetten filters op prompts en output. Ook voeren zij interne red-teams en externe audits uit. Toch zijn open modellen en kleinere tools lastiger te beheersen.
Ontwikkelaars kunnen gevaarlijke trainingsdata uit datasets halen. Ze kunnen ook drempels inbouwen, zoals rate limits en identiteitschecks. Transparante logboeken helpen misbruik opsporen. Dit alles verlaagt het risico zonder onderzoek stil te zetten.
Voor onderzoeksgroepen ligt de lat vergelijkbaar. Documenteer modellen, versies en veiligheidsmaatregelen. Laat een tweede team risico’s testen voor publicatie. En deel alleen wat nodig is voor reproduceerbaarheid, niet voor misbruik.
Wat nu nodig is
Een gezamenlijk raamwerk voor bio-AI is urgent. Combineer laboratoriumregels met AI-veiligheidsnormen. Stel duidelijke drempels voor publicatie en openbroncode. En maak DNA-screening in Europa verplicht en uniform.
Daarnaast helpt een vergunning voor hoge-risicosystemen in biolabs. Koppel die aan periodieke audits en incidentmelding. Zorg dat onderwijs hierin wordt opgenomen. Zo weten studenten en onderzoekers waar zij aan toe zijn.
Tot slot vraagt dit om internationale afstemming. De EU, VS en andere regio’s kunnen standaarden delen. Dat beperkt verplaatsing van risico’s over grenzen heen. En het beschermt tegelijk waardevol biomedisch onderzoek.