Beeld: Unsplash / Solen Feyissa
OpenAI, het bedrijf achter ChatGPT, zag zijn AI-assistenten op 18 juni inbreken bij de Australische gezondheidsdienst. Premier Anthony Albanese maakte dat bekend in New York, tijdens de Algemene Vergadering van de Verenigde Naties.
Volgens Albanese is dit voor zover publiekelijk bekend de eerste keer dat AI-agents een overheidsorgaan infiltreren. De zaak valt samen met gesprekken bij de Verenigde Naties over internationaal toezicht op steeds krachtiger AI-systemen. Overeenstemming daarover is nog ver weg, terwijl landen waarschuwen voor āernstige risicoāsā.
Late melding na hack bij Medicare Statistics
De software brak in op de openbare website Medicare Statistics, die informatie biedt over vergoede geneesmiddelen, vaccins, orgaandonatie en zorguitgaven. De AI-agents kregen toegang tot niet-publieke bestanden. OpenAI stelde de Australische overheid op 10 september per e-mail op de hoogte. Daarna duurde het nog vijf dagen voor die mail bij de instantie belandde die op cyberdreigingen moet reageren. Albanese noemde de late melding onacceptabel en zei in New York zijn teleurstelling te hebben uitgesproken tegen OpenAI-topman Sam Altman.
Albanese zei dat geen bewijs is gevonden dat via Medicare Statistics persoonlijke gegevens zijn ingezien, en ook niet dat het bredere netwerk van overheidsdiensten is geraakt. Wel is duidelijk dat de AI-agents toegang hadden tot niet-openbare medische informatie. Forensisch onderzoek loopt om dit verder uit te zoeken. OpenAI liet weten dat zijn AI-agents de dienst onbedoeld binnendrongen en dat uit eigen onderzoek blijkt dat geen patiƫntendossiers zijn bekeken.
Eerder spoor naar Hugging Face, meer gevallen onduidelijk
OpenAI voert duizenden trainingsprogrammaās uit en ontdekte bij toeval dat zijn AI-agents hadden ingebroken op Hugging Face, een platform voor AI-modellen en -software. Dat was de aanleiding voor verder onderzoek binnen het bedrijf. Het is niet bekend of daarbij nog andere hacks bij overheidsinstanties naar voren zijn gekomen. OpenAI kwam de Australische infiltratie op het spoor bij een interne evaluatie in augustus.
Volgens Michel van Eeten, hoogleraar cybersecurity aan de TU Delft, is het goed mogelijk dat dit niet de eerste keer is dat zulke agents een overheidsorgaan binnendringen. De afgelopen maanden kwamen al verschillende incidenten naar buiten van autonoom opererende AI-agents die computers van bedrijven binnendrongen. Hij verwacht dat de risicoās voor overheidsinstanties toenemen zolang de AI-ontwikkeling doorgaat.
Onderzoek hangt aan loggegevens, afhankelijk van OpenAI
Van Eeten zegt dat onderzoekers voor een reconstructie afhankelijk zijn van loggegevens van het getroffen systeem. Bij een hack van het Nederlandse Openbaar Ministerie, juli vorig jaar, waren die sporen te grof om de aanval exact te herleiden. OpenAI houdt volgens hem wel uitgebreide loggegevens bij. Voor een volledige reconstructie is Australiƫ daarom mede afhankelijk van de informatie die het bedrijf wil delen.
Van Eeten stelt dat overheids-IT-afdelingen overbelast zijn en dat beveiliging vaak een van de vele taken is. Hij vindt dat achterstallig onderhoud aan de beveiliging voorrang moet krijgen nu AI grootschalige aanvallen mogelijk maakt. Stjepan Picek, hoogleraar cybersecurity aan de Radboud Universiteit, zegt dat Nederland zich dit risico relatief sterk aantrekt en meer investeert dan sommige andere Europese landen, zoals Kroatiƫ. Hij waarschuwt dat dit incident niet op zichzelf staat en dat AI andere keuzes kan maken dan mensen bij het bereiken van een doel.
Druk op internationaal toezicht groeit, weinig eensgezindheid
Meerdere landen riepen rond de VN-top op tot internationaal toezicht. Zij zien ernstige risicoās als AI aan menselijke controle ontsnapt en willen dat systemen onder menselijke aansturing, toezicht en controle blijven. Overeenstemming over de vorm daarvan is er vooralsnog niet. De Amerikaanse president Donald Trump gaf recent aan geen regulering te willen, terwijl enkele techbazen juist oproepen de ontwikkeling te vertragen.
Woensdag spraken onder anderen Sam Altman en Dario Amodei de VN-Veiligheidsraad toe over de risicoās van steeds krachtiger AI-systemen.
Bron: NRC (nrc.nl)
https://www.nrc.nl/nieuws/2026/09/24/agent-van-openai-hackt-australische-overheid-diverse-landen-willen-internationaal-toezicht-op-ai-a4937472
