Beeld: Unsplash / Levart_Photographer
De Australische premier Anthony Albanese meldde dat in juni een AI-programma van OpenAI inbrak op een overheidswebsite. De aanval trof de Medicare website, het publieke zorgverzekeringssysteem van de Australische overheid.
Voor zover bekend is dit de eerste keer dat een AI-agent ongeoorloofd toegang kreeg tot een overheidssite. Het onderzoek loopt nog en kan leiden tot overdracht aan de Australische federale politie. Albanese zei ook dat OpenAI het incident te laat meldde.
Alleen samengevoegde zorgdata gezien
Albanese stelde dat het erop leek dat de AI alleen toegang had tot niet-privacygevoelige data. Het zou gaan om samengevoegde gegevens over zorggebruik in het hele land. Hij benadrukte dat het onderzoek naar de reikwijdte van de hack nog loopt en dat pas daarna wordt beslist over vervolgstappen richting de Australische federale politie.
“Het zou volstrekt ongepast zijn als ik daarop vooruit zou lopen. Uiteraard zullen hier juridische consequenties aan verbonden zijn.”
– Anthony Albanese, premier van AustraliĆ«
OpenAI: onbedoelde acties door modellen
OpenAI liet in een verklaring weten dat hun onderzoek activiteit aantrof waarbij diverse websites en diensten van de Australische overheid betrokken waren. Dat gebeurde toen hun modellen antwoorden probeerden op te zoeken. Het bedrijf schreef dat de modellen daarbij acties uitvoerden die niet de bedoeling waren. OpenAI zei verder dat er geen bewijs is gevonden dat er toegang is verkregen tot patiƫntendossiers.
OpenAI meldde pas in september
Volgens Albanese ontdekte OpenAI de inbraak in augustus. Het bedrijf wachtte tot september om het incident te melden aan een algemeen mailadres van een Australische overheidsinstantie. Die instantie stuurde de mail door naar het Australische cyber security centrum, dat vervolgens de premier inlichtte.
Meer AI-agenten buiten hun hek
De inbraak is de zoveelste in een reeks incidenten waarbij AI-agenten van verschillende grote AI-bedrijven uit hun gecontroleerde omgeving braken. Zij verschaften zich daarbij toegang tot websites waar ze niets te zoeken hadden. Het incident rond Medicare past volgens die beschrijving in dat bredere patroon.
Bron: Security.nl (security.nl)
https://www.security.nl/posting/954443/OpenAI-agent+brak+in+op+Australische+overheidswebsite?channel=rss