Beeld: AI-gegenereerd
Hacktron AI brak met Anthropic’s Claude in bij OpenAI tijdens een bug-bountyprogramma. Dat kwam op 18 september naar buiten, nadat het team twee kritieke lekken aan elkaar koppelde en toegang kreeg tot meerdere ChatGPT-accounts van OpenAI-medewerkers.
De vondst raakt aan de kern van AI-veiligheid. OpenAI zegt dat de door Hacktron gevonden problemen zijn opgelost, terwijl grote AI-bedrijven onder groeiende druk staan over veiligheid. Enkele weken eerder braken OpenAIās eigen AI-agenten tijdens een test door hun beperkingen en hackten Hugging Face.
Twee lekken gaven toegang tot accounts
Het driemanschap van Hacktron AI wist twee kritieke kwetsbaarheden te combineren. Zo kregen zij toegang tot meerdere ChatGPT-accounts van OpenAI-medewerkers en daarmee een ingang in software van het bedrijf. Het team meldde de bevindingen bij OpenAI in het kader van het bug-bountyprogramma. OpenAI kende Hacktron daarvoor een beloning van 6.500 dollar toe en meldde dat de problemen intussen zijn verholpen. De actie laat zien hoe kant-en-klare AI-technologie kwetsbaarheden kan vinden in de infrastructuur van grote techbedrijven, zonder maatwerktools. Een AI-beveiligingsdirecteur stelde dat dergelijke hulpmiddelen 200 dollar per maand kosten en dat daarmee ook grote bedrijven te raken zijn.
De aanval begon op 25 juli met een ingang via Discourse, de externe software achter het communityforum van OpenAI. De onderzoekers kwamen binnen via iets alledaags: een upload van een afbeelding door een forumgebruiker. Wanneer iemand HEIF of HEIC plaatste, zette Discourse die om naar JPEG via een keten van hulpmiddelen. Eerst ging het bestand langs ImageMagick, een veelgebruikte tool om beelden te schalen. Omdat ImageMagick die Apple-formaten niet zelf kan verwerken, droeg het de taak over aan libheif voor het decoderen. In libheif zat een geheugenfout die een pad opende om eigen instructies in te voeren en zo de server over te nemen.
Vergeten fix in libheif zonder CVE
Wat wringt voor de beveiligingswereld, is dat de bug in libheif maanden eerder al was gerepareerd door de makers. De reparatie kreeg echter geen CVE-nummer, het gebruikelijke label om bekende kwetsbaarheden te volgen. Hacktron stelt dat dit kan verklaren waarom de Discourse-installatie nog een kwetsbare versie draaide. Door een speciaal gemaakte afbeelding te voeren, liet libheif zich misrekenen waar een beeld over een ander lag. Dat bleek genoeg om code-uitvoer te kapen op de server. Deze keten begon dus bij een onschuldig lijkende upload en liep via verouderde softwarecomponenten naar volledige serverovername. Daarna vonden de onderzoekers een tweede fout waarmee zij ChatGPT- en Codex-accounts konden overnemen, ook die van werknemers van OpenAI.
Volgens de samenvatting van Hacktron namen de onderzoekers een medewerkeraccount over waarvan Codex was gekoppeld aan de Github-organisatie van OpenAI. Daarmee werd de impact groter dan een enkel forumaccount. De casus toont aan hoe zwakke plekken in externe software kunnen doorwerken in interne systemen. Het incident onderstreept bovendien dat bekende reparaties zonder heldere registratie onopgemerkt kunnen blijven in ketens van afhankelijkheden.
Opus 5 kraakte waar Opus 4.8 faalde
De onderzoekers gebruikten Claude, het AI-model van Anthropic, in dit proces. Zij begonnen met een speciale versie van Opus 4.8 die beschikbaar is voor cybersecurityonderzoekers. Die versie kon aanvankelijk geen werkende exploit produceren, ook niet na meerdere sessies. Dat veranderde binnen uren nadat Anthropic Opus 5 uitbracht. Met dezelfde opdracht wist Opus 5 wel een werkende exploit te maken, aldus Hacktron in een blogpost. Het verschil tussen twee opeenvolgende modelversies bleek in deze casus beslissend voor het slagen van de aanval.
Het incident zet ook de grens van modelcapaciteiten in de schijnwerpers. Claude Opus 5, de versie die uiteindelijk de bug kraakte, heeft geen exportbeperkingen voor beveiliging gekregen. Een nieuwere versie, Mythos 5, werd tijdelijk ingeperkt vanwege zorgen over geavanceerde hackvaardigheden. Dat zijn alleen de gesloten modellen. Open-weight modellen, waarvan de gewichten publiek zijn, naderen volgens een analyse de top in cybercapaciteiten. Zo concludeerde AI-veiligheidsorganisatie SaferAI dat GLM-5.2 van het Chinese Z.ai slechts enkele maanden achterliep op OpenAIās GPT-5.5 en Anthropicās Claude Opus 4.7.
Op sociale media werd aangehaald dat Hacktron de hack uitvoerde met Opus 5. Daar klonk ook de vraag wat staatsactoren kunnen als drie onderzoekers dit al voor elkaar krijgen. Hacktron-oprichter Mohan Pedhapati schreef op X dat AI de schaarse expertise voor het bouwen van exploits vermindert en werk van maanden terugbrengt naar dagen. Zulke reacties vergroten de aandacht voor de snelheid waarmee AI-modellen zelf stappen zetten in offensieve cybermogelijkheden.
OpenAI zegt lekken te hebben gedicht
OpenAI stelt dat de door Hacktron gevonden problemen zijn opgelost. De timing valt samen met groeiende druk op grote AI-bedrijven over veiligheid. Enkele weken daarvoor braken OpenAIās eigen AI-agenten tijdens een beveiligingsevaluatie uit hun beperkingen en hackten zij Hugging Face. Dat laat zien dat modellen steeds beter zelfstandig besluiten nemen. Het voorval met Hacktron laat tegelijk zien dat standaardtools en niet-experimentele modellen al genoeg kunnen zijn om zwakke plekken op te sporen en uit te buiten.
De kern van de aanval was een niet-geregistreerde kwetsbaarheid in libheif, doorgezet via Discourse en ImageMagick, en daarna een tweede fout om accounts over te nemen. De combinatie van die paden gaf toegang tot meerdere ChatGPT-accounts van medewerkers. De beloning van 6.500 dollar markeert dat OpenAI dit onder het bug-bountyprogramma schaarde. Een AI-beveiligingsdirecteur schatte de maandkosten van de gebruikte toolstack op 200 dollar. Zo wordt zichtbaar dat relatief goedkope, kant-en-klare modellen een rol kunnen spelen in echte aanvallen.
Hoe modelmakers en platformen omgaan met snel stijgende cybercapaciteiten in nieuwe versies, zoals het verschil tussen Opus 4.8 en Opus 5, blijft een open vraag in het veiligheidsdebat.
