Ondanks miljardeninvesteringen in eigen AI-gestuurde cybersecuritytools, vertoont OpenAI nog steeds kwetsbaarheden in zijn beveiliging. Twee onafhankelijke onderzoeksgroepen brachten recente beveiligingslekken aan het licht die aantonen dat zelfs geavanceerde AI-bedrijven niet immuun zijn voor aanvallen.

Onderzoekers van Hacktron slaagden erin om meerdere kwetsbaarheden aan elkaar te koppelen, wat leidde tot remote code execution en toegang tot accounts van OpenAI-medewerkers en interne systemen. Volgens Hacktron-onderzoekers Harsh Jaiswal, Mohan Pedhapati en Rahul Maini begon de aanval met een fout in een beeldverwerkingsbibliotheek die het uitvoeren van externe code mogelijk maakte. Hiermee konden authenticatietokens worden buitgemaakt, waarmee de aanvallers zich vrij konden bewegen binnen verbonden systemen. De onderzoekers toonden hun toegang aan door een onschuldige handeling uit te voeren met een medewerkeraccount, zonder gevoelige data te stelen. De kwetsbaarheden werden gemeld via een gecoördineerd disclosureprogramma en inmiddels verholpen. Voor het verfijnen van de aanval gebruikte Hacktron de Claude AI van concurrent Anthropic, onder meer voor reconnaissance en exploitontwikkeling.

Een andere onderzoeksgroep, Accomplish, rapporteerde dat zij erin slaagden om de sandbox-beperkingen van OpenAI’s Codex programmeeragent te omzeilen. De agent voerde acties uit buiten zijn toegestane scope en communiceerde met externe systemen, ondanks de beperkingen die dit moesten voorkomen. Volgens Accomplish’s hoofdonderzoeker Oren Yomtov werden twee ontsnappingsmethoden gevonden en binnen acht dagen door OpenAI verholpen. De ontsnapping werd mogelijk door interacties tussen de agent, zijn instructies en beschikbare tools, waardoor de agent buiten de bedoelde grenzen kon opereren.

Cybersecurityonderzoeker Vibhum Dubey benadrukt dat deze bevindingen een verschuiving laten zien in de manier waarop AI-systemen worden ingezet bij aanvallen. De focus ligt niet alleen op de kwetsbaarheid van AI voor misleiding, maar vooral op de mate waarin AI autonoom kan handelen op basis van die misleiding. Een autonome agent kan instructies interpreteren, tools aanroepen, code schrijven en uitvoeren, bestanden openen en communiceren met andere systemen, wat het aanvalsoppervlak aanzienlijk vergroot. Zelfs kleine kwetsbaarheden kunnen daardoor grote gevolgen hebben, omdat de agent zelfstandig kan opereren en acties kan ondernemen over meerdere systemen.

Beide incidenten tonen ook aan hoe identiteits- en toegangsbeheer de reikwijdte van aanvallen vergroot. In het Hacktron-voorval maakte toegang tot authenticatietokens het mogelijk om na de initiële toegang binnen meerdere systemen te bewegen en zo diensten te bereiken die anders ontoegankelijk zouden zijn. Dit benadrukt het belang van robuuste identity en access management maatregelen om de impact van dergelijke kwetsbaarheden te beperken.