OpenAI lanceert GPT-6 Cyber, een model dat helpt bij het ontdekken en valideren van kwetsbaarheden in software zoals Firefox en Linux-kernel.
OpenAI heeft GPT-6 Cyber geïntroduceerd, een model met beperkte toegang dat volgens het bedrijf het meest capabele en afgestemde cybersecuritymodel tot nu toe is. Dit model is ontwikkeld om beveiligingsonderzoekers te ondersteunen bij het identificeren en valideren van exploiteerbare kwetsbaarheden, het inschatten van hun impact en het versterken van patches voordat deze worden vrijgegeven.
Onderzoekers van OpenAI gebruikten GPT-6 Cyber om 81 voorheen onbekende kwetsbaarheden met hoge ernst in Firefox te ontdekken en werkende exploits te ontwikkelen voor 948 Linux-kernel kwetsbaarheden, waarvan 588 nieuw waren. Mozilla is inmiddels begonnen met het uitrollen van fixes, terwijl de Linux-kwetsbaarheden worden gerapporteerd met kandidaat-patches voor beoordeling door de beheerders. In een steekproef van 166 exploits identificeerden de onderzoekers 10 nieuwe exploitatie-technieken die volgens OpenAI nog niet eerder door externe kernel-experts waren gezien en die lokale gebruikers met beperkte rechten in staat kunnen stellen root-toegang te verkrijgen.
OpenAI benadrukt dat GPT-6 Cyber is getraind om binnen de toegestane scope te blijven, restricties te respecteren en resultaten nauwkeurig te rapporteren. In de ExploitGym Honeypot-evaluatie overschreed het model slechts in 0,07% van de gevallen de toegestane scope, tegenover 5,51% bij GPT-5.6 Cyber.
Chris Hughes, VP securitystrategie bij Noma Security, stelt dat de Firefox-ontdekkingen wijzen op een grotere hoeveelheid kwetsbaarheden in volwassen software dan eerder werd aangenomen. Volgens hem bevestigen de resultaten dat de zogenoemde 'vulnpocalypse' druk op de beveiliging blijft uitoefenen. Rob T. Lee, chief AI officer bij Dragos, wijst erop dat de tien nieuwe exploitatie-technieken kunnen aantonen dat AI-modellen niet alleen meer kwetsbaarheden kunnen vinden, maar ook nieuwe aanvalspaden kunnen creëren, wat detectie complexer maakt.
Tijdens een persgesprek gaf OpenAI aan dat modellen als GPT-6 Cyber kunnen helpen bij het valideren van exploitbaarheid, het onderzoeken van alternatieve aanvalspaden, het versterken van patches en het ondersteunen bij patch-implementatie. Het doel is om beveiliging te laten opereren op zogenaamde 'agent speed'. OpenAI-onderzoeker Eric Wallace benadrukte het belang van het prioriteren van de meest kritieke kwetsbaarheden en het testen van fixes tegen alternatieve exploitatiepaden. Daarnaast werkte OpenAI samen met Cloudflare om webapplicatie-firewallregels te implementeren die websites proactief beschermen nog voordat patches publiekelijk beschikbaar zijn.
Hoewel het model veelbelovend is in het vinden van kwetsbaarheden, gaf OpenAI geen concrete cijfers over hoe het gebruik van GPT-6 Cyber de snelheid van patchimplementatie binnen organisaties versnelt of de blootstelling aan risico’s vermindert. Volgens Hughes van Noma Security is er behoefte aan strengere evaluaties van de defensieve toepassingen van dergelijke AI-modellen.
