Unit 42 heeft recent frontier AI-modellen getest en constateert een grote verandering in de snelheid, schaal en capaciteit van AI om softwarekwetsbaarheden te identificeren. Deze modellen functioneren niet langer alleen als programmeerassistent, maar als volwaardige security onderzoekers. Dit leidt tot zorgwekkende ontwikkelingen zoals autonome ontdekking van zero-days, een sterk verkorte patchperiode voor N-days, geavanceerde ketens van exploitatiepaden en realtime aanpassing om beveiligingsmaatregelen te omzeilen.

De impact van deze frontier AI-modellen op het dreigingslandschap gaat verder dan alleen het vinden en misbruiken van kwetsbaarheden. Naarmate deze modellen breder beschikbaar komen, wordt een sterke toename verwacht in snelheid en omvang van AI-gestuurde aanvallen gedurende de gehele aanvalscyclus. Zoals ook uitgebreid besproken door Anthropic, zijn frontier AI-modellen een belangrijke stap vooruit in AI-capaciteiten. Ze kunnen met minimale menselijke expertise kwetsbaarheden en complexe exploitatieketens in systemen en software blootleggen.

Unit 42 waarschuwt dat deze modellen het risico op zero-day en N-day kwetsbaarheden aanzienlijk verhogen. Ze verlagen de drempel voor minder ervaren aanvallers om complexe exploitatiepaden te vinden en versnellen de cyclus van ontdekking naar misbruik drastisch. Vooral open source software (OSS) loopt op korte termijn een verhoogd risico. Hoewel het principe van ‘given enough eyeballs, all bugs are shallow’ vaak geldt, tonen tests aan dat frontier AI-modellen bij het analyseren van broncode sterk zijn in het vinden van kwetsbaarheden en exploitatieketens. Bij gecompileerde code zijn de verbeteringen ten opzichte van bestaande AI-modellen echter beperkt.

Daarom is OSS kwetsbaarder, mede omdat commerciële software vrijwel altijd OSS-componenten bevat. Unit 42 benadrukt dat OSS niet per definitie kwetsbaarder is, maar dat het open ontwikkelmodel en de publieke beschikbaarheid van broncode het voor aanvallers makkelijker maken om kwetsbaarheden te vinden zonder dat verdedigers dit zien. Ook het beperkte aantal onderhouders en hun beschikbare tijd speelt een rol. Unit 42 verwacht een toename van grootschalige supply chain-aanvallen op OSS-projecten, vergelijkbaar met recente incidenten zoals de TeamPCP-aanvallen en de aanval van Noord-Korea op de Axios JavaScript-bibliotheek.

Hoewel AI-gestuurde dreigingen nog een klein deel van het totale dreigingsbeeld vormen, investeren kwaadwillenden steeds meer in AI-onderzoek en testmogelijkheden. De eerste voorbeelden van AI-gerelateerde malware laten zien dat dreigingsactoren experimenteren met deze technologieën, wat wijst op een nieuwe fase in AI-ondersteunde aanvalspaden.