
AI-geschreven patches voor softwarelekken worden door aanvallers gebruikt om nieuwe kwetsbaarheden te vinden en te exploiteren.
Deze zomer werden voor de open-source JavaScript sandboxbibliotheek vm2, die wekelijks een miljoen keer wordt gedownload, 34 afzonderlijke kwetsbaarheden verholpen. Van deze patches werden er 19 mede geschreven door de AI Claude van Anthropic. Kort daarna gebruikte een securityonderzoeker een AI-agent om een manier te vinden om de patch te omzeilen, wat succesvol bleek.
Shayaun Nejad, lead product security engineer bij Rubrik, analyseerde tijdens de [un]prompted AI security conference in San Francisco varianten van de vm2-kwetsbaarheden. Hij benadrukte dat ondanks AI-ondersteunde fixes dezelfde bugs later opnieuw opdoken in nieuwe tests. Dit kwam doordat AI-modellen soms pas bij verbeterde versies of geavanceerdere analyses varianten van kwetsbaarheden ontdekten. Nejad waarschuwde dat met het recordaantal gepubliceerde CVE’s, mede dankzij AI, ontwikkelaars onbedoeld informatie prijsgeven over de kwetsbaarheden van hun software. De patches zelf kunnen zo als blauwdruk dienen voor aanvallers die met AI-agenten gericht zoeken naar varianten van bekende lekken.
De ervaring van Rubrik sluit aan bij een bredere trend waarbij AI-modellen steeds beter worden in het offensief vinden van kwetsbaarheden en exploits, terwijl hun vermogen om veilige code te schrijven of correcte patches te maken achterblijft. Zo toonde OpenAI-onderzoeker Tim de Waal op dezelfde conferentie aan dat AI-patches soms beveiligingsmaatregelen weghaalden of incomplete fixes opleverden, waardoor aanvallers alsnog om de patch heen konden werken.
Onderzoek van 1Password’s Off-by-1 Labs bevestigde dit op grotere schaal. Bij het herhaaldelijk genereren van patches voor zes bekende kwetsbaarheden in complexe open-sourceprojecten liet ongeveer de helft van de 6.080 patches minstens één aanvalspad open, waarbij AI-agenten soms identieke bugs in andere delen van de code misten. In een benchmark genaamd P2Patch slaagden AI-agenten er in 41 van de 101 gevallen in om na een patch opnieuw een exploit te vinden, soms meerdere keren na opeenvolgende patches.
Ook menselijke patches zijn niet onfeilbaar. Zo concludeerde beveiligingsbedrijf Trail of Bits na beoordeling van 2.265 fixes dat één op de acht patches de kwetsbaarheid niet volledig oploste. In een gedocumenteerd geval introduceerden zowel een menselijke ontwikkelaar als een AI-agent, onafhankelijk van elkaar, een crash in de freenginx webserver bij het patchen van dezelfde geheugenveiligheidsfout.
Organisaties zetten AI in voor patching omdat menselijke teams de enorme hoeveelheid kwetsbaarheden niet meer kunnen bijhouden. Tegelijkertijd benadrukken deze bevindingen het belang van grondige menselijke review en aanvullende beveiligingsmaatregelen om te voorkomen dat AI-gegenereerde patches onbedoeld nieuwe aanvalsmogelijkheden creëren.












