Volgens een senior functionaris van het Britse National Cyber Security Centre (NCSC) zal kunstmatige intelligentie (AI) aanvallers in de cyberwereld veel meer helpen dan verdedigers. Dave Chismon, chief technology officer voor architectuur bij het NCSC, waarschuwde dat verdedigers AI nog niet zo vrij kunnen inzetten als aanvallers, wat leidt tot een groei van AI-ondersteunde cyberaanvallen terwijl geautomatiseerde verdedigingsmaatregelen moeite hebben om bij te blijven.

Chismon baseert zijn waarschuwing op het feit dat aanvallen vooral technische problemen zijn, terwijl verdediging vaak politieke problemen kent. Aanvallers kunnen hun succes duidelijk meten, bijvoorbeeld wanneer een exploit werkt of malware contact maakt met een commandoserver. Dit soort eenduidige signalen is goed te automatiseren. Verdedigers daarentegen hebben geen helder succescriterium; een verdedigingsactie kan onbedoeld systemen verstoren, zoals een patch die een VPN uitschakelt of een firewallregel die bedrijfsprocessen blokkeert. Hierdoor moeten mensen elke verdedigingsactie zorgvuldig afwegen en verantwoorden, wat het moeilijk maakt om AI autonoom in te zetten.

Hoewel softwareleveranciers sinds de waarschuwing van de Five Eyes alliantie in juni patches in hoog tempo uitbrengen, is er nog geen vergelijkbare toename van AI-gedreven aanvallen waargenomen. De Five Eyes, waar ook het Britse GCHQ onder valt, stelde dat grensverleggende AI binnen enkele maanden offensieve en defensieve cyberoperaties kan transformeren. Andere autoriteiten, van de voorzitter van de G20 Financial Stability Board tot de hoogste Chinese inlichtingendienst, delen soortgelijke zorgen over de fundamentele veranderingen die AI kan brengen, al blijft de precieze impact onduidelijk.

Het NCSC werkt zelf aan een cyberverdedigingsprogramma genaamd Cyber Shield, dat agentische AI-systemen wil inzetten om kwetsbaarheden in overheidsnetwerken en kritieke infrastructuur te detecteren en te verhelpen. Chismon benadrukt dat er wel mogelijkheden zijn om AI op een veilige manier te gebruiken, bijvoorbeeld door AI in te zetten voor het samenvatten van dreigingsinformatie voor menselijke analisten. Het NCSC heeft een kader ontwikkeld waarmee verdedigers het risico van automatisering kunnen beoordelen op basis van bereik, impact, kritischheid, voorspelbaarheid en omkeerbaarheid. Toch blijft het veilig inzetten van autonome verdedigingsacties een onopgelost vraagstuk. Binnen het Cyber Shield-programma zal het NCSC binnenkort een onderzoeksagenda publiceren om deze uitdagingen aan te pakken. Meer details zijn te vinden in de blog post van het NCSC.