De cybersecuritysector staat aan de vooravond van een grote verandering waarbij het beheersen van AI-tools cruciaal wordt om nieuwe cyberdreigingen effectief te bestrijden. Tijdens een sessie op de DTX-conferentie in Manchester, getiteld Bot vs Bot: Surviving the Era of Autonomous Cyber Warfare, benadrukten experts dat het integreren van AI in de security stack zonder de basisprincipes van beveiliging te verzwakken, een vereiste is geworden voor Security Operations Centers (SOC).

Hoewel AI krachtige mogelijkheden biedt, is het volgens meerdere panelleden geen wondermiddel voor organisaties met een onvolwassen beveiligingsarchitectuur. Succesvolle toepassing van AI vereist eerst een solide fundament van cyberverdediging, waaronder systeemverharding, patchbeheer, toegangscontrole en monitoring. Darren Kimuli, informatiebeveiligingsverantwoordelijke bij Canopius Group, gaf aan dat AI-implementaties moeten aansluiten bij de bedrijfsdoelstellingen en de naleving van regelgeving. Hij benadrukte dat het belangrijker is te bepalen welke AI past binnen de organisatie dan welke technologieën worden vervangen.

De rol van securityanalisten verandert door AI-systemen die helpen bij het analyseren en correleren van beveiligingslogs, een taak die traditioneel veel handmatig werk vergt. Divine Uzodinma van Radius gaf aan dat AI alerts kan triëren, waardoor analisten zich kunnen richten op diepgaand onderzoek. Muhammad Khan van Bridgewater Finance Group voegde toe dat AI-gebaseerde tools alertmoeheid verminderen, een veelvoorkomend probleem dat leidt tot burn-out onder personeel. Door het toenemende gebruik van AI verschuift de rol van analisten naar het valideren van input en het inschatten van risico’s zoals AI-hallucinaties.

Volgens cybersecurityadviesbureau Secarma moeten organisaties de weerbaarheid van AI-gestuurde beveiligingssystemen testen tegen moderne aanvalspaden, waaronder aanvallen op applicaties, cloudomgevingen, leveranciers toegang en phishing. Senior consultant George Rees stelde dat AI de regels op het gebied van risicomanagement en veerkracht herdefinieert.

De paneldiscussie op de DTX-conferentie benadrukte ook dat autonome aanvalstools het dreigingslandschap veranderen. De strijd tussen aanvallers en verdedigers ontwikkelt zich steeds meer tot een machine-tegen-machine conflict. Dit vraagt om aanpassingen binnen organisaties, waarbij duidelijkheid over rollen en toezicht op geautomatiseerde beslissingen essentieel is. Cybersecurityfuncties moeten worden herzien zodat mensen autonome beveiligingsbeslissingen kunnen interpreteren en controleren. Vaardigheden zoals prompt engineering en risicoanalyse worden daardoor steeds belangrijker, aldus Rees, die de impact van AI vergeleek met de overgang van typemachines naar computers in de jaren zeventig en tachtig.