Al bijna twintig jaar worstelen cybersecurityverantwoordelijken met hetzelfde probleem: ondanks ernstige datalekken, ransomware-aanvallen of spionage door staten, blijft het lastig om voldoende budget vrij te maken voor beveiliging. De recente doorbraak van autonome AI-systemen lijkt deze situatie te veranderen.

De snelle ontwikkeling van geavanceerde AI die zelfstandig cyberoperaties kan uitvoeren, gecombineerd met de inzet van agentische AI binnen organisaties, zorgt voor een ongekende urgentie op bestuursniveau. Deze urgentie was duidelijk aanwezig tijdens de SANS AI Cyber Summit in Washington, waar voormalig plaatsvervangend nationaal veiligheidsadviseur Anne Neuberger securityprofessionals aanspoorde om deze kans te benutten. Kort daarvoor waarschuwde Bain & Co. dat organisaties hun cybersecuritybudgetten mogelijk moeten verdubbelen of verdrievoudigen om de operationele uitdagingen van geavanceerde AI-systemen zoals Anthropic’s Mythos het hoofd te bieden.

Nate Rollings, CISO bij Zafran Security, gaf tijdens de CSO Cybersecurity Awards and Conference aan dat er een groeiend besef is dat AI in security veel meer benut moet worden. Door nieuwe AI-dreigingen is er nu een top-down draagvlak om budgetten te verhogen en AI in te zetten als verdedigingsmiddel.

De inzet van AI creëert een nieuwe operationele laag binnen organisaties, waarbij systemen zelfstandig beslissingen nemen, acties starten en gevoelige systemen benaderen met minimale menselijke tussenkomst. Volgens Diana Kelley, CISO bij Noma Security, beschermt men nu ook een beslissings- en automatiseringslaag die door agentische AI wordt aangestuurd. Bernard Brantley, CISO bij Corelight, stelt dat AI bestaande technische schulden blootlegt doordat het de operationele grenzen tussen systemen, data en identiteiten doet vervagen. Dit betekent dat één agent in staat kan zijn om binnen een fractie van een seconde met tientallen interfaces te communiceren, wat de beveiligingsuitdagingen exponentieel vergroot.

De huidige beveiligingsarchitecturen zijn ontworpen voor mensgestuurde systemen en niet voor autonome AI-agenten die continu op machinesnelheid opereren. Dit dwingt organisaties om hun identiteit- en toegangsbeheer, monitoring, gedragscontrole en afbakeningen rondom AI-systemen te herzien. Kyle Lai, president en CISO van KLC Consulting, benadrukt het belang van continue monitoring van AI-agenten en het direct ingrijpen bij afwijkend gedrag, vergelijkbaar met het beheer van menselijke accounts.

Een van de grootste uitdagingen blijft het verkrijgen van voldoende zichtbaarheid op deze autonome systemen, aangezien veel organisaties hier nog niet voldoende op zijn ingericht.