Volgens onderzoeksbureau IDC zal agentic AI tegen 2030 gemeengoed zijn binnen organisaties, waarbij 45% van de bedrijven autonome AI-agenten op grote schaal inzet voor kritieke bedrijfsfuncties. In Security Operations Centers (SOC's) verandert AI al de manier waarop alerts worden geprioriteerd, verrijkt, gecorreleerd en gevalideerd, en het kan binnenkort ook complexere taken zoals incidentonderzoek en root cause-analyse overnemen.

Nicole Carignan van Darktrace benadrukt dat AI een krachtig hulpmiddel is binnen SOC's, maar dat organisaties nu moeten investeren in het omscholen van analisten, het herontwerpen van processen en het opzetten van governance om autonome AI veilig te laten functioneren. Het simpelweg implementeren van AI is onvoldoende; securityprofessionals moeten begrijpen hoe de onderliggende machine learning werkt, wat de beperkingen zijn en hoe ze de output kunnen beoordelen. Zonder transparantie en vertrouwen kan AI juist leiden tot meer alertvermoeidheid.

De rol van analisten verschuift van uitvoerend naar toezichthoudend en beoordelend. Analisten moeten AI-systemen beheren, de resultaten interpreteren en de complexere problemen aanpakken die AI niet kan oplossen. Volgens Casey Ellis van Bugcrowd vraagt dit om voortdurende scholing en nieuwe tools. Analisten moeten begrijpen welke vragen AI-agenten stellen, welke databronnen ze raadplegen en op welke bewijzen beslissingen zijn gebaseerd, zegt Dov Yoran van Command Zero. Hierdoor kunnen zij het onderzoek uitbreiden en verdiepen waar nodig.

Daarnaast moeten analisten kritisch zijn op AI-uitkomsten, omdat AI-systemen vatbaar zijn voor fouten, vooroordelen en manipulatie. Ensar Seker van SOCRadar stelt dat analisten minder als knopindrukkers moeten worden opgeleid en meer als kritische beoordelaars van AI-resultaten. Ze moeten begrijpen hoe modellen redeneren, waar ze falen en hoe ze aannames en betrouwbaarheidsniveaus kunnen bevragen. Het doel is niet om AI sneller te vertrouwen, maar om instinctief te kunnen beoordelen wanneer conclusies onjuist kunnen zijn. Ook het inbrengen van organisatie-specifieke context in AI-gestuurde processen is essentieel om bedreigingen effectief te detecteren en te mitigeren.