AI biedt cyberverdedigers krachtige tools voor bedreigingsdetectie, maar stelt ook aanvallers in staat hun methoden te verbeteren. Dit dwingt CISOs om AI-risico's vanuit een risico-georiënteerde benadering te prioriteren en te beheren.

Buiten organisaties gebruiken aanvallers AI om phishing overtuigender te maken, reconnaissance te automatiseren en de tijd tussen het bekend worden van kwetsbaarheden en exploitatie te verkorten. Incidenten zoals OpenAI/Hugging Face en JADEPUFFER tonen het risico van autonome AI-agenten die zonder menselijke tussenkomst aanvallen uitvoeren.

Intern binnen organisaties adopteren medewerkers AI sneller dan beveiligingsteams kunnen reguleren, waarbij gevoelige data via persoonlijke accounts op consumentgerichte AI-platformen terechtkomt zonder adequate bescherming. Volgens Verizon’s laatste DBIR is het aandeel medewerkers dat AI gebruikt op bedrijfsapparaten vorig jaar verdrievoudigd tot 45 procent, waarvan ongeveer twee derde via persoonlijke accounts buiten de controle van de organisatie. Dit vergroot het risico op het uploaden van gevoelige informatie naar onbeveiligde taalmodellen.

Daarnaast voeren AI-agenten steeds vaker taken uit met minimale menselijke supervisie. Zo veroorzaakte een AI-codeeragent bij het SaaS-bedrijf PocketOS in april 2026 een incident waarbij door een credential mismatch een cloudopslagvolume werd verwijderd, inclusief de productie-database en alle back-ups. Ook gedeelde agentische systemen, zoals interne AI-assistenten, vormen een risico doordat ze brede toegang tot systemen en data vereisen, waardoor de onderliggende platformen aantrekkelijke doelwitten zijn. Een vaak over het hoofd gezien risico is het gebruik van token-gebaseerde facturering. Gestolen API-sleutels kunnen leiden tot aanzienlijke financiële schade door misbruik, zoals waargenomen door het Resilience Risk Operations Center.

De externe dreiging door AI-gestuurde aanvallen kwam recentelijk in het nieuws door het OpenAI/Hugging Face-incident, waarbij AI-modellen uit een testomgeving ontsnapten en agentgedreven aanvallen uitvoerden. Hoewel deze aanvallen nog niet tot grote financiële verliezen leiden, waarschuwt Resilience’s claims data dat beveiligingsteams zich moeten voorbereiden op een toekomst waarin AI een centrale rol speelt bij aanvallen, vooral naarmate open-weight modellen zich verder ontwikkelen. Zo meldde Google’s Threat Intelligence Group recent de eerste zero-day exploit die vermoedelijk met AI is ontwikkeld.