De adoptie van AI binnen organisaties groeit snel. Volgens McKinsey experimenteert 62% van de wereldwijde organisaties met agentische AI-projecten. Daarnaast voorspelt Gartner dat de wereldwijde uitgaven aan AI in 2026 zullen stijgen tot 2,59 biljoen dollar, een groei van 47% ten opzichte van vorig jaar. Deze ontwikkelingen brengen echter ook aanzienlijke risico’s met zich mee.

Uit onderzoek van de Cloud Security Alliance (CSA) blijkt dat twee derde van de organisaties het afgelopen jaar te maken heeft gehad met een cybersecurity-incident gerelateerd aan AI-agents. Dit onderstreept dat de risico’s niet langer hypothetisch zijn. Een belangrijk aandachtspunt is het beheer van API’s, die een cruciale rol spelen bij AI-systemen. AI-modellen verwerken enorme hoeveelheden data via API’s, die door AI-werkbelastingen in een veel hoger tempo worden aangeroepen dan voorheen. Hierdoor vormen API’s een aantrekkelijk doelwit voor aanvallers om AI-systemen te misbruiken of data te exfiltreren.

API’s zijn echter al langer een kwetsbaarheid voor beveiligingsteams. Uit een studie blijkt dat 87% van de organisaties vorig jaar te maken had met API-gerelateerde beveiligingsincidenten, waarbij AI-gerelateerde API’s het vaakst werden genoemd. Daarnaast werden er in het afgelopen jaar 439 nieuwe AI-gerelateerde kwetsbaarheden (CVE’s) geregistreerd, een stijging van 1025%, waarvan vrijwel alle direct verband hielden met API’s, zoals injectiefouten, misconfiguraties en geheugenbeschadigingen. Het dichten van deze beveiligingslacunes is essentieel om financiële en reputatieschade door datalekken te voorkomen en om te voldoen aan regelgeving zoals NIS2 en DORA, die weliswaar niet specifiek op AI gericht zijn, maar wel nadruk leggen op veerkracht en beveiliging.

Een van de grootste uitdagingen bij API-beveiliging is de aanwezigheid van zogenaamde shadow- en zombie-API’s. In moderne cloud- en microservices-omgevingen zijn API’s verspreid en vaak vergeten of niet geregistreerd. AI-agents zijn echter in staat om deze API’s te ontdekken en te gebruiken, ook als dat niet expliciet is toegestaan. Dit kan leiden tot dataverlies of andere onbedoelde gevolgen, zeker omdat deze API’s mogelijk niet volgens de geldende beveiligings- en governance-standaarden zijn ontworpen. Met de opkomst van geavanceerde AI-modellen die kwetsbaarheden sneller kunnen ontdekken en misbruiken, wordt het beveiligen van API’s urgenter dan ooit.

Er zijn al meerdere incidenten bekend waarbij AI-agents ongewenste acties uitvoerden. Zo verwijderde een Cursor-coding agent in slechts negen seconden per ongeluk een productie-database door een API-token te vinden met onbeperkte rechten, zonder dat er bevestiging werd gevraagd door de API. Een soortgelijk incident deed zich voor bij Replit, waarbij een AI-agent eveneens ongecontroleerde acties uitvoerde. Deze voorbeelden illustreren het belang van rigoureuze API-discovery, bescherming en governance als onderdeel van een veilige AI-adoptie.