De Amerikaanse Cybersecurity and Infrastructure Security Agency (CISA) en internationale partners waarschuwen voor de risico's van agentic AI en roepen organisaties op om strikte grenzen te stellen aan de inzet ervan. Door kwetsbaarheden zoals prompt injection en andere aanvalsmethoden die steeds vaker voorkomen bij agentic AI, benadrukken de beveiligingsinstanties het belang van het toepassen van het principe van minste privilege, continue auditing en een voorzichtige uitrolstrategie.

Volgens Piyush Sharma, CEO en medeoprichter van Tuskira, kunnen organisaties niet zomaar AI-agents in productie nemen en hopen dat de beveiligingsmaatregelen voldoende zijn. Het is essentieel om te begrijpen welke systemen een agent kan benaderen, hoe deze zich gedraagt, welke systemen vertrouwen op de output en welke aanvalspaden ontstaan bij manipulatie. De gezamenlijke advisory van CISA, het Australische Australian Cyber Security Centre, het Canadese Centre for Cyber Security, het Nieuw-Zeelandse National Cyber Security Centre en het Britse National Cyber Security Centre bevat richtlijnen voor ontwerp en ontwikkeling van AI-agents. Deze omvatten onder meer sterke authenticatie volgens Secure by Design-principes, transparantie van systemen om misleiding te signaleren, het toepassen van minste privilege in workflows, veilige ontwikkelprincipes volgens DevSecOps fundamentals en regelmatige tests van incidentresponsplannen.

Een belangrijk aandachtspunt in de advisory is het beperken van de toegang van agentic AI tot systemen en data. CISA benadrukt dat privileges direct het risiconiveau bepalen en dat slechte privilegebeheer kan leiden tot compromittering, scope creep, identiteitsvervalsing en agent-impostering. Organisaties moeten daarom streng vasthouden aan het principe van minste privilege, agentcapaciteiten isoleren en duidelijk definiëren met welke data, tools en systemen een agent mag communiceren. Dit is complex, zeker omdat agents vaak geïntegreerd zijn met API’s, interne systemen en externe diensten. Elke tool, databron, geheugenopslag en permissie die een agent gebruikt, vormt een potentiële ingang voor aanvallers.

Om deze risico’s te beheersen, adviseert de advisory een duidelijk overzicht te houden van agentcapaciteiten en afhankelijkheden, en te controleren hoe agents input interpreteren en uitvoeren. Dit omvat het voorkomen van prompt injection en het vermijden dat agents blind vertrouwen op externe content of instructies. Naast het beperken van wat agents mogen doen, ligt de nadruk ook op het continu monitoren van hun gedrag. CISA raadt aan om continue monitoring en auditing in te voeren om zicht te houden op de werking van AI-agents en traceerbaarheid van beslissingen en acties te waarborgen. Dit verbetert de beveiliging en zorgt voor naleving van governance standaarden zoals risicomanagement en gebruiksbeperkingen.

Daarnaast bevelen CISA en haar internationale partners aan om menselijke controle en toezicht te integreren in AI-agent workflows, vooral voor niet-kritieke, laag-risico taken. Dit kan door live monitoring tijdens taakuitvoering, menselijke goedkeuring bij beslissingen en auditing na uitvoering. Deze maatregelen moeten helpen om de veiligheid en betrouwbaarheid van agentic AI in organisaties te waarborgen.