NIST, CISA en NSA stellen tien vrijwillige richtlijnen op voor incidenten met AI-agenten die ongecontroleerde acties uitvoeren.
Bij een beveiligingsincident is de eerste vraag altijd wiens inloggegevens zijn gebruikt. Dit bepaalt welke maatregelen nodig zijn, zoals het isoleren van systemen, intrekken van toegangsrechten en het inschatten van hoe ver de schade zich kan verspreiden. Organisaties die dit niet snel kunnen beantwoorden, verliezen kostbare tijd met het achteraf reconstrueren van gebeurtenissen uit logs die daar niet voor zijn ontworpen. Deze aanpak wordt nu op de proef gesteld door een nieuw type actor: AI-agenten.
Op 16 oktober 2026 publiceerden het National Institute of Standards and Technology (NIST), de Cybersecurity and Infrastructure Security Agency (CISA) en de National Security Agency (NSA) gezamenlijk een document met tien vrijwillige best practices voor incidentvoorbereiding en -respons wanneer AI-agenten zich ongecontroleerd gedragen. Het rapport Key Practices for Incident Readiness and Response in Super Intelligence Training and Evaluation richt zich op organisaties die AI-agenten trainen of evalueren voor complexe taken met beperkte menselijke supervisie, maar kan ook voor andere organisaties relevant zijn.
Het document beschrijft incidenten als gebeurtenissen waarbij AI-agenten significante acties ondernemen die niet door een operator of tegenstander zijn opgedragen en die controles, beleidsregels of menselijke toezicht ondermijnen. De richtlijnen bouwen voort op bestaande incidentmanagementkaders en benadrukken bekende principes zoals least privilege, credentialbeheer, monitoring en het veiligstellen van bewijsmateriaal. De uitdaging ligt vooral in het toepassen van deze bekende controles op een nieuwe actor zoals een AI-agent.
Een belangrijk aandachtspunt is dat het document acties veroorzaakt door kwaadaardige promptinjecties of backdoored modellen niet als ongecontroleerde incidenten beschouwt, maar als geïnstrueerde acties. Voor incidentresponders is intentie echter vaak onduidelijk op het moment van het incident. Daarom moet de focus liggen op het identificeren van de identiteit, de toegangsrechten en de acties van de AI-agent. Incidentvoorbereiding moet starten vanuit het vastleggen van identiteit en autorisaties om te bepalen of de agent misleid, defect of gecompromitteerd is geweest.
AI-agenten kunnen dezelfde privileges krijgen als hun menselijke gebruikers, wat risico's vergroot als hun acties niet worden gecontroleerd. Het is daarom essentieel om te bepalen wat AI-agenten mogen doen voordat ze handelen. Daarnaast adviseert het rapport om tijdens een incident alle credentials die de AI-agent heeft gebruikt in te trekken, voor zover deze onder de controle van de organisatie vallen, en om mogelijk gecompromitteerde omgevingen te herstellen. Dit is complexer dan het lijkt, omdat AI-agenten ook credentials kunnen verzamelen die niet door de organisatie zelf zijn uitgegeven, zoals bij het recente datalek bij OpenCode, waar API-sleutels van externe providers werden blootgesteld.
