Anthropic introduceert een nieuw raamwerk om bedrijven te helpen AI-misbruik te monitoren zonder dat zij de controle over gevoelige data verliezen. Dit speelt in op de uitdaging voor organisaties om zichtbaarheid op beveiliging te combineren met strikte naleving van regelgeving. De oplossing, Enterprise Frontier Safeguards (EFS), combineert volgens het bedrijf de privacy van zero data retention (ZDR) met geavanceerde detectiemethoden voor misbruik.

Bij deze aanpak wordt de activiteitendata die voor monitoring wordt gebruikt opgeslagen in cloudinfrastructuur die onder controle staat van de klant en niet van Anthropic. De uitrol van deze functionaliteit vindt gefaseerd plaats in het najaar en zal beschikbaar zijn voor geselecteerde klanten. Tot die tijd krijgen klanten zero data retention op de Fable 5 en de recent gelanceerde Fable 5.1 modellen. EFS zal worden ondersteund op meerdere platforms, waaronder Claude Code, Claude Enterprise, Amazon Bedrock, Google’s Agent Platform en Microsoft Foundry.

De oplossing is ontworpen om bedrijven controle te geven over hoe monitoringdata wordt opgeslagen en beoordeeld, terwijl Anthropic nog steeds patronen van misbruik kan detecteren. Geautomatiseerde systemen signaleren verdachte activiteiten en sturen deze door naar de teams van de klant, zonder menselijke beoordeling door Anthropic. Volgens Jaishiv Prakash van Gartner helpt deze verschuiving complianceproblemen te verminderen doordat data niet langer centraal bij de leverancier wordt opgeslagen, maar onder directe governance van de organisatie blijft.

Analist Sanchit Vir Gogia waarschuwt dat controle over data niet gelijkstaat aan volledige zichtbaarheid, omdat Anthropic nog steeds het veiligheidskader bepaalt en de detectie uitvoert. Belangrijke vragen voor klanten zijn wie de data beheert, wie de sleutel bezit, wie de detector bedient, wie alerts interpreteert en wie de gevolgen handhaaft.

De operationele last verschuift naar de bedrijven zelf, aangezien zij verantwoordelijk worden voor het beoordelen van alerts en incidentrespons. Anthropic’s systemen analyseren activiteiten over sessies en accounts en letten op signalen zoals pogingen tot het ontwikkelen van cyber- of biologische aanvalsmiddelen of het gebruik van gestolen credentials. Alerts worden automatisch gegenereerd en naar de klant gestuurd, maar de uiteindelijke verantwoordelijkheid voor opvolging ligt bij de organisatie.

Anthropic benadrukt dat effectieve detectie vereist dat data voor een bepaalde periode wordt opgeslagen om correlaties te kunnen maken over tijd en accounts. EFS verplaatst deze dataopslag naar de klantomgeving, maar elimineert de noodzaak niet. Dit betekent dat bedrijven zelf moeten zorgen voor de beveiliging en governance van deze data om misbruik effectief te kunnen detecteren en voorkomen.