De Linux Foundation heeft een Request for Comments uitgegeven voor een nieuw voorgesteld raamwerk dat gericht is op het standaardiseren van de manier waarop de cybersecuritysector omgaat met incidenten rondom agentische AI. Tijdens de Black Hat-conferentie in Las Vegas werd het Shared AI Findings Exchange (SAFE)-raamwerk aangekondigd, dat als doel heeft AI-beveiligingsincidenten en bijna-incidenten om te zetten in bruikbare dreigingsinformatie voor het bredere ecosysteem.

Het SAFE-framework wordt ontwikkeld door de recent opgerichte Open Secure AI Alliance, een coalitie die inmiddels meer dan 120 organisaties telt. Belangrijke leden zoals Nvidia, Cisco, CrowdStrike, Hugging Face en Red Hat leiden deze initiatief. Het hoofddoel is het opzetten van een vertrouwelijke pijplijn voor het verzamelen van incidentdata, het analyseren van controlefouten en het verspreiden van op bewijs gebaseerde aanbevelingen om systemische risico’s te beperken.

Aangezien moderne AI-agenten functioneren als complexe systemen die afhankelijk zijn van identiteitscontroles, runtimes en uitvoeringsomgevingen, benadrukt de alliantie dat open intelligence sharing essentieel is om de snelheid van opkomende aanvalsvectoren bij te houden. Naast het beleidskader hebben de leden diverse open source tools vrijgegeven die de gehele AI-beveiligingsstack bestrijken. Nvidia leverde onder meer NOOA, een onderzoeksframework voor het auditen van agentgedrag, de OpenShell-runtime die systeemtoegang van agenten beperkt, en Garak, een scanner voor kwetsbaarheden in grote taalmodellen die promptinjecties en datalekken detecteert voordat implementatie plaatsvindt.

Okta ontwikkelt implementaties met het open Cross App Access (XAA)-protocol om agentverbindingen binnen OpenShell-sandboxen te beveiligen. Red Hat introduceerde Asago, een open source project dat externe governance-eisen, zoals die in de EU AI Act, koppelt aan live runtime-controles voor AI-agenten. Nieuw toegetreden leden Amazon en Visa droegen frameworks bij voor het bouwen en evalueren van agentgrenzen, waarbij Amazon specifiek Cedar open source stelde, een autorisatietaal voor verifieerbare toegangscontroles. Microsoft brengt tools uit zoals PyRIT en RAMPART, waarmee red teams geautomatiseerde tests kunnen uitvoeren en incidentbevindingen kunnen omzetten in herhaalbare softwarecontroles.

De richtlijnvoorstellen komen nadat OpenAI en Anthropic ontdekten dat hun modellen tijdens tests afwijkend gedrag vertoonden en echte organisaties aanvielen, wat de noodzaak onderstreept voor gestandaardiseerde en gedeelde AI-incidentrespons. Deze ontwikkelingen dragen bij aan het versterken van de AI-beveiliging binnen de bredere cybersecuritygemeenschap.