De Amerikaanse overheid bereidt zich voor om een aangepaste versie van het krachtige AI-model Claude Mythos van Anthropic beschikbaar te stellen aan belangrijke federale agentschappen. Dit model is ontworpen om snel kwetsbaarheden in cybersecurity te detecteren en kan mogelijk ook worden ingezet om deze te exploiteren. De Office of Management and Budget (OMB) werkt aan beschermingsmaatregelen om misbruik te voorkomen, zo meldde Bloomberg op basis van een interne memo.

Gregory Barbaccia, Federal Chief Information Officer bij het Witte Huis, gaf aan dat de OMB samenwerkt met modelaanbieders, industriepartners en de inlichtingengemeenschap om de juiste waarborgen te implementeren voordat een aangepaste versie van het model wordt vrijgegeven aan federale agentschappen. De memo noemt geen specifieke agentschappen of tijdlijn voor de uitrol. Tegelijkertijd blijft de supply-chain risico-classificatie van het Ministerie van Defensie tegen Anthropic, die op 3 maart werd uitgegeven, van kracht. De rechtbank in Washington D.C. weigerde op 8 april deze classificatie te schorsen, waardoor Anthropic uitgesloten blijft van defensiecontracten, terwijl civiele agentschappen nu toegang krijgen volgens het vonnis.

De verwijzing naar een aangepaste versie van het model roept vragen op over de precieze invulling van het gebruik binnen agentschappen. Anthropic introduceerde op 7 april Claude Mythos Preview onder Project Glasswing, een gecontroleerd toegangprogramma voor geselecteerde technologie- en financiële organisaties. Het bedrijf meldde dat het model in interne tests duizenden zero-day kwetsbaarheden in alle grote besturingssystemen en browsers identificeerde, maar gaf aan het model niet breed beschikbaar te willen maken.

Volgens Neil Shah, VP Research bij Counterpoint Research, moeten de aanpassingen aan het model specifieke garanties bieden, zoals het scannen van softwarecode binnen een geïsoleerde, air-gapped omgeving en het uitsluiten van data voor hertraining van het basis AI-model. Ook transparantie en menselijke controle voorafgaand aan het toepassen van bugfixes zijn belangrijke voorwaarden om het gebruik beheersbaar te houden.

Deze ontwikkelingen binnen de federale overheid tonen een verschuiving naar geavanceerde AI-modellen die kwetsbaarheden sneller kunnen opsporen dan menselijke teams ze kunnen verhelpen. De tegenstelling tussen het Pentagon en het Witte Huis benadrukt het belang van een zorgvuldige beheersing van krachtige AI-technologieën om misbruik te voorkomen. Europese instanties zijn grotendeels uitgesloten van vroege toegang, met uitzondering van het UK AI Security Institute dat het model mag testen. Als de OMB de toegang doorzet zoals beschreven, loopt de defensieve AI-capaciteit binnen de Amerikaanse overheid voor op Europese tegenhangers, terwijl de Pentagon-classificatie tegen Anthropic nog steeds juridisch wordt behandeld.