De Amerikaanse Cybersecurity and Infrastructure Security Agency (CISA) maakt gebruik van het krachtige Mythos AI-model van Anthropic om software van federale overheidsinstanties te scannen en te auditen op beveiligingslekken, meldt Reuters op basis van drie ingewijden.Reuters schrijft dat CISA Mythos inzet om code repositories binnen verschillende federale agentschappen te doorzoeken. Het doel is om proactief kwetsbaarheden te ontdekken en te verhelpen die anders door buitenlandse inlichtingendiensten of cybercriminelen zouden kunnen worden misbruikt.

De audits worden geleid door CISA’s Attack Surface Evaluation team, een gespecialiseerde eenheid die digitale verdedigingsbeoordelingen en gesimuleerde penetratietests uitvoert binnen de federale overheid. Volgens twee bronnen heeft deze AI-gestuurde aanpak al een groot aantal softwarekwetsbaarheden aan het licht gebracht. Details over de ernst van de gevonden fouten, welke instanties getroffen zijn of hoeveel software is onderzocht, zijn niet openbaar gemaakt. Zowel Anthropic als CISA hebben geen officiële reacties gegeven op vragen hierover.

Begin dit jaar liepen de spanningen tussen Anthropic en federale autoriteiten op nadat het bedrijf weigerde ingebouwde beveiligingen te verwijderen die het gebruik van hun modellen voor autonome wapens of binnenlandse surveillance beperken. Als reactie bestempelde het Pentagon Anthropic als een risico in de toeleveringsketen, een classificatie die doorgaans wordt gebruikt voor buitenlandse bedrijven die van spionage worden verdacht. Ook de National Security Agency (NSA) zou Mythos inzetten in haar operaties.

Eind vorige maand meldde een Amerikaanse functionaris aan Associated Press dat een van Anthropic’s AI-modellen kwetsbaarheden had ontdekt in zeer gevoelige en beveiligde computersystemen van de Amerikaanse overheid tijdens een test. Terwijl het gebruik van Mythos binnen de Amerikaanse inlichtingengemeenschap en defensie versneld is, leidde de publieke uitrol van het model, onder de naam Fable, tot zorgen bij het Witte Huis over toegang door buitenlandse gebruikers. Dit resulteerde in een tijdelijke wereldwijde blokkade van het model, die vorige week werd opgeheven.