Het Pentagon staat voor de uitdaging om kunstmatige intelligentie (AI) veilig te integreren in militaire systemen die steeds vaker autonoom opereren. Volgens generaal Dan Caine, voorzitter van de Joint Chiefs of Staff, worden autonome wapens een essentieel onderdeel van militaire operaties. Dit betekent niet alleen het inzetten van geavanceerdere drones of snellere systemen, maar ook het opbouwen van een digitale infrastructuur die betrouwbaar blijft onder vijandige omstandigheden.

De militaire leiders richten zich op het beveiligen van commandovoeringsnetwerken en machine learning-modellen die cruciaal zijn voor taken zoals doelwitbepaling, logistiek en coördinatie op het slagveld. Tegelijkertijd ontstaat er een kloof tussen het Pentagon en de commerciële sector, waar de meest geavanceerde AI wordt ontwikkeld. Generaal Caine benadrukte dat het leger zich moet aanpassen en vroegtijdig AI-technologieën moet omarmen.

Het Amerikaanse ministerie van Defensie is steeds afhankelijker van software die oorspronkelijk niet voor militair gebruik is ontworpen, wat risico's met zich meebrengt op het gebied van kwetsbaarheden en supply chain security. Deze zorgen kwamen recentelijk scherp naar voren in het conflict met Anthropic, een toonaangevend AI-bedrijf. Anthropic besloot de publieke release van hun krachtige model Mythos Preview uit te stellen vanwege cybersecurityrisico's en mogelijke misbruikscenario's.

Intelligence-diensten, waaronder de National Security Agency, hebben toegang gekregen tot het model, maar Anthropic weigerde beperkingen op het gebruik van hun systemen te versoepelen, bijvoorbeeld voor binnenlandse surveillance of volledig autonome wapens. Dit leidde ertoe dat het Pentagon het bedrijf bestempelde als een 'supply chain risk', een aanduiding die doorgaans wordt gebruikt voor buitenlandse leveranciers die beveiligingsrisico's kunnen introduceren. De Amerikaanse overheid gaf vervolgens opdracht om het gebruik van Anthropic-tools uit te faseren, maar deze beslissing werd door het bedrijf juridisch aangevochten en tijdelijk geblokkeerd door een federale rechter. De overheid is van plan in beroep te gaan.

Deze situatie illustreert het bredere probleem waarmee de Verenigde Staten kampen: het snel adopteren van AI voor nationale veiligheid terwijl wordt vertrouwd op een commerciële sector die niet altijd aansluit bij militaire eisen, vooral op het gebied van risicobeheersing en controle. Voor militaire planners is het niet alleen van belang of AI sneller of beter kan beslissen, maar ook of deze systemen bestand zijn tegen manipulatie, datavervuiling of onbedoeld gedrag in kritieke situaties. Deze risico's zijn inmiddels reëel en vragen om strikte beveiligingsmaatregelen en governance.