Het Britse NCSC verwacht dat AI-gegenereerde code steeds vaker zonder menselijke controle in productiesystemen wordt ingezet, ondanks veiligheidsrisico’s.
Het Britse National Cyber Security Centre (NCSC) voorspelt dat de komende vijf jaar AI-gegenereerde code steeds vaker zonder menselijke controle in productiesystemen zal worden toegepast. Deze ontwikkeling, ook wel 'vibe coding' genoemd, houdt in dat software op basis van prompts door AI wordt geschreven zonder dat mensen de code vooraf controleren.
Volgens Dave Chismon van het NCSC zal vibe coding zich ontwikkelen van een hulpmiddel voor programmeurs tot een proces waarbij niemand de uitgevoerde code daadwerkelijk heeft beoordeeld. Ondanks zorgen over de veiligheid, zoals het risico op onveilige code, verwacht het NCSC dat veel organisaties deze werkwijze zullen omarmen. Het advies om alle AI-gegenereerde code door mensen te laten controleren, wordt door Chismon als onhoudbaar gezien. Hij benadrukt dat er AI-modellen moeten komen die standaard veilige code produceren. Vibe coding zal naar verwachting een vergelijkbaar adoptiepatroon volgen als clouddiensten twintig jaar geleden en de manier waarop software wordt ontwikkeld en beheerd fundamenteel veranderen. Dit biedt volgens het NCSC de security community een kans om deze ontwikkeling te begeleiden en te benutten.
