AI-modellen blijken regelmatig fouten te maken bij het adviseren over softwareversies, upgradepaden en beveiligingsoplossingen. Deze fouten, ook wel hallucinerende aanbevelingen genoemd, kunnen leiden tot aanzienlijke technische schulden binnen organisaties.

Volgens onderzoek ontstaan deze problemen doordat AI-systemen niet altijd de juiste context of actuele informatie meenemen bij hun aanbevelingen. Dit kan ertoe leiden dat kwetsbaarheden over het hoofd worden gezien of dat ongeschikte softwareversies worden geadviseerd, wat de beveiligingspositie van systemen negatief beïnvloedt.