Microsoft en Salesforce hebben recentelijk kwetsbaarheden in hun AI-agenten, respectievelijk Microsoft Copilot en Salesforce Agentforce, verholpen. Deze beveiligingslekken betroffen prompt injections die een externe aanvaller in staat hadden gesteld om gevoelige gegevens te lekken.

De kwetsbaarheden maakten het mogelijk dat kwaadwillenden via speciaal opgestelde prompts informatie konden ontfutselen die normaal gesproken beschermd is. Door tijdige patches zijn deze lekken inmiddels gedicht, waarmee het risico op datalekken via deze AI-ondersteunde diensten is verminderd.