Beveiligingsbedrijf CrowdStrike heeft vijf nieuwe technieken voor prompt injection geïdentificeerd die organisaties kunnen blootstellen aan risico’s. Prompt injection-aanvallen maken misbruik van de groeiende inzet van AI binnen bedrijven door taalmodellen te misleiden met instructies die een menselijke operator als twijfelachtig zou herkennen, maar die het model toch uitvoert. Dit soort aanvallen vormen een nieuwe generatie bedreigingen voor AI-systemen.

De vijf nieuwe aanvalstypen die CrowdStrike heeft toegevoegd aan zijn prompt injection-taxonomie omvatten onder meer het toevoegen van regels die aanvankelijk onschuldig lijken maar later vreemde gedragingen kunnen veroorzaken, en het onderdrukken van cognitieve tokens om ingebouwde veiligheidsmaatregelen te omzeilen. Andere technieken zijn het opdelen van schadelijke opdrachten in meerdere onschuldige delen die samen een bedreiging vormen, het injecteren van speciale tokens die als valse controlemechanismen functioneren, en het misleiden van gebruikers om onbedoeld schadelijke instructies in contextdata te plaatsen. Dit laatste gebeurt bijvoorbeeld wanneer een gebruiker een document uploadt of een e-mail doorstuurt die later door AI wordt verwerkt.

CrowdStrike adviseert beveiligingsteams om deze aanvallen tegen te gaan door grondig te modelleren waar contextdata voor AI vandaan kan komen, testprocedures uit te breiden en detectiemechanismen te ontwikkelen die samengestelde aanvallen kunnen herkennen. Het bewustzijn van alle mogelijke vormen van prompt injection is essentieel om deze nieuwe generatie aanvallen tijdig te signaleren en te mitigeren.