De Google Threat Intelligence Group meldt dat cybercriminelen kunstmatige intelligentie nu actief in hun operaties integreren. Op de Google Cloud-website beschrijft het team hoe aanvallers AI gebruiken voor modeldistillatie, phishing en geautomatiseerde malwareontwikkeling. Dit bouwt voort op een eerder rapport over het misbruik van generatieve AI door statelijke actoren en cybercriminelen. Waar dat rapport vooral scenario's en patronen inventariseerde, richt deze update zich op verfijning en de groeiende AI-integratie in aanvalsketens.

Onderzoekers zien een verschuiving waarbij AI niet langer alleen voor defensieve of academische doeleinden wordt gebruikt. Statelijke actoren en cybercriminelen benutten generatieve modellen om hun efficiëntie te verhogen, van doelwit-analyse tot het opstellen van spearphishingmails. Een belangrijk aspect is modeldistillatie, waarbij AI-modellen worden nagebootst zonder directe toegang. Dit vormt een veiligheidsrisico en bedreigt intellectueel eigendom. AI wordt ook ingezet voor het genereren en aanpassen van code, wat de productiviteit van aanvallers verhoogt. Hoewel veel activiteiten nog experimenteel zijn, leidt dit tot een kat-en-muisspel tussen modelaanbieders en aanvallers. AI versterkt bestaande aanvalsketens en verlaagt de drempel voor bepaalde activiteiten. Organisaties moeten hun beveiligingsstrategie aanpassen aan een landschap waarin AI aan beide kanten wordt ingezet. Het rapport benadrukt het belang van zichtbaarheid, monitoring en het delen van dreigingsinformatie. De integratie van AI in aanvallen zal verder toenemen en blijft een belangrijk thema.