
Malware kan verborgen zitten in slechts 0,00001% van een neuraal netwerk, waardoor detectie door gebruikers vrijwel onmogelijk is.
Onderzoekers waarschuwen dat malware kan worden verborgen in een zeer klein deel van neurale netwerken binnen open-weight AI-modellen. Deze zogenaamde 'sleeper agent'-tactiek maakt het mogelijk dat schadelijke payloads slechts 0,00001% van het model beslaan, waardoor ze nauwelijks opvallen en moeilijk te detecteren zijn.
De complexiteit en omvang van AI-modellen maken het lastig voor gebruikers om te bepalen of er kwaadaardige code aanwezig is. Dit vormt een nieuwe uitdaging voor informatiebeveiliging, aangezien traditionele detectiemethoden niet zijn toegerust om zulke subtiele en verborgen bedreigingen te identificeren. Het onderzoek benadrukt de noodzaak van geavanceerde beveiligingsmaatregelen en grondige controles bij het gebruik en de implementatie van open-weight AI-modellen.












