White hat hacker Park Chan-am, bekend als de “Genius Hacker”, belicht de belangrijkste cybersecurity-uitdagingen in het AI-tijdperk. Park begon zijn carrière al op elfjarige leeftijd en adviseert sindsdien diverse Koreaanse overheidsinstanties over cyberveiligheid. Tijdens het Information Security Day event gaf hij inzicht in de veranderende beveiligingsomgeving en prioriteiten voor informatiebeveiligingsorganisaties in een tijdperk waarin AI een centrale rol speelt.

Volgens Park ligt de kern van beveiliging ondanks de nieuwe technologieën nog steeds bij toegangscontrole, beheer van de softwareleveringsketen en menselijke verificatie. AI versnelt het tempo van cyberaanvallen aanzienlijk; waar het vroeger weken kostte om kwetsbaarheden te vinden, kan dat nu binnen een dag. Dit maakt alle binnen een organisatie geïnstalleerde software tot een kritieke aanvalsdoelwit. Park benadrukt dat software vanaf het moment van installatie onderdeel wordt van het bedrijfsnetwerk en niet langer alleen de verantwoordelijkheid is van de leverancier.

Een ander belangrijk aandachtspunt is het beheer van autorisaties, vooral bij het gebruik van AI-agenten die taken uitvoeren zoals het lezen van e-mails en het analyseren van documenten. Elke actie van zo’n agent kan een potentiële aanvalsvector zijn. Scenario’s zoals besmetting via kwaadaardige documenten of het lekken van interne informatie door AI-agenten met te veel rechten zijn reëel. Ook achtergebleven toegangsrechten van voormalige medewerkers kunnen door AI automatisch worden gekoppeld en zo leiden tot grotere incidenten. Park adviseert daarom om bij de implementatie van AI eerst de permissies te ontwerpen en het volledige proces als één aanvalspad te beschouwen.

Daarnaast waarschuwt Park voor de beveiligingsrisico’s van lokale AI-testomgevingen. Experimenten met open-source AI-modellen op persoonlijke of werkcomputers leiden vaak tot openstaande servers of poorten. Dit vergroot de kans op kwetsbaarheden en daarmee op ongeautoriseerde toegang. Hij noemt het voorbeeld van een remote code execution kwetsbaarheid in 2024 waarbij aanvankelijk meer dan 1.000 servers blootstonden, terwijl dat aantal in 2026 is gestegen tot meer dan 300.000. Het testen van AI zelf kan daardoor een nieuwe bron van beveiligingsrisico’s worden.