De nationale veiligheidsdiensten van de Five Eyes-landen, een samenwerkingsverband van Engelstalige landen, hebben gezamenlijk een statement uitgebracht waarin zij waarschuwen voor de toenemende cyberrisico’s die voortkomen uit AI-modellen. Met name de mogelijkheid van deze modellen om autonoom systemen en netwerken te hacken, vormt een groeiende bedreiging. Hoewel de waarschuwing genuanceerder was dan sommige sensatiebeluste koppen, benadrukken de diensten het belang van standaard veiligheidsmaatregelen, maar dan met extra urgentie.

Cyberaanvallen zijn geen nieuw fenomeen en vormen al decennia een serieuze uitdaging, lang voordat generatieve AI-modellen opkwamen. Wat echter verandert, is de kloof tussen vaardigheid en vermogen. Waar deze twee begrippen vroeger vrijwel gelijk waren, zijn ze door computers en AI losgekoppeld. Hierdoor kunnen mensen met beperkte vaardigheden, maar met toegang tot krachtige AI-tools, veel meer bereiken – zowel op het gebied van onderzoek en analyse als op het gebied van het veroorzaken van schade. AI-modellen kunnen met minimale instructies zelfstandig netwerken binnendringen, data stelen, ransomware inzetten en systemen saboteren. De oplossing zal dan ook deels liggen in het inzetten van AI voor verdediging.

In 1998 getuigde de hackercollectief L0pht voor het Amerikaanse Congres dat zij het internet binnen 30 minuten konden platleggen. Hoewel dit deels bravoure was, illustreert het dat hacking destijds nog aanzienlijke vaardigheid vereiste. Daartegenover stonden de zogenaamde "script kiddies", die zonder diepgaande kennis gebruikmaakten van door anderen geschreven tools. Door de beschikbaarheid van dergelijke tools nam het aantal potentiële aanvallers toe, en met de komst van AI groeit dit aantal exponentieel. Moderne AI-systemen zijn in staat om cyberaanvallen grotendeels automatisch uit te voeren, al profiteren ze nog steeds van de input van ervaren aanvallers.

Een belangrijk aspect is dat mensen met vermogen maar zonder vaardigheid vaak buiten professionele gemeenschappen opereren en niet gebonden zijn aan ethische normen. Dit fenomeen is breder dan alleen cybersecurity; ook in andere vakgebieden kunnen mensen met kennis schadelijke handelingen verrichten. Het langdurige leerproces dat nodig is om vaardigheden te ontwikkelen, draagt vaak bij aan een ethische code. AI-systemen bieden echter universele adviezen die schadelijke handelingen kunnen vergemakkelijken. Hoewel grote AI-bedrijven proberen om veiligheidsmaatregelen in te bouwen, zullen kleinere, open-source modellen zonder dergelijke beperkingen snel verspreid worden en steeds beter worden. Dit maakt het moeilijk om schadelijk gebruik te voorkomen, ook omdat lokale modellen niet dezelfde rapportage- en controlemechanismen hebben als de grote commerciële systemen.