Organisaties integreren steeds vaker AI om processen te versnellen, maar zonder adequate beveiliging kan deze technologie leiden tot ernstige risico's. Experts van onder meer ManageEngine, Nutanix, Okta, Thales, TrendAI, Veeam en Zscaler benadrukken in een rondetafelgesprek dat AI-security een fundamentele herziening van bestaande cybersecurityprincipes vraagt.

Albert Kramer van Zscaler wijst op een ontwerpfout in de huidige IT-architectuur. AI krijgt vaak onbeperkte toegang tot data, terwijl het zero trust-principe juist uitgaat van minimale toegang op basis van identiteit en intentie. Dit leidt tot problemen met wetgeving en verhoogt het risico op datalekken, waardoor de afgelopen decennia aan opgebouwde beveiligingsmaatregelen op losse schroeven komen te staan. Edwin Weijdema van Veeam bevestigt dat AI-security traditionele beveiligingslagen overslaat en pleit voor een nieuwe 'trust layer' die alle data binnen de AI-pijplijn beschermt.

De integratie van AI in bedrijfsprocessen verandert ook de aard van kwetsbaarheden. Waar cybersecurity voorheen vaak reactief was, is nu een proactieve aanpak vereist. Bart Herps van TrendAI waarschuwt dat configuratiefouten en kwetsbaarheden door AI in hoog tempo kunnen worden misbruikt, wat snelle escalatie van datalekken tot gevolg heeft. Praveen Das van ManageEngine benadrukt dat de aard van aanvallen verandert, met onder andere jailbreaking als een moeilijk te detecteren dreiging. Hij stelt dat security holistisch moet zijn en niet kan volstaan met het beschermen van slechts een deel van de infrastructuur.