Honderden AI-onderzoekers roepen op tot strengere regels en training van cyberaanval-AI uitsluitend op geïsoleerde systemen zonder internetverbinding.
Honderden AI-onderzoekers waarschuwen dat huidige beveiligingsprocedures voor het trainen van AI-modellen onvoldoende zijn en pleiten ervoor dat AI die voor cyberaanvallen gebruikt kan worden, alleen getraind mag worden op air-gapped systemen, oftewel systemen die volledig zijn losgekoppeld van het internet.
In een open brief ondertekend door 487 specialisten, waaronder gerenommeerde academici als Geoffrey Hinton en Yoshua Bengio, wordt opgeroepen tot meer onderzoek naar AI-veiligheid en een grotere focus op containment-technologieën. De ondertekenaars benadrukken dat sterke sandboxing-mechanismen, waaronder air-gapping, noodzakelijk zijn om een betrouwbare isolatie van AI-modellen met cybercapaciteiten te waarborgen.
Daarnaast pleiten de experts voor de oprichting van een nieuw internationaal orgaan dat in samenwerking met overheden en AI- en beveiligingsspecialisten veiligheidsnormen kan vaststellen. Dit orgaan zou ook fungeren als meldpunt voor falende containment-maatregelen, wat de transparantie en verantwoording ten goede komt.
De eisen van de wetenschappers gaan verder dan eerdere oproepen tot regulering van AI. Zo stelde Microsoft-president Brad Smith recent dat AI minder gereguleerd is dan huishoudelijke apparaten zoals wasmachines, zonder concrete voorstellen te doen voor verbetering. Ook het Britse parlement onderzoekt mogelijkheden om AI-beveiliging te versterken, maar stuit op verdeeldheid binnen de AI-industrie, zoals te lezen is in het nieuws over parlementaire initiatieven.
Hinton en Bengio zijn geen onbekenden in dit soort initiatieven. Vorig jaar ondertekenden zij een open brief waarin zij waarschuwden voor de risico’s van superintelligente AI. Ondanks deze waarschuwingen blijft de ontwikkeling van AI in hoog tempo doorgaan, waarbij het nog onduidelijk is of beleidsmakers en bedrijfsleiders de oproepen serieus zullen opvolgen.
