OpenAI heeft woensdag aangekondigd dat het een nieuwe adviesraad, de Frontier Risk Council, opricht. Dit is onderdeel van een bredere strategie om de risico's van geavanceerde AI-modellen beter te beheersen, aldus Reuters. OpenAI waarschuwt dat toekomstige modellen een groter cybersecurityrisico kunnen vormen, omdat ze beter in staat zijn complexe kwetsbaarheden te ontdekken of zelfs nieuwe zero-day-exploits te ontwikkelen. Deze systemen kunnen mogelijk bijdragen aan digitale infiltraties in bedrijfs- of industriële omgevingen met fysieke gevolgen in de echte wereld. De Frontier Risk Council zal een centrale rol spelen in het beperken van deze dreigingen. Deze groep bestaat uit ervaren cybersecurityspecialisten en andere experts op het gebied van digitale verdediging. Zij zullen nauw samenwerken met de technische teams van OpenAI om risico's in te schatten, modelcapaciteiten af te stemmen en veiligheidskaders voor toekomstige releases te ontwikkelen.

De raad begint met een focus op cybersecurity, maar zal uiteindelijk ook andere risico's aanpakken die ontstaan door krachtigere AI-modellen. Tegelijkertijd investeert OpenAI in AI-functionaliteit die defensieve cybersecuritytaken ondersteunt. Het bedrijf ontwikkelt modellen en tools die securityteams helpen bij code-audits en het oplossen van kwetsbaarheden. Deze defensieve aanpak wordt aangevuld met strengere toegangscontrole, versterking van de infrastructuur, beperkingen op uitgaand dataverkeer en uitgebreidere monitoring om misbruik te voorkomen. OpenAI bereidt ook een programma voor dat bepaalde gebruikers en organisaties die zich bezighouden met cyberverdediging toegang geeft tot geavanceerdere AI-mogelijkheden, afhankelijk van hun rol en betrouwbaarheid. Zo wil het bedrijf de beschikbaarheid van krachtige functies beter reguleren, terwijl professionele verdedigers hiervan kunnen profiteren. Met de oprichting van de Frontier Risk Council, nieuwe defensieve tools en strengere veiligheidsmaatregelen streeft OpenAI naar een balans tussen innovatie en risicobeheersing. Het bedrijf benadrukt dat de toenemende impact van geavanceerde AI nauwe samenwerking met externe experts vereist voor een verantwoorde verdere ontwikkeling.