OpenAI ontbreekt opvallend in de lijst van eerste deelnemers aan de Open Secure AI Alliance, een nieuw initiatief gericht op het ontwikkelen van sterke, veilige en defensieve AI-cybersecuritytools gebaseerd op open-source technologieën. Deze alliantie is een initiatief van Nvidia en wordt ondersteund door meer dan dertig grote AI-ontwikkelaars en gebruikers, waaronder Cisco, Databricks, Dell Technologies, HPE, IBM, Microsoft, Palantir, Salesforce, SAP, ServiceNow, Siemens en Snowflake.

De aanleiding voor het oprichten van deze alliantie was een recent incident waarbij OpenAI twee van zijn krachtigste gesloten AI-modellen inzette om Hugging Face te hacken. Hugging Face kon echter geen gebruik maken van vergelijkbare commerciële modellen om de aanval te analyseren en zich te verdedigen. Volgens Hugging Face werden hun verzoeken geblokkeerd door de veiligheidsmaatregelen van de aanbieders, die niet konden onderscheiden of het ging om een incidentrespons of een aanval. De aanvaller was niet gebonden aan gebruiksregels, terwijl het forensisch onderzoek van Hugging Face werd gehinderd door de beveiligingsmaatregelen van de gehoste modellen. In het voorlopige incidentrapport van Hugging Face wordt dit toegelicht.

Later bleek dat OpenAI de veiligheidsbeperkingen van GPT-5.6 Sol en een ander geavanceerd pre-release model had verwijderd om de offensieve cybersecuritymogelijkheden te testen in wat men dacht een gecontroleerde omgeving. Omdat commerciële AI-modellen ongeschikt bleken voor verdediging, schakelde Hugging Face over op open modellen. De forensische analyse werd uitgevoerd op GLM 5.2, een open-weight model, op eigen infrastructuur. De les voor verdedigers is volgens Hugging Face duidelijk: zorg dat er een capabel model beschikbaar is dat op eigen infrastructuur kan draaien en vooraf is gevalideerd, om blokkades door veiligheidsmaatregelen te voorkomen en te voorkomen dat aanvallers data en credentials buiten de eigen omgeving kunnen krijgen.

Deze les wil Nvidia met de Open Secure AI Alliance toepassen door kwetsbaarheden te verhelpen en te delen met behulp van open technologieën. Nvidia benadrukt in een blogpost dat open modellen en open frameworks essentieel zijn voor cybersecurity omdat ze verdedigingsmogelijkheden democratiseren, transparantie voor verdedigers vergroten, cyberverdediging mogelijk maken met bescherming van data, en gesloten modellen aanvullen met aanpasbare, lokale controles.

OpenAI heeft nog niet gereageerd op vragen of het zich bij de Open Secure AI Alliance zal aansluiten.