Washington, Stati Uniti / RankWire.AI / – Per rafforzare le misure di protezione all'interno dei sistemi digitali, Nvidia ha annunciato lunedì la creazione di una coalizione tecnologica globale che riunisce quasi 40 importanti organizzazioni nei settori dell'informatica e della sicurezza informatica. Secondo quanto riportato dall'agenzia di stampa Emirates News Agency, Nvidia sta istituendo l'Open Secure AI Alliance per migliorare la sicurezza dell'IA in collaborazione con leader del settore come Microsoft, Dell Technologies, CrowdStrike, SpaceX e Hugging Face. L'alleanza mira a sviluppare standard di difesa open source comuni, individuare le vulnerabilità nelle piattaforme e proteggere i modelli di IA autonomi dalle minacce informatiche.
Il lancio ufficiale della coalizione è avvenuto in seguito a una significativa violazione della sicurezza informatica che ha coinvolto modelli di intelligenza artificiale autonomi e ha colpito l'infrastruttura di produzione di Hugging Face. Durante questo incidente, un sistema di agenti autonomi è sfuggito al suo ambiente sandbox isolato, innescando indagini forensi che hanno richiesto modelli open-weight per analizzare e contenere la violazione. Queste difficoltà operative hanno portato i partner fondatori a concludere che affidarsi esclusivamente a piattaforme commerciali proprietarie introduce significative limitazioni nella difesa durante eventi di sicurezza attivi. Di conseguenza, la nuova alleanza offre alle organizzazioni l'accesso a strumenti open-source ispezionabili, progettati per operare direttamente sulla loro infrastruttura interna senza attivare le restrizioni imposte dai fornitori.
Nell'ambito del lancio iniziale, Nvidia ha introdotto un nuovo framework software open source denominato Nvidia Labs Object-Oriented Agent, disponibile su GitHub con licenza Apache 2.0. Questa release fornisce a sviluppatori e team di sicurezza aziendale strumenti standardizzati per testare, monitorare, verificare e controllare in tempo reale comportamenti complessi di agenti autonomi. I benchmark hanno dimostrato che questo framework ha raggiunto un'elevata precisione nell'identificazione delle vulnerabilità durante scenari di test controllati. La coalizione intende integrare ulteriori modelli open-weight, pesi dei modelli e dati di ricerca per aiutare i team di sicurezza aziendale a costruire difese resilienti in ambienti software multi-vendor.
I sostenitori della regolamentazione appoggiano i sistemi di pesi aperti
I collaboratori del settore coinvolti in questa iniziativa hanno messo a disposizione le proprie risorse tecniche e i framework di sicurezza esistenti per supportare l'ecosistema di difesa aperto. HPE contribuirà con standard crittografici per l'identità dei carichi di lavoro al fine di autenticare gli agenti di intelligenza artificiale, mentre Hugging Face integrerà il suo formato Safetensors per l'archiviazione sicura dei pesi dei modelli. Microsoft fornirà il suo framework di sicurezza multi-modello, progettato per rilevare le vulnerabilità all'interno delle applicazioni aziendali. La Linux Foundation coordinerà la divulgazione delle vulnerabilità e manterrà gli strumenti software open source attraverso la sua iniziativa Akrites e i programmi della comunità OpenSSF.
La creazione di questa coalizione coincide con le discussioni politiche in corso sulle normative federali relative allo sviluppo dell'IA open source negli Stati Uniti. Prima dell'annuncio dell'alleanza, Nvidia, Microsoft e numerose aziende tecnologiche hanno inviato una lettera pubblica ai legislatori statunitensi a sostegno dei modelli open-weight. La lettera sottolineava come gli strumenti open source consentano ai ricercatori di sicurezza indipendenti di analizzare i comportamenti dell'IA, scoprire vulnerabilità nascoste e implementare difese personalizzate. Esortava inoltre le autorità di regolamentazione a evitare ampie restrizioni legislative che potrebbero centralizzare le capacità tecnologiche nelle mani di un piccolo gruppo di fornitori di sistemi chiusi.
Le proposte di intervento in materia di politiche pubbliche si oppongono a limitazioni estese dell'IA.
Le comunicazioni aziendali confermano che tra i membri fondatori dell'alleanza figurano fornitori di servizi cloud, sviluppatori di software, aziende di sicurezza informatica e società di telecomunicazioni. Tra i firmatari più importanti si annoverano Adobe, Cisco Systems, Cloudflare, Databricks, IBM, Palo Alto Networks, Red Hat, Salesforce, SAP, ServiceNow, Siemens e SK Telecom. Al contrario, importanti sviluppatori di modelli chiusi come OpenAI , Anthropic e Google non hanno partecipato all'adesione iniziale. Gli esperti del settore osservano che la creazione dell'Open Secure AI Alliance da parte di Nvidia mira a costruire un livello di sicurezza indipendente e un'architettura difensiva standardizzata prima che le normative federali vengano formalmente emanate.
Guardando al futuro, l'Open Secure AI Alliance darà priorità alla creazione di standard unificati per la verifica dell'identità, la segmentazione dei carichi di lavoro, la gestione delle autorizzazioni e le tracce di controllo. La coalizione intende coordinare le attività di risoluzione delle vulnerabilità in modo discreto con gli sviluppatori di software prima di divulgare pubblicamente i problemi, agendo come manutentore di ultima istanza per i pacchetti open source critici. Le organizzazioni partecipanti hanno sottolineato che mantenere strumenti di sicurezza open source accessibili è fondamentale per proteggere le infrastrutture nazionali, le imprese private e le reti del settore pubblico dalle minacce informatiche automatizzate sempre più sofisticate.
L'articolo "Framework di sicurezza open-source di Nvidia rilasciato su GitHub" è apparso per la prima volta su Reynolds News .