Il software DataEnclave di VAST Data crea un ambiente sicuro che consente alle aziende di concedere ai modelli AI l'accesso a dati sensibili, consentendo al contempo agli sviluppatori di modelli di eseguire modelli senza esporre pesi proprietari.
La soluzione affronta due punti dolenti fondamentali. Le aziende evitano di inserire dati riservati in LLM pubblici e cloud nuovi a causa dei rischi di fuga di dati. Nel frattempo, i proprietari di modelli di base esitano a distribuire pesi all'interno di data center aziendali e strutture di colocation non sicure.
DataEnclave può essere distribuito nei locali del cliente o su hardware cloud dedicato, eseguendo modelli AI all'avanguardia dove in precedenza non potevano operare. Ciò consente alle aziende di utilizzare modelli di punta per carichi di lavoro sensibili e consente ai creatori di modelli di raggiungere nuovi ambienti cliente.
Il co-fondatore e CEO di VAST, Renen Hallak, ha dichiarato: "I modelli stanno diventando una risorsa che il sistema operativo deve gestire, allo stesso modo in cui gestisce i dati. Ciò significa sapere quale modello si adatta a quale attività, cosa può vedere, chi può usarlo e secondo quali regole, e fare tutto ciò all'interno degli stessi confini di sicurezza e operativi che un'azienda applica a tutto il resto.
Portare i principali modelli AI in modo sicuro ai dati più sensibili del mondo è da dove inizia. Dove porta è un mondo in cui ogni organizzazione gestisce un ecosistema di modelli ottimizzati che rappresentano la sua vera proprietà intellettuale. Il sistema operativo AI di VAST è ciò che li mantiene sicuri, governati e utili."
Sia le aziende che gli sviluppatori di modelli devono fidarsi di DataEnclave. Offre un runtime sicuro isolato dall'hardware e un'attestazione crittografica. Il sistema convalida l'ambiente e le policy prima che gli asset sensibili vengano decrittografati e caricati nel contenitore sicuro per l'analisi.
Il co-fondatore di VAST, Jeff Denworth, ha dichiarato: "I pesi dei modelli stanno rapidamente diventando la proprietà intellettuale più preziosa al mondo. I pesi di base definiscono il valore dei modelli all'avanguardia, mentre i pesi ottimizzati rappresenteranno sempre più l'intelligenza AI proprietaria delle aziende. Man mano che la posta in gioco aumenta, la protezione dei dati aziendali diventa fondamentale in modo che i clienti possano eseguire potenti AI su di essi. Oggi, VAST Data, in collaborazione con Nvidia, fa progredire il settore con un framework per convalidare ambienti di calcolo non attendibili ed eseguire qualsiasi modello su qualsiasi dato, ovunque."
Le GPU tradizionali mancano di protezione nativa per i dati in uso, a differenza del confidential computing x86 che ha protetto la memoria della CPU per anni. La crittografia protegge i pesi a riposo e in transito, ma i pesi devono essere decrittografati all'interno della memoria della GPU durante l'inferenza. Questa memoria è spesso multi-tenant ed esposta ad amministratori o attori minacciosi che sfruttano hypervisor e firmware compromessi.
Il runtime sicuro e l'attestazione di DataEnclave garantiscono che i modelli proprietari vengano eseguiti all'interno di VM confidenziali basate su ambienti di esecuzione attendibili della CPU, abbinati a GPU Nvidia in modalità confidential computing. Il vicepresidente di Enterprise AI di Nvidia, Justin Boitano, ha dichiarato: "I dati aziendali sono essenziali per un'IA accurata e utilizzabile e mantenere riservati i dati aziendali protegge la proprietà intellettuale nell'era degli agenti. L'integrazione di VAST del confidential computing Nvidia protegge sia le aziende che i creatori di modelli, fornendo sicurezza, identità, permessi, governance e conformità come fondamento per le architetture degli agenti."
DataEnclave supporta distribuzioni VAST sia on-premise che cloud. Funzionalità chiave:
- -Esecuzione isolata dall'hardware: VM e container confidenziali crittografano la memoria guest, la memoria GPU e il traffico NVLink, separando i dati attivi e i modelli dagli amministratori e da altri tenant che condividono l'hardware.
- -Attestazione Verify-Before-Decrypt: il confine di attendibilità verificato crittograficamente rilascia asset sensibili solo ad ambienti approvati.
- -Controllo indipendente delle chiavi: le integrazioni BYOK consentono alle aziende e ai fornitori di modelli di conservare le chiavi nei propri domini di attendibilità, proteggendo sia i pesi aziendali ottimizzati che i pesi del modello di base.
- -Distribuzione connessa o air-gapped: servizio di attestazione basato su CNCF Trustee per casi d'uso connessi; VAST e Fortanix offrono attestazione on-premise e intermediazione di chiavi per ambienti air-gapped.
- -Governato e verificabile per progettazione: i log di audit a prova di manomissione in VAST DataBase tracciano l'attestazione, il rilascio delle chiavi e gli eventi del ciclo di vita dell'enclave per la verifica senza esporre asset protetti.
- -Sandbox per agenti sicuri: runtime isolato per agenti AI applica policy di accesso a dati, sistemi e strumenti. Gli agenti richiedono identità, contenimento e osservabilità poiché non possono assumersi responsabilità come gli esseri umani.
Il livello di sicurezza introduce un overhead di calcolo, tipicamente dal singolo al basso doppio cifra percentuale, a seconda delle dimensioni del modello.
L'adozione dipende da una doppia fiducia: le aziende si fidano di esso con i propri dati e gli sviluppatori di modelli si fidano di esso per ospitare pesi proprietari.
VAST sta allineando creatori di modelli, fornitori di cloud AI e fornitori di server attorno a un'architettura AI locale. I partner di modelli attualmente impegnati includono Cohere, CrowdStrike, Deepgram, Factory, Fundamental, Nvidia e TwelveLabs, non i maggiori attori del settore.
John Mao, VP di Business Development e Alleanze di VAST, ha commentato: "Stiamo parlando con molte aziende di modelli, grandi e piccole. Tutti i fornitori capiscono che perdono circa la metà del mercato se non riescono a portare l'IA ovunque risiedano i dati aziendali. Molte organizzazioni di tutte le dimensioni stanno lavorando attivamente a questa sfida e ne abbiamo parlato con la maggior parte di loro."
I partner server sono Cisco e Supermicro. I partner cloud AI attuali includono Buzz, Nscale e Sharon.AI, con altri previsti a breve.
Alla domanda sugli standard di settore per gli enclave di dati sicuri per i modelli, Mao ha dichiarato: "Alcuni standard esistono già. Il nostro runtime è allineato con Kata Containers supportato da Microsoft, Red Hat e partner del settore. Seguiamo anche il progetto incubato CNCF Confidential Containers per l'attestazione. Le GPU di confidential computing di Nvidia costituiscono il terzo pilastro. Adottiamo un approccio a più fronti e ci allineeremo ulteriormente man mano che il mercato matura."
DataEnclave è in anteprima e verrà spedito nel Q1 2027 tramite VAST Data e partner OEM tra cui Cisco e Supermicro.
Nota 1 Dell, HPE, Lenovo, Supermicro, ASUS, Foxconn, GIGABYTE, Pegatron, QCT, Wistron, Wiwynn, Aivres, ASRock Rack, Compal, Inventec, MiTAC, MSI, AIC e IBM costruiscono sistemi Vera Rubin NVL72 con confidential computing su scala rack: GPU, CPU Vera, crittografia NVLink e attestazione.
Nota 2 Gli agenti AI consumano modelli. Mao ha dichiarato: "Gli agenti si trovano come uno strato sopra i modelli. Il nostro Agent Engine è un framework completo di orchestrazione di agenti. DataEnclave consente ai nuovi modelli di essere eseguiti all'interno del data engine affinché Agent Engine possa accedervi e utilizzarli. Gli agenti gestiti possono invocare questi modelli all'avanguardia ospitati sul sistema operativo VAST."
Beijing Qianxing Jietong Technology Co., Ltd.
Sandy Yang/Global Strategy Director
WhatsApp / WeChat: +86 13426366826
Email: yangyd@qianxingdata.com
Sito web: www.qianxingdata.com/www.storagesserver.com
Focus aziendale:
Distribuzione prodotti ICT/Integrazione di sistemi e servizi/Soluzioni infrastrutturali
Con oltre 20 anni di esperienza nella distribuzione IT, collaboriamo con i principali marchi globali per fornire prodotti affidabili e servizi professionali.
"Usare la tecnologia per costruire un mondo intelligente" Il tuo fornitore di servizi di prodotti ICT di fiducia!
Il tuo messaggio deve contenere da 20 a 3000 caratteri!
Italian
