Italian
NVIDIA e oltre 35 partner fondatori hanno lanciato l'Open Secure AI Alliance per costruire strumenti, modelli, framework di agenti e tecnologie di sicurezza open-source di IA.La sua composizione attira l'attenzione sia degli assenti che dei partecipanti: Microsoft, IBM, Cisco e Palantir sono a bordo, mentre i principali sviluppatori di modelli a frontiera chiusa OpenAI, Google e Anthropic non si sono uniti.
Sostenuta dall'iniziativa Akrites della Linux Foundation e da OpenSSF, l'alleanza mira a dotare i team di sicurezza di tecnologie ispezionabili e adattabili per proteggere i modelli di IA,Agenti e loro catene di fornitura di softwareI membri fondatori coprono infrastrutture cloud, sicurezza informatica, software aziendale, ricerca sull'IA e comunità open source, tra cui Adobe, Box, Capital One, Cisco, Cloudflare, CrowdStrike,Databricks, Dell Technologies, Elastic, Fortinet, GitHub, HPE, Hugging Face, IBM, LangChain, la Linux Foundation, Microsoft, Mistral, NAVER, NetApp, Nokia, Palantir, Palo Alto Networks, Perplexity, Red Hat,Forze di vendita, SAP, ServiceNow, Siemens, SK Telecom, Snowflake, SpaceXAI, Synopsys, Uber, vLLM e Zscaler.
L'alleanza sottolinea che la valutazione della sicurezza dell'IA dovrebbe coprire l'intera pila di agenti, non solo i pesi dei modelli.autorizzazioniI modelli aperti comportano rischi di uso improprio, come la disabilitazione delle garanzie o l'abuso per attacchi informatici.L'alleanza sostiene che i modelli chiusi non risolvono tali pericoli e impediscono ai difensori di verificare il comportamento dei modelli, verificando i controlli o eseguendo l'IA in loco.
Il Comitato sostiene l'adozione flessibile di IA sia chiusa che aperta: i modelli chiusi si adattano a casi d'uso selezionati e all'avanguardia, mentre le alternative aperte offrono trasparenza,controllo locale e personalizzazione per compiti di difesaQuesto è molto importante per le industrie regolamentate e le entità sovrane che richiedono una supervisione diretta dei dati sensibili, del comportamento dei modelli, dei registri di sicurezza e della risposta agli incidenti.
NVIDIA donerà all'alleanza modelli aperti, pesi, set di dati e ricerca sull'impiego degli agenti, con il suo framework NOOA ospitato su GitHub come primo contributo.NOOA migliora la sicurezza e la verificabilità delle cinture degli agenti di IA, semplificare il test, il tracciamento, la governance e la valutazione quando gli agenti interagiscono con strumenti, dati esterni, basi di codice e sistemi aziendali.isolamento del carico di lavoro, formati di modelli sicuri, scansione di modelli e sviluppo di software con intelligenza artificiale.
I membri fondatori costruiranno componenti di uno stack di difesa AI aperto. HPE supporta SPIFFE / SPIRE per l'identità del carico di lavoro a fiducia zero per autenticare gli agenti AI tramite crittografia.ospitato dalla PyTorch Foundation, elimina i rischi di esecuzione di codice arbitrario nello storage del peso del modello per una condivisione più sicura del modello open-source.sfruttando le patch firmate per salvaguardare l'integrità della catena di approvvigionamento open sourceMicrosoft offre MDASH, uno scanner di agenti multi-modello che rileva difetti di software sfruttabili.allineamento con l'attenzione dell'alleanza per l'audit indipendente e la modifica di strumenti di IA incentrati sulla sicurezza.
Per quanto riguarda la politica, l'alleanza esorta i regolatori a inquadrare gli strumenti di intelligenza artificiale aperti come infrastrutture di sicurezza informatica anziché rischi universali.Le restrizioni generali ai modelli aperti avanzati rischiano di costringere le organizzazioni a fare affidamento su un piccolo pool di fornitori proprietari e indebolire le capacità di test difensivi per le imprese e i governi.Esso richiede un investimento collettivo in set di dati aperti, piattaforme di valutazione, simulatori di attacco, utilità di red-teaming, distribuzione di modelli sicuri e controlli di sicurezza degli agenti.
Per quanto riguarda i team di infrastrutture aziendali, l'iniziativa sottolinea che le implementazioni di IA devono essere protette come sistemi interconnessi che integrano modelli, applicazioni, gestione delle identità, storage, reti,osservabilità e sistemi di decisione automatizzati.
Beijing Qianxing Jietong Technology Co., Ltd.
Sandy Yang, direttore della strategia globale
WhatsApp / WeChat: +86 13426366826
Email: yangyd@qianxingdata.com
Sito web: www.qianxingdata.com/www.storagesserver.com
Affari:
Distribuzione di prodotti TIC/integrazione di sistemi e servizi/soluzioni infrastrutturali
Con oltre 20 anni di esperienza nella distribuzione IT, collaboriamo con i principali marchi globali per fornire prodotti affidabili e servizi professionali.
Utilizzare la tecnologia per costruire un mondo intelligenteIl vostro fornitore di servizi di prodotti ICT di fiducia!
Sandy Yang, direttore della strategia globale
WhatsApp / WeChat: +86 13426366826
Email: yangyd@qianxingdata.com
Sito web: www.qianxingdata.com/www.storagesserver.com
Affari:
Distribuzione di prodotti TIC/integrazione di sistemi e servizi/soluzioni infrastrutturali
Con oltre 20 anni di esperienza nella distribuzione IT, collaboriamo con i principali marchi globali per fornire prodotti affidabili e servizi professionali.
Utilizzare la tecnologia per costruire un mondo intelligenteIl vostro fornitore di servizi di prodotti ICT di fiducia!