Equinix ha ampliato la sua partnership con NVIDIA e ha stretto una nuova collaborazione con Together AI per lanciare Equinix Inference Exchange. Costruita come un'architettura di inferenza AI distribuita di livello enterprise, la piattaforma avvicina i carichi di lavoro di calcolo ai data store principali, agli utenti finali e alle applicazioni operative. Presentata insieme a Equinix Fabric One a Equinix Horizon, unisce l'hardware enterprise di NVIDIA, la piattaforma di modelli open-source di Together AI e l'infrastruttura di interconnessione globale di Equinix per risolvere i problemi di latenza, sovranità dei dati e colli di bottiglia di rete.

Affrontare l'inferenza distribuita e la gravità dei datiMan mano che l'AI enterprise passa dai prototipi alla produzione ad alto throughput, il posizionamento dell'inferenza determina il costo totale, la latenza di risposta e la conformità. Tuttavia, l'esecuzione di infrastrutture distribuite in ambienti eterogenei comporta costi operativi e complessità di rete.

Equinix mitiga questi problemi utilizzando i suoi oltre 280 data center in 77 aree metropolitane, 230 cloud on-ramp e un ecosistema di oltre 10.500 aziende connesse. Otto dei primi dieci fornitori di modelli AI e nove dei primi dieci cloud AI risiedono già all'interno dei siti Equinix, rendendo la piattaforma un livello di aggregazione neutrale per le pipeline AI distribuite.

Architettura e integrazione dello stackEquinix Inference Exchange comprende tre livelli: infrastruttura fisica, calcolo e software. Equinix gestisce la base di interconnessione fisica sottostante che copre l'alimentazione, il raffreddamento a liquido avanzato, le operazioni continue della struttura, oltre alla connettività dati ibrida tramite Equinix Fabric. NVIDIA fornisce il livello di calcolo e validazione con hardware AI enterprise ottimizzato per un elevato throughput di token e costi di inferenza per query inferiori. Together AI fornisce il livello software di inferenza che supporta oltre 200 modelli open-source. Supporta configurazioni multi-tenant condivise per l'efficienza del calcolo e distribuzioni single-tenant isolate per carichi di lavoro che richiedono capacità dedicate.

Il traffico instradato tramite Equinix Fabric riduce il tempo di primo token (TTFT) per gli utenti regionali e crea collegamenti di peering privati tra lo storage on-premises e gli endpoint dei modelli.

Obiettivi di distribuzione enterprise e disponibilitàSono supportate tre modalità di distribuzione principali. L'inferenza metro-edge esegue modelli all'interno di hub metropolitani locali per risposte API a bassa latenza, insieme a gestione centralizzata e interconnessioni private. La migrazione di modelli open-source offre un percorso di transizione agevole dalle API proprietarie chiuse verso modelli fondazionali aperti, riducendo il vendor lock-in e riutilizzando le reti esistenti. Per i casi d'uso di AI sovrana regolamentata, il suo design distribuito consente alle aziende di contenere l'inferenza e l'elaborazione dei dati all'interno di confini geografici definiti per soddisfare rigide regole di residenza e governance dei dati.

I dirigenti di Equinix, NVIDIA e Together AI affermano che questa integrazione offre un fabric di inferenza ad alto throughput indipendente dal fornitore, che bilancia le prestazioni di calcolo e l'agilità operativa.

Equinix Inference Exchange sarà disponibile per le aziende in generale nel primo trimestre del 2027.

Beijing Qianxing Jietong Technology Co., Ltd.
Sandy Yang/Global Strategy Director
WhatsApp / WeChat: +86 13426366826
Email: yangyd@qianxingdata.com
Sito web: www.qianxingdata.com/www.storagesserver.com
Focus aziendale:
Distribuzione prodotti ICT/Integrazione di sistemi e servizi/Soluzioni infrastrutturali
Con oltre 20 anni di esperienza nella distribuzione IT, collaboriamo con i principali marchi globali per fornire prodotti affidabili e servizi professionali.
“Usare la tecnologia per costruire un mondo intelligente” Il tuo fornitore di servizi di prodotti ICT di fiducia!