Italian
DeepInfra ha lanciato ufficialmente un nuovo data center di IA a Toronto, che rappresenta il primo dispiegamento all'estero dell'azienda al di fuori degli Stati Uniti e la sua nona struttura in tutto il mondo.questo nuovo sito estende l'impronta globale dell'infrastruttura di inferenza di DeepInfra, in un momento in cui la domanda di IA si sta spostando da modelli di formazione a carichi di lavoro di inferenza commerciale.
Il centro dati di Toronto ha una capacità di 1,7 MW e ospiterà oltre 1.000 GPU NVIDIA Blackwell B300.il nuovo cluster di calcolo aumenterà la scala di inferenza globale di DeepInfra e fornirà una riduzione della latenza della rete per gli utenti finali in tutto il Canada e in altre regioni del mondo.
Questa espansione si allinea con una chiara transizione a livello di settore.La domanda di infrastrutture di data center è sempre più focalizzata sui carichi di lavoro di inferenza piuttosto che sui compiti di formazioneL'inferenza di modelli linguistici di grandi dimensioni richiede una disponibilità coerente della GPU, una rete a bassa latenza e un'infrastruttura geograficamente dispersa per alimentare applicazioni interattive, agenti intelligenti di IA,e servizi API ad elevato throughputSecondo la ricerca di McKinsey & Company citata nell'annuncio, i carichi di lavoro di inferenza supereranno il 40% della domanda totale di data center entro il 2030, con un tasso di crescita annuale composto del 35%.
DeepInfra afferma che la distribuzione di Toronto e' stata progettata per soddisfare queste esigenze in evoluzione.posizionare le risorse di calcolo GPU più vicine agli utenti finali e alle fonti di dati locali, ampliando al contempo il throughput globale della piattaformaLa società possiede e gestisce in modo indipendente la sua intera piattaforma di infrastrutture GPU, supportando oltre 200 modelli di IA open source.,che copre sia le implementazioni di modelli aperti che proprietari.
Il lancio sottolinea anche l'adozione crescente dell'architettura Blackwell di NVIDIA per l'infrastruttura di inferenza moderna.Le GPU di Blackwell offrono una maggiore capacità di inferenza e una migliore efficienza energetica per i modelli di linguaggio di grandi dimensioni e i carichi di lavoro di IA multimodaleAnche se DeepInfra non ha rilasciato ulteriori dettagli sull'architettura di rete e di archiviazione,Le distribuzioni su larga scala di questo calibro in genere sfruttano interconnessioni ad alta larghezza di banda e storage distribuito per mantenere la piena utilizzazione della GPU.
Come notato da Nikola Borisov, CEO e co-fondatore di DeepInfra, l'IA aziendale è passata da prove sperimentali a lanci di produzione su larga scala,aumentare la domanda di infrastrutture distribuite a livello globale con bassa latenza e capacità di inferenza scalabileHa spiegato che il cluster di Toronto segna la prima espansione internazionale dell'azienda oltre i confini degli Stati Uniti, posizionando le risorse di calcolo nelle vicinanze dei clienti globali e dei loro set di dati.
L'impianto di Toronto segue il recente round di finanziamento di serie B di DeepInfra e costituisce una parte fondamentale della sua tabella di marcia di espansione delle infrastrutture a lungo termine.L'azienda conferma che sta valutando ulteriori siti internazionali di data center per soddisfare la crescente domanda di mercato di servizi di inferenza basati su GPU.
Beijing Qianxing Jietong Technology Co., Ltd.
Sandy Yang, direttore della strategia globale
WhatsApp / WeChat: +86 13426366826
Email: yangyd@qianxingdata.com
Sito web: www.qianxingdata.com/www.storagesserver.com
Affari:
Distribuzione di prodotti TIC/integrazione di sistemi e servizi/soluzioni infrastrutturali
Con oltre 20 anni di esperienza nella distribuzione IT, collaboriamo con i principali marchi globali per fornire prodotti affidabili e servizi professionali.
Utilizzare la tecnologia per costruire un mondo intelligenteIl vostro fornitore di servizi di prodotti ICT di fiducia!
Sandy Yang, direttore della strategia globale
WhatsApp / WeChat: +86 13426366826
Email: yangyd@qianxingdata.com
Sito web: www.qianxingdata.com/www.storagesserver.com
Affari:
Distribuzione di prodotti TIC/integrazione di sistemi e servizi/soluzioni infrastrutturali
Con oltre 20 anni di esperienza nella distribuzione IT, collaboriamo con i principali marchi globali per fornire prodotti affidabili e servizi professionali.
Utilizzare la tecnologia per costruire un mondo intelligenteIl vostro fornitore di servizi di prodotti ICT di fiducia!