notizie sull'azienda Instintivo ed EPYC; VAST Data imposta un'ampia collaborazione AMD CPU/GPU

John Mao

Pilastri chiave della collaborazione estesa

• - VAST adotta AMD EPYC di 6a generazione (nome in codice Venice) per alimentare le sue piattaforme CBox di 6a generazione e EBox di 3a generazione sottostanti a VAST AI OS.fornire il doppio della larghezza di banda di I/O e una latenza inferiore rispetto a PCIe Gen 5 per i servizi di dati di IA supportati da DataEngine e VAST DataBase, inclusi i database, data warehouses e streaming di eventi.
• -Un'architettura di riferimento tripartita per l'infrastruttura di intelligenza artificiale co-sviluppata da VAST, AMD e DriveNets, che incorpora hardware AI su scala rack AMD Helios, VAST AI OS e rete AI Fabric DriveNets.Il progetto dettaglia il sostegno alle infrastrutture per la formazione, inferenza, apprendimento a rinforzo e carichi di lavoro KV cache, oltre a una guida per la dimensione per i team che costruiscono fabbriche di IA.
• -Partenariati ecosistemici più ampi con TensorMesh, EmbeddedLLM e altri fornitori per accelerare le pile di inferenza di livello di produzione ottimizzate per l'IA agentica.
• - Nuove ottimizzazioni della cache KV e dell'inferenza che uniscono le GPU AMD Instinct, Infinity Context, il software ROCm e il sistema operativo VAST AI.
• -Gestione automatizzata del ciclo di vita della cache KV: la cancellazione della cache contenente dati personali sensibili pone grandi ostacoli alla conformità aziendale.Lo stack integrato sfrutta le regole del ciclo di vita dei dati nativi di VAST per scadere e cancellare automaticamente i dati della cache KV, fornendo una sicurezza solida, la privacy e la conformità normativa senza lavoro amministrativo manuale.
• - AMD Pensando Pollara 400 AI NIC crea percorsi di dati ad alta velocità che collegano le GPU Instinct a VAST AI OS.trasporta in modo fluido i dati tra la memoria GPU e i cluster di archiviazione NVMe SSD di VAST, alimentando l'accesso alla cache e allo storage KV critici per l'inferenza su larga scala e l'AI agentica.
• -implementazioni verificate tra i principali fornitori di cloud AI che offrono servizi di AI basati su AMD a livello globale, tra cui 5C, Core42, Crusoe, EmbeddedLLM, Phanos.AI, TensorWave e Vultr.