notizie sull'azienda Il grafico di contesto Jedify riduce i costi dei token AI del 75%

Jedify promuove l'integrazione dell'IA con la tecnologia dei grafi contestuali, affermando che la sua soluzione può ridurre i costi dei token dell'IA fino a tre quarti.

I grafi contestuali memorizzano le relazioni tra entità (persone, prodotti, luoghi, ecc.) all'interno di strutture simili a database. I database a grafo organizzano i dati come nodi (entità) e archi (relazioni), dando priorità alle connessioni per una rapida navigazione di dati complessi e interconnessi, a differenza dei database relazionali basati su tabelle. Mentre i grafi della conoscenza supportano i carichi di lavoro dell'IA, i grafi contestuali convalidano ulteriormente quali relazioni sono vere.

Il co-fondatore e CTO di Jedify, Adi Elimelech, ha commentato: “Gran parte del settore confonde l'efficienza dei token con l'efficienza dei costi, eppure differiscono. La pre-codifica della logica di business all'interno di un grafo contestuale risparmia al modello il dover ragionare da zero per ogni query; questo è il meccanismo principale, indipendente dall'implementazione del fornitore.”

Invece di fornire l'intero schema del database all'IA ad ogni query, il grafo contestuale di Jedify pre-codifica definizioni di logica di business, calcoli, relazioni e regole in una base di conoscenza strutturata. Si aggiorna ed espande autonomamente in linea con i cambiamenti aziendali, ingerendo nuovi dati, relazioni e regole. Alle query degli utenti, vengono recuperate solo le entità pertinenti, fornendo un contesto compatto e preciso all'LLM.

Jedify ha eseguito benchmark di magazzini di produzione su 100 domande di business suddivise in tre livelli di complessità (200 punti di test graduati in totale). La sua configurazione con grafo contestuale ha generato in media 25.036 token grezzi per chiamata di generazione SQL con un tasso di risposte corrette dell'87%. Al contrario, i metodi convenzionali di iniezione dello schema consumano da 50.000 a 150.000 token per chiamata con un'accuratezza del 60-70%; i sistemi multi-agente basati sull'iniezione dello schema come CHESS raggiungono quasi 339.965 token per richiesta. Nota: queste baseline di riferimento attingono da studi esterni con schemi e set di domande distinti, non da test di magazzino affiancati.

Misurato da un framework token-ROI che bilancia costi e accuratezza, l'approccio di Jedify ha fornito rendimenti 4,6 volte superiori rispetto ai flussi di lavoro di iniezione dello schema e 20 volte superiori rispetto alle pipeline multi-agente di base. L'iniezione dello schema ha raggiunto il 60-70% di output corretti, mentre Jedify ha raggiunto una forte accuratezza per le entità all'interno della copertura del grafo.

Alla scala aziendale di 100 tabelle, il grafo contestuale ha ridotto l'iniezione di token di circa il 50% per chiamata SQL rispetto alle baseline dello schema grezzo; a 200 tabelle, i risparmi di token hanno superato il 75%.

Elimelech ha anche evidenziato i vantaggi della proprietà dei dati: “La logica di business risiede nel tuo grafo controllato, quindi non esponi il tuo intero schema e le regole di join-filter ai fornitori di modelli frontier ad ogni richiesta.”

Filtrando solo le entità richieste prima della generazione SQL, i grafi contestuali riducono il carico di ragionamento del modello. L'analisi del routing di produzione indica che circa l'85% delle query di analisi aziendale può essere eseguito su modelli open-source più economici invece che su LLM frontier premium con una perdita di accuratezza trascurabile, riducendo la spesa infrastrutturale.

Scarica il white paper correlato qui.

Beijing Qianxing Jietong Technology Co., Ltd.
Sandy Yang/Global Strategy Director
WhatsApp / WeChat: +86 13426366826
Email: yangyd@qianxingdata.com
Sito web: www.qianxingdata.com/www.storagesserver.com
Focus Aziendale:
Distribuzione Prodotti ICT/Integrazione di Sistemi e Servizi/Soluzioni Infrastrutturali
Con oltre 20 anni di esperienza nella distribuzione IT, collaboriamo con i principali marchi globali per fornire prodotti affidabili e servizi professionali.
“Usare la Tecnologia per Costruire un Mondo Intelligente” Il Tuo Fornitore di Servizi di Prodotti ICT di Fiducia!