Modello di routing e costi dei modelli frontiera spingono domanda per modelli open-weight

Il crescente costo dei modelli frontiera e la popolarità dei modelli open-weight stanno spingendo la domanda per sistemi di routing dei modelli, come dimostra il caso di Glean, azienda specializzata nell’introduzione di intelligenza artificiale nei grandi organismi. Introdotta nel 2026, la tecnologia di routing permette a Glean di selezionare dinamicamente il modello più adatto per ogni compito, riducendo i costi e migliorando l’efficienza. Questo approccio è diventato cruciale per le aziende, che cercano soluzioni economiche e performanti per integrare l’AI nel loro workflow.

Modello di routing e costi dei modelli frontiera

Il modello di routing di Glean permette di selezionare automaticamente il modello più adatto per ogni compito, evitando l’uso di modelli avanzati quando non necessari. Questo sistema, spiegato da Arvind Jain, CEO di Glean, riduce i costi e migliora la velocità e l’efficienza. “Il motivo principale per cui le persone parlano di modello di routing è il costo”, ha detto Jain. I modelli frontiera, pur potenti, sono troppo costosi per le aziende, che spesso non riescono a sostenere i loro investimenti a lungo termine.

La riduzione dei costi è diventata un fattore chiave per le aziende.

Modelli open-weight e loro impatto

La crescente popolarità dei modelli open-weight, come Kimi K3 e Qwen3.8-Max, ha portato un interesse significativo da parte delle aziende, principalmente per motivi di costo. “L’uso dei modelli open-source era minimo l’anno scorso e nessuno li considerava seriamente”, ha detto Jain. Tuttavia, negli ultimi mesi, l’interesse è cresciuto in modo esponenziale, soprattutto a causa dell’aumento dei costi dei modelli frontiera. “Oggi, posso dire che in molte aziende, i modelli open-source sono diventati una parte chiave della loro strategia AI”, ha aggiunto.

La scelta tra modelli open-weight e frontiera dipende dal costo e dall’efficienza.

La tecnologia Waldo e il suo ruolo

Un aspetto chiave del sistema di routing di Glean è il modello Waldo, introdotto nel 2026. Waldo funge da filtro per le richieste degli utenti, decidendo come suddividere la domanda, quali strumenti utilizzare e quando passare a un modello avanzato. “Waldo permette di assemblare i materiali necessari per il lavoro senza bruciare token dei modelli LLM”, ha spiegato Jain. Questo approccio ha dimostrato che un modello più economico con un contesto migliore può superare un modello avanzato carico di dati irrilevanti.

La combinazione di modelli open-weight e sistema di routing ha reso Glean una soluzione versatile e economica per le aziende. Con un aumento del 300% del ricavo annuale ricorrente (ARR) in 15 mesi, Glean ha dimostrato la sua capacità di adattarsi alle esigenze del mercato. La sua strategia di routing non solo riduce i costi, ma migliora anche la qualità dei risultati, grazie a un ciclo di feedback basato su dati reali e su modelli di giudizio AI. Con l’adozione crescente di AI-native e la necessità di integrare l’AI nel workflow aziendale, Glean si posiziona come una soluzione chiave per le aziende che cercano un equilibrio tra potenza, efficienza e costo. Il suo modello di routing, supportato da tecnologie come Waldo e da un’ampia base di dati, rappresenta un passo avanti significativo nel settore dell’AI enterprise.