Costi dei modelli frontiera e popolarità dei modelli open-weight spingono domanda per modello di routing

Il crescente costo dei modelli frontiera e la popolarità dei modelli open-weight stanno spingendo la domanda per sistemi di routing dei modelli, come dimostra il caso di Glean, azienda specializzata nell’introduzione di intelligenza artificiale nei grandi organismi. Introdotta nel 2026, la tecnologia di routing permette a Glean di selezionare dinamicamente il modello più adatto per ogni compito, riducendo i costi e migliorando l’efficienza. Questo approccio è diventato cruciale per le aziende, che cercano soluzioni economiche e performanti per integrare l’AI nel loro workflow.

Modello di routing e costi dei modelli frontiera

Il modello di routing di Glean permette di selezionare automaticamente il modello più adatto per ogni compito, evitando l’uso di modelli avanzati quando non necessari. Questo sistema, spiegato da Arvind Jain, CEO di Glean, riduce i costi e migliora la velocità e l’efficienza. Il motivo principale per cui le persone parlano di modello di routing è il costo. I modelli frontiera, pur potenti, sono troppo costosi per le aziende, che spesso non riescono a sostenere i loro investimenti a lungo termine.

La crescente popolarità dei modelli open-weight, come Kimi K3 e Qwen3.8-Max, ha reso più accessibili e economici i servizi di intelligenza artificiale per le aziende. “L’uso dei modelli open source era minimo l’anno scorso e nessuno li considerava seriamente”, ha detto Jain. Tuttavia, negli ultimi mesi, l’interesse per i modelli open-weight è cresciuto in modo esponenziale, soprattutto per motivi di costo. Oggi, in molte aziende, i modelli open source sono considerati una parte chiave della strategia AI.

Waldo e la selezione dei modelli

Un aspetto chiave del sistema di routing di Glean è il modello Waldo, introdotto nel 2026 come “modello di ricerca agente” della società. Waldo riduce il latenza del 50% e il numero di token del 25%, riservando i modelli avanzati solo per compiti specifici. “Waldo decide come suddividere la domanda, quali strumenti utilizzare, cosa leggere successivamente e quando ha abbastanza dati per passare a un modello avanzato”, ha spiegato Jain. Questo processo permette a Glean di selezionare i modelli più adatti per ogni compito, senza sprechi di risorse.

Il sistema di routing di Glean si basa su un feedback continuo da parte degli utenti, che permette di migliorare costantemente l’efficienza del sistema. “Siamo in grado di osservare come gli utenti utilizzano l’AI e di adattare il sistema di routing in base a quelle osservazioni”, ha detto Jain. Questo approccio ha reso Glean una delle aziende più innovative nel settore dell’AI enterprise, con un’adozione elevata in aziende come Zillow e Booking.com. Con l’aumento dei costi dei modelli frontiera e la crescente popolarità dei modelli open-weight, il sistema di routing di Glean si è rivelato una soluzione chiave per le aziende che cercano un equilibrio tra efficienza e costo. Questo trend segna un cambiamento significativo nel settore dell’AI, con aziende che iniziano a considerare l’AI come parte integrante del loro workflow, non solo come strumento di ricerca.